Прокачка Telegram-бота на локальной LLM: от простых чатов до мини-игр, генерации фото и выбора нейросетей

На этом этапе возникла неожиданная сложность: модель часто использовала разметку LaTeX (например, \( ... \) или \frac), которую интерфейс Telegram не способен интерпретировать корректно.

Попытки решить проблему через системный промт не увенчались успехом — ИИ игнорировал инструкции.

Пришлось внедрить функцию постобработки на базе регулярных выражений для очистки текста.

# Удаление блоков математической разметки
text = re.sub(r'\\\[|\\\]|\\\(|\\\)', '', text)

# Трансформация \frac{a}{b} в (a / b)
text = re.sub(r'\\frac\{(.*?)\}\{(.*?)\}', r'(\1 / \2)', text)

# Конвертация корней \sqrt{a} → √(a)
text = re.sub(r'\\sqrt\{(.*?)\}', r'√(\1)', text)

# Очистка команд \text{...}
text = re.sub(r'\\text\{(.*?)\}', r'\1', text)

# Замена спецсимволов replacements = { r'\pm': '±', r'\times': '×', r'\cdot': '×', r'\div': '÷', r'\approx': '≈', r'\le': '≤', r'\ge': '≥', r'\neq': '≠', r'\quad': ' ', r'\,': '', r'\%': '%' }

# Циклическая замена символов for latex, normal in replacements.items(): text = text.replace(latex, normal)

# Обработка степеней
text = re.sub(r'\^\{(.*?)\}', r'^\1', text)

# Удаление конструкций \left \right
text = re.sub(r'\\left|\\right', '', text)

# Удаление прочих служебных команд
text = re.sub(r'\\[a-zA-Z]+', '', text)

# Финальная очистка фигурных скобок
text = text.replace('{', '').replace('}', '')

В результате математические выкладки стали выглядеть презентабельно.

Важное уточнение: В режиме стриминга процесс очистки мог приводить к тому, что текст сообщения не менялся между итерациями, провоцируя ошибку API Telegram. Я добавил условие: if last_sent_text != new_text: message.edit_text(new_text).

V1.3: Контекстная память и оформление Markdown

Ключевым обновлением стало внедрение истории диалогов. Без памяти бот не способен поддерживать осмысленную беседу. Для надежного хранения данных вместо нестабильной оперативной памяти я использовал SQLite.

with sqlite3.connect('memory.db') as conn: cursor = conn.cursor() cursor.execute(""" CREATE TABLE IF NOT EXISTS messages ( id INTEGER PRIMARY KEY AUTOINCREMENT, chat_id INTEGER, role TEXT, content TEXT, timestamp REAL ) """)

Теперь для каждого пользователя (chat_id) формируется персонализированная цепочка сообщений.

Также была решена проблема с отображением Markdown. Несмотря на то, что модель выделяла текст жирным, Telegram игнорировал разметку до момента явного указания parse_mode="Markdown" в методе edit_text.

Дополнительно в системный промт была добавлена директива отвечать только на русском языке, так как китайские модели иногда переключались на родной язык без видимых причин.

V1.5: Гибкий выбор нейросетевых моделей

Для удобства переключения между различными ИИ-движками я реализовал систему инлайн-кнопок. Каждая кнопка передает идентификатор модели в переменную current_model, которая затем подставляется в запрос к API Ollama.

async with session.post(
OLLAMA_URL,
json={
"model": current_model,

В библиотеку были включены: llama3:8b, mistral:7b, deepseek-coder:6.7b, codellama:7b, qwen2.5:7b-instruct, phi3:mini и другие.

Технический нюанс: Интерактивные элементы заработали корректно только после явного указания allowed_updates=["message", "callback_query"] в настройках поллинга бота.

Для минимизации задержек при первом обращении к новой модели я внедрил этап «прогрева». Боту отправляется скрытый микро-запрос «Привет», что заставляет систему заранее загрузить веса модели в память видеокарты.

V1.6: Мультимодальность, код и кэширование

Я структурировал каталог моделей, разбив их по категориям, и добавил визуальную индикацию текущей активной модели с помощью эмодзи «галочки».

Для обнуления контекста была создана команда очистки истории:

cursor.execute("""
DELETE
FROM messages
WHERE chat_id = ?
""", (chat_id,))

Поскольку процесс выгрузки одной модели и загрузки другой занимает время, я добавил информационное сообщение «Загружаю модель...», чтобы пользователь понимал статус операции.

Для повышения отзывчивости системы было внедрено TTL-кеширование. Модели теперь остаются в памяти на определенный срок, что позволяет мгновенно обслуживать запросы разных пользователей, работающих с одним и тем же ИИ-ядром.

Первым шагом к мультимодальности стала интеграция glm-ocr — модели, способной извлекать печатный текст из изображений. Теперь при получении фото бот автоматически направляет его на обработку визуальным энкодером.

photo = message.photo[-1]
file = await photo.get_file()
file_path = f"temp_{chat_id}.jpg"
await file.download_to_drive(file_path)
with open(file_path, 'rb') as f:
            image_bytes = f.read()
            image_base64 = base64.b64encode(image_bytes).decode('utf-8')

Параллельно была решена проблема оформления программного кода. Я разработал функцию, которая оборачивает блоки кода в HTML-теги <pre><code> для корректного отображения моноширинного шрифта в Telegram.

pattern = r"(?:\w+)?\n(.*?)"
def repl(math):
code = math.group(1)
escaped = html.escape(code)
return f"
{escaped}
"
re.sub(pattern, repl, text, flags=re.DOTALL)

Также появилась специализированная категория переводчиков, лидером которой стала TranslateGemma, обеспечивающая высокоточное лингвистическое преобразование фраз.
Чтобы гарантировать корректное форматирование при использовании HTML, я реализовал конвертер, который переводит Markdown-разметку (решетки для заголовков, звездочки для жирности) в соответствующие HTML-теги.
text = fix_latex(text)
text = re.sub(r'### (.+?)(?:\n|$)', r'\1\n', text)
text = re.sub(r'## (.+?)(?:\n|$)', r'\1\n', text)
text = re.sub(r'# (.+?)(?:\n|$)', r'\1\n', text)

text = re.sub(r'**(.+?)**', r'\1', text, flags=re.DOTALL)
text = re.sub(r'(?<!*)*(?!*)(.+?)(?<!*)*(?!*)', r'\1', text, flags=re.DOTALL)
text = re.sub(r'^- ', '• ', text, flags=re.MULTILINE)
V1.7: Работа с длинными сообщениями
С ростом «интеллекта» моделей увеличился и объем генерируемых текстов. Ответы начали выходить за пределы стандартного лимита Telegram в 4096 символов. Для решения этой проблемы был внедрен алгоритм автоматического дробления сообщений на части по 4000 знаков с сохранением целостности стриминга.

При разрыве текста разметка HTML часто оставалась незавершенной. Чтобы избежать искажения интерфейса, была написана функция автоматического закрытия тегов.
tags = ["b", "i", "pre", "code"]
for tag in tags:
opens = text.count(f"<{tag}>")
closes = text.count(f"</{tag}>")
if opens > closes:
    text += f"</{tag}>" * (opens - closes)
elif closes > opens:
    text = text.replace(f"</{tag}>", "", closes - opens)

V1.8: Геймификация — мини-игра «Детектив»
Для демонстрации творческого потенциала ИИ я добавил игру «Детектив». Нейросеть генерирует уникальный криминальный сюжет в формате JSON (улики, подозреваемые, мотивы), а игрок выступает в роли следователя.


Игрок располагает ограниченным количеством вопросов. В геймплей включены специальные способности: «Криминалист» открывает случайную улику, «Журналист» проводит допрос, а «Психолог» составляет портрет личности.

За генерацию сценариев отвечает qwen2.5:14b-instruct, что обеспечивает высокую вариативность сюжетов и логическую стройность расследований.
V1.8.1: Стабилизация и отказоустойчивость
Домашний хостинг сопряжен с рисками обрыва связи или сбоев ПО. Чтобы обеспечить непрерывную работу, я реализовал:


Детальное логирование для оперативной диагностики ошибок.


Механизм автоматического перезапуска при критическом падении процесса поллинга.


if name == "main":
     while True:
         try:
             logging.info("Инициализация...")
             asyncio.run(run_bot_polling(app))
         except Exception as e:
             logging.error(f"Сбой: {e}")
             time_module.sleep(5)
V2.0: Визуальное воображение
Финальным крупным обновлением стала интеграция AUTOMATIC1111 для генерации изображений. Доступны классические и современные модели: SDXL, Stable Diffusion 3 Medium, DreamShaper. Взаимодействие происходит через API WebUI.
payload = { "prompt": prompt, "steps": 25, "width": 1024, "height": 1024, "override_settings": {"sd_model_checkpoint": model_name}}

Пользователь отправляет команду /draw [описание], бот генерирует изображение и отправляет результат в чат.
Резюме:
Создание собственного Telegram-бота на базе локальных нейросетей — это не только технически осуществимый, но и крайне увлекательный процесс. Он не требует колоссальных затрат, если у вас уже есть производительный ПК, но при этом предоставляет полную свободу в реализации функций: от текстового ассистента до полноценной игровой платформы и генератора графики.