Адаптация телеграмма под ИИ-тренды
Прошел уже месяц с крупного обновления телеграмма для поддержки ИИ прямо в мессенджере, и разработчики ботов получили сразу несколько нативных штук, которые раньше приходилось городить руками
Из ключевого:
- Guest Bots - бота можно вызвать по @username в любом чате, не добавляя его в участники. Один инстанс отвечает хоть в миллионе чатов, при этом видит только те сообщения, где его упомянули, и ответы на них
- sendMessageDraft - нативный стриминг ответа, бот публикует черновик и докидывает в него токены по мере генерации
- Bot-to-Bot - боты теперь отвечают не только людям, но и друг другу
Настал момент, когда боты видят сообщения друг друга, хотя раньше это казалось табу, так как могло зациклить их
Теперь можно собирать автономных агентов, которые дергают друг друга как сервисы и автоматизируют процессы
И отдельно радует sendMessageDraft - раньше эффект печатающегося текста собирали через edit_message_text. Отправляешь сообщение, а потом на каждый токен правишь его же:
msg = await message.answer("…")
buffer = ""
async for token in stream:
buffer += token
await msg.edit_text(buffer)
await asyncio.sleep(1) # троттлим, иначе rate limit
Но надо было учитывать лимиты телеграмм и редачить не чаще раза в секунду
Теперь под это есть родной метод. Черновик живет как превью, ты докидываешь в него токены по одному draft_id, а в конце один раз отправляешь финальное сообщение, чтобы оно осталось в чате:
buffer = ""
async for token in stream:
buffer += token
await bot.send_message_draft(
chat_id=message.chat.id,
draft_id=message.message_id,
text=buffer,
)
await message.answer(buffer) # финал, чтобы остался в чате
Так что теперь не будет подергиваний при ответе
Приятно видеть, как телеграмм из мессенджера превращается в площадку, где боты (или моднее - агенты) становятся все большей частью экосистемы
Прошел уже месяц с крупного обновления телеграмма для поддержки ИИ прямо в мессенджере, и разработчики ботов получили сразу несколько нативных штук, которые раньше приходилось городить руками
Из ключевого:
- Guest Bots - бота можно вызвать по @username в любом чате, не добавляя его в участники. Один инстанс отвечает хоть в миллионе чатов, при этом видит только те сообщения, где его упомянули, и ответы на них
- sendMessageDraft - нативный стриминг ответа, бот публикует черновик и докидывает в него токены по мере генерации
- Bot-to-Bot - боты теперь отвечают не только людям, но и друг другу
Настал момент, когда боты видят сообщения друг друга, хотя раньше это казалось табу, так как могло зациклить их
Теперь можно собирать автономных агентов, которые дергают друг друга как сервисы и автоматизируют процессы
И отдельно радует sendMessageDraft - раньше эффект печатающегося текста собирали через edit_message_text. Отправляешь сообщение, а потом на каждый токен правишь его же:
msg = await message.answer("…")
buffer = ""
async for token in stream:
buffer += token
await msg.edit_text(buffer)
await asyncio.sleep(1) # троттлим, иначе rate limit
Но надо было учитывать лимиты телеграмм и редачить не чаще раза в секунду
Теперь под это есть родной метод. Черновик живет как превью, ты докидываешь в него токены по одному draft_id, а в конце один раз отправляешь финальное сообщение, чтобы оно осталось в чате:
buffer = ""
async for token in stream:
buffer += token
await bot.send_message_draft(
chat_id=message.chat.id,
draft_id=message.message_id,
text=buffer,
)
await message.answer(buffer) # финал, чтобы остался в чате
Так что теперь не будет подергиваний при ответе
Приятно видеть, как телеграмм из мессенджера превращается в площадку, где боты (или моднее - агенты) становятся все большей частью экосистемы