TGStat
TGStat
Введите текст для поиска
Расширенный поиск каналов
  • flag Russian
    Язык сайта
    flag Russian flag English flag Uzbek
  • Вход на сайт
  • Каталог
    Каталог каналов и чатов Региональные подборки Тематические подборки Платные каналы Поиск каналов
    Добавить канал/чат
  • Рейтинги
    Рейтинг каналов Рейтинг чатов Рейтинг публикаций
    Рейтинги брендов и персон
  • Аналитика
  • Поиск по публикациям
  • Мониторинг Telegram
  • Продвижение
    Реклама через Яндекс Бизнес Реклама в каналах через TGStat Agency Реклама на сайте TGStat.ru
Concise Research

29 Jun, 12:32

Открыть в Telegram Поделиться Пожаловаться

Результаты

На IA-Bench Qwen-Image-Agent даёт IA-score 45.4.

Для контекста:
• Nano Banana Pro — 42.6
• GPT-Image-1.5 — 35.7
• Чистый Qwen-Image-2.0 без агента — 17.4

То есть агентский обвес поверх собственной модели даёт ~+28 пунктов и выводит её выше топовых закрытых рендереров на этом бенче.

На WISE-Verified, более старом бенче на world knowledge ситуация аналогичная.

В работе аблейтят влияние поиска (IA-score падает на 11 пунктов), ризонинга (минус 10 нуктнов). Удаление памяти и промежуточной оценки влияет меньше, но суммарно еще -8. А еще при замене GPT-5.5 на Qwen-Plus + Qwen-VL-Max IA-score падает с 45.4 до 27.8. То есть около половины прироста сидит в качестве закрытой VLM, а не в инженерии агента.

Замечания

Во-первых, цена. Один запрос — это: planning-проход на GPT-5.5, несколько ризонинг вызовов на каждый вопрос, до пяти хитов поиска с VLM реранкером, рендер на Qwen-Image-2.0, оценка качества через GPT-5.5, и так до трёх раундов фидбека

Во-вторых, зависимость от качества VLM. Падение IA-score с 45.4 до 27.8 при смене GPT-5.5 на Qwen-Plus говорит, что для качества системы важнее доступ к топовой закрытой VLM, чем конкретный дизайн агента

В-третьих, чувствительность к качеству поиска. Плохие результаты иногда полностью ломают рендеринг

В-четвёртых, как и у всех агентов есть проблема с разбуханием контекста и памятью, а из-за того что в этом пайплайне много дорогих по токенам картинок, эта проблема стоит еще острее

477 0 2 1
Каталог
Каталог каналов и чатов Подборки каналов Поиск каналов Добавить канал/чат
Рейтинги
Рейтинг каналов Telegram Рейтинг чатов Telegram Рейтинг публикаций Рейтинги брендов и персон
API
API статистики API поиска публикаций API Callback
Наши каналы
@TGStat @TGStat_Chat @telepulse @TGStatAPI
Почитать
Академия TGStat Исследование Telegram 2019 Исследование Telegram 2021 Исследование Telegram 2023
Контакты
Справочный центр Поддержка Почта Вакансии
Всякая всячина
Пользовательское соглашение Политика конфиденциальности Публичная оферта
Наши боты
@TGStat_Bot @SearcheeBot @TGAlertsBot @tg_analytics_bot @TGStatChatBot