Стартап Mostik предложил «мост» для общения ИИ без текста: модуль преобразует внутренние представления одной модели в формат, понятный другой, не меняя параметры самих моделей. Это позволяет передавать гораздо больше информации, чем через токены: перед генерацией одного токена LLM формирует сотни скрытых векторов — около 1 млн чисел (≈2 МБ), из которых в текст попадает лишь малая часть 🧠
В демонстрации связали GLM-5.2 (753 млрд параметров) и Qwen-3.5 (4 млрд): большая модель обрабатывала запрос, малая генерировала ответ. Такой канал закрыл около половины разрыва в качестве между моделями и дал до +10 п.п. против обычной текстовой передачи при тех же вычислениях. По эффективности система сопоставима со средней моделью, но потребовала в ~2,5 раза меньше вычислений.
Подход открывает путь к гибридным системам: крупная модель для рассуждений, узкие — для доменов, без их переобучения.
Нейрокрипто
В демонстрации связали GLM-5.2 (753 млрд параметров) и Qwen-3.5 (4 млрд): большая модель обрабатывала запрос, малая генерировала ответ. Такой канал закрыл около половины разрыва в качестве между моделями и дал до +10 п.п. против обычной текстовой передачи при тех же вычислениях. По эффективности система сопоставима со средней моделью, но потребовала в ~2,5 раза меньше вычислений.
Подход открывает путь к гибридным системам: крупная модель для рассуждений, узкие — для доменов, без их переобучения.
Нейрокрипто