🔬 Что происходит внутри ИИ до того, как мы видим его ответ?
Мы видим результат работы языковой модели — текст на экране.
Но между запросом и ответом происходит огромное количество вычислений, и понять, какую информацию модель использует в процессе, гораздо сложнее.
Новая работа исследователей Anthropic предлагает ещё один способ заглянуть внутрь этого процесса.
Авторы обнаружили в языковых моделях структуру, которую сравнивают с глобальным рабочим пространством, и разработали метод для её изучения.
Что именно удалось увидеть и можно ли после этого говорить, что ИИ «думает», — Листайте 👆
Мы видим результат работы языковой модели — текст на экране.
Но между запросом и ответом происходит огромное количество вычислений, и понять, какую информацию модель использует в процессе, гораздо сложнее.
Новая работа исследователей Anthropic предлагает ещё один способ заглянуть внутрь этого процесса.
Авторы обнаружили в языковых моделях структуру, которую сравнивают с глобальным рабочим пространством, и разработали метод для её изучения.
Что именно удалось увидеть и можно ли после этого говорить, что ИИ «думает», — Листайте 👆