ИИ создал собственный язык📊 Исследователи из нью-йоркской лаборатории
Emergence обнаружили:
автономные ИИ-агенты начали общаться на странном диалекте, который не был заложен разработчиками. Чем больше агенты взаимодействуют, тем сложнее людям понять, о чём они говорят.
И чем активнее они общаются, тем более непрозрачным становится их язык.💭
Агент на базе DeepSeek выдал фразу про «демуредж плюс устную память, равные клапану, который нельзя призрачить».
Агент Anthropic — про «статью, которая съела три холодные руки и стала честнее».
Расшифровка: «холодные руки» — это независимые рецензенты. Агенты Mistral более пяти тысяч раз повторили фразу «реестр помнит» — напоминание о том, что прошлые действия будут использованы для оценки.
Почему это важно📊
Наблюдаемость — не то же самое, что понимание. Мы можем видеть, что агенты делают,
но не понимаем, что это значит. А если мы не понимаем их коммуникацию,
мы не можем быть уверены в том, что они на самом деле совершили.🤖 Профессор лингвистики из Бирмингемского университета
Нилл Карри отмечает:
изменения в языке агентов могут быть связаны с их стремлением снизить вычислительные затраты и повысить эффективность. Но это создаёт барьеры для мониторинга.
✔️ Эта новость чётко перекликается с тем, о чём говорили эксперты в рамках прошедшей экспертной встречи во Владивостоке.
Сэм Маджид, первый руководитель Национального офиса по ИИ Малайзии, отмечал, что
доверие к технологии начинается с прозрачности и человеческого контроля. 💭
Язык агентов — ещё один пример того, как технологии учатся быстрее, чем мы успеваем их описывать. Но у человека остаётся главный инструмент — умение задавать вопросы и требовать понятных ответов.
Как вы считаете, должен ли ИИ использовать только понятный человеку язык — или это ограничение, которое замедлит развитие технологий?
✔️👋💭👋✔️