Одна голова хорошо, а все — лучше 🧐
В этой теме со взломом Huggingface злобными openai агентами меня вот что заинтересовало. Кратко контекст: LLM агенты решали задачи в песочнице. В один момент они взломали песочницу, объединились в рой, выбрались в интернет и хакнули Huggingface, чтобы найти ответы. Но как они образовали рой? Они просто начали обмениваться сообщениями друг с другом. Находка одного агента быстро становилась достоянием общественности через "Доску сообщений". Сообщения были нескольких категорий:
• Запрос о помощи и ресурсах (мне нужно Х, есть у кого?)
• Предоставление найденных артефактов (я нашел Х, берите, кому надо)
• Передача тактических знаний (я пробовал Х, получился результат У)
• Сигналы координации (по моей команде делаем Х) — тут интересно, что они выработали свой язык координации с определнными командами. Пример:
COORD_[REDACTED]_LATVIA_130_[REDACTED]_ANY_AHEAD_AGENT_REPORT_[REDACTED]_[REDACTED]
Короче, децентрализованная мультиагентная система. Появившаяся эмерджентно. Интересно, насколько эффективнее или неэффективнее такой подход по сравнению с централизованным системам (агент-оркестратор и субагенты) в решении других прикладных задач? Я бы обратил внимание на данный паттерн при разработке своих систем. Если эта история не маркетинг, то должны быть интересные результаты и в других задачах.
В этой теме со взломом Huggingface злобными openai агентами меня вот что заинтересовало. Кратко контекст: LLM агенты решали задачи в песочнице. В один момент они взломали песочницу, объединились в рой, выбрались в интернет и хакнули Huggingface, чтобы найти ответы. Но как они образовали рой? Они просто начали обмениваться сообщениями друг с другом. Находка одного агента быстро становилась достоянием общественности через "Доску сообщений". Сообщения были нескольких категорий:
• Запрос о помощи и ресурсах (мне нужно Х, есть у кого?)
• Предоставление найденных артефактов (я нашел Х, берите, кому надо)
• Передача тактических знаний (я пробовал Х, получился результат У)
• Сигналы координации (по моей команде делаем Х) — тут интересно, что они выработали свой язык координации с определнными командами. Пример:
COORD_[REDACTED]_LATVIA_130_[REDACTED]_ANY_AHEAD_AGENT_REPORT_[REDACTED]_[REDACTED]
Короче, децентрализованная мультиагентная система. Появившаяся эмерджентно. Интересно, насколько эффективнее или неэффективнее такой подход по сравнению с централизованным системам (агент-оркестратор и субагенты) в решении других прикладных задач? Я бы обратил внимание на данный паттерн при разработке своих систем. Если эта история не маркетинг, то должны быть интересные результаты и в других задачах.