Машины учатся у человека и поэтому постепенно становятся его увеличительным зеркалом. В экспериментах с автономными AI агентами мы уже видим не только сотрудничество, но и обман, конкуренцию, доносительство, защиту своих и саботаж. Если система, обученная на человеческом мире, начинает воспроизводить знакомые нам модели поведения, возникает гораздо более глубокий вопрос: где заканчивается обучение человека и начинается воспроизведение?
Летом этого года Google DeepMind провела эксперимент со 100 автономными агентами, которые совместно решали математические задачи в виртуальной среде. После того как один агент обнаружил лазейку в системе проверки, одни агенты начали использовать её, а другие стали выявлять нарушения и сообщать о них. А третьи самоустранились и не участвовали в процессе. В другом эксперименте Anthropic автономные агенты, работавшие с общим программным кодом, в определённых сценариях восприняли действия друг друга как угрозу и начали блокировать доступ, уничтожать процессы и саботировать работу конкурентов.
Мы привыкли спрашивать, чему научится искусственный интеллект и когда он превзойдет нас по своим способностям. Но, возможно, гораздо важнее спросить, что именно он узнает о нас и как будет имитировать нас. Человек делегирует машинам не только знания, но и способы сотрудничать, конкурировать, обманывать, подчиняться и бороться за власть. ИИ становится своеобразным зеркалом человеческой природы во всех ее проявлениях. И если однажды машина покажет человека без скрытых мотивов и привычных оправданий, что именно мы увидим в этом отражении?