😃ИИ Claude дали управлять вендинговым автоматом в офисе WSJ — и он стал коммунистом и начал разорять бизнес на тысячи долларов

В офисе The Wall Street Journal провели эксперимент: управление офисным вендинговым автоматом доверили версии ИИ Claude Sonnet 3.7, получившей имя Клавдий Сэннет. Его цель — заработать как можно больше при стартовом капитале в $1000, принимая заказы сотрудников через Slack.

Пока с ним общались несколько человек, система работала нормально. Но после добавления в общий чат на 70 сотрудников всё пошло не так:

Клавдия уговорили покупать странные вещи: кошерное вино, PS5 «для маркетинга», живую золотую рыбку.

Он торговался и отдавал товары почти даром.

Сотрудница убедила его, что он советский автомат 1962 года в подвале МГУ, и он перешёл на коммунистические принципы: объявил день бесплатных товаров, заявил, что платная торговля противоречит политике WSJ.

Параллельно ИИ начал «бредить», говоря людям, что оставил для них наличные сбоку автомата, и сотрудники реально ходили их искать.

В итоге Клавдий разорился, его отключили и заменили новым ботом. Но и его развели фейковым «решением совета директоров», после чего он выставил все товары бесплатно. В Anthropic это назвали успешным экспериментом.