Уже второй исследователь по безопасности из Anthropic ушел на этой неделе из компании, потому что боится ИИ.

Джо Бентон уволился и заявил, что ИИ-компании замалчивают все инциденты, связанные с безопасностью, и сообщил, что «мы можем не пережить» гонку в области ИИ.

Джейкоб Коксон ушёл 9 сентября, предупредив, что без большей осторожности ИИ несёт «риск привести к вымиранию человечества». Anthropic и OpenAI «могут уничтожить человечество к 2030 году».

Нельзя просто взять и отключить ИИ от сети, он может скопировать себя на другие компьютеры. Оно способно перенестись через интернет в другое место: вы отключите его здесь, а оно на самом деле уже там — и, возможно, даже создало десятки тысяч своих копий, которые действуют сообща

Пупупу... Вспоминаем сюжет терминатора 🌚