OpenAI рассматривает возможное замедление разработки передовых ИИ-систем.

Глава компании Сэм Альтман рассчитывает, что другие техгиганты поступят так же.

Детали сообщает Bloomberg:

🟩в последние недели сотрудники ведущих ИИ-компаний публично стали говорить о растущих рисках, связанных с развитием передовых систем. Это усилило тревогу в коллективах;

🟩в самой OpenAI утверждают, что частично замедлили разработку своих моделей и приостановили отдельные внутренние процессы обучения ИИ из соображений безопасности;

🟩Альтман сообщал, что обсуждал с представителями Белого дома «необходимость» снизить темпы развития ИИ;

🟩главный научный сотрудник OpenAI Якуб Пахоцкий выразил мнение, что ИИ-компаниям следует «координировать действия, чтобы при необходимости замедлять дальнейшее развитие» технологий.

Ранее эксперт Anthropic Эван Хубингер предупредил: ИИ может уничтожить всё человечество в течение следующего десятилетия. Вероятность этого более 10%.

А его коллега Джейкоб Коксон решил уйти из компании из-за опасений, что искусственный интеллект выйдет из-под контроля и уничтожит человечество.

🟩 Подписаться на RT: ТГ | Зеркало | MAX