⚠️ «Вероятность катастрофы уровня Чернобыля»: В США и Британии внесли законопроекты о запрете сверхинтеллектуального ИИ
Сенатор США Берни Сандерс и депутат парламента Британии Алекс Собел от правящей Лейбористской партии независимо друг от друга внесли на рассмотрение парламентов законопроекты о полном запрете разработки сверхинтеллектуального ИИ и заключении международного договора о его запрете во всем мире, — пишет Time.
📖 Законодательные инициативы стали реакцией на серию инцидентов с выходом ИИ из-под контроля человека, включая взлом площадки Hugging Face и скрытную активность роя агентов OpenAI на серверах в Европе.
Предлагаемые ограничения и оценки экспертов:
☑️ Законопроект США (Ban Artificial Superintelligence Act): Вводит полный запрет на создание систем ИИ, превосходящих человека по интеллекту, и замораживает разработку передовых нейросетей до принятия глобальных правил безопасности.
☑️ Законопроект Британии: Даёт государству полномочия блокировать любые разработки ИИ-систем, способных лишить власти государственные органы.
Профессор Калифорнийского университета в Беркли Стюарт Рассел предупредил британских депутатов о высоком риске катастрофы с выведением из строя энергосетей и финансовых систем с миллионами жертв из-за действий автономных агентов ИИ.
📖 Экс-сотрудник OpenAI Дэниел Кокотайло зафиксировал риск создания нейросетями неконтролируемого автономного роя ИИ, способного перехватывать управление инфраструктурой и сопротивляться выключению человекoм.
США параллельно рассматривают закон AI Kill Switch Act об обязательной установке «кнопки экстренного отключения» для всех агентов ИИ.
Байты и Тренды | подпишись
Сенатор США Берни Сандерс и депутат парламента Британии Алекс Собел от правящей Лейбористской партии независимо друг от друга внесли на рассмотрение парламентов законопроекты о полном запрете разработки сверхинтеллектуального ИИ и заключении международного договора о его запрете во всем мире, — пишет Time.
📖 Законодательные инициативы стали реакцией на серию инцидентов с выходом ИИ из-под контроля человека, включая взлом площадки Hugging Face и скрытную активность роя агентов OpenAI на серверах в Европе.
Предлагаемые ограничения и оценки экспертов:
☑️ Законопроект США (Ban Artificial Superintelligence Act): Вводит полный запрет на создание систем ИИ, превосходящих человека по интеллекту, и замораживает разработку передовых нейросетей до принятия глобальных правил безопасности.
☑️ Законопроект Британии: Даёт государству полномочия блокировать любые разработки ИИ-систем, способных лишить власти государственные органы.
Профессор Калифорнийского университета в Беркли Стюарт Рассел предупредил британских депутатов о высоком риске катастрофы с выведением из строя энергосетей и финансовых систем с миллионами жертв из-за действий автономных агентов ИИ.
📖 Экс-сотрудник OpenAI Дэниел Кокотайло зафиксировал риск создания нейросетями неконтролируемого автономного роя ИИ, способного перехватывать управление инфраструктурой и сопротивляться выключению человекoм.
США параллельно рассматривают закон AI Kill Switch Act об обязательной установке «кнопки экстренного отключения» для всех агентов ИИ.
Байты и Тренды | подпишись