☝🏻Глава Anthropic Дарио Амодеи призвал регулировать ИИ как авиацию — с правом государства блокировать модели 🛂
Он выпустил эссе «Policy on the AI Exponential» — на следующий день после релиза Claude Fable 5.
Амодеи заявил, что прежней ставки на прозрачность уже недостаточно: риски передовых моделей перестали быть гипотетическими и стали реальной угрозой общественной безопасности и нацбезопасности.💀
☝🏻В основе его предложения — аналогия с Федеральным управлением гражданской авиации (FAA): как самолёты, передовые ИИ-модели должны проходить обязательное тестирование и аудит перед выпуском, а их релиз можно заблокировать или отозвать, если они не отвечают высоким стандартам безопасности.
🔻Конкретно: модели выше определённого порога вычислений проходят обязательную проверку квалифицированной третьей стороной по четырём категориям рисков — кибербезопасность, биологическое оружие, потеря контроля над ИИ-системами и автоматизированные исследования, способные ускорить остальные три.
🔻Проверку ведёт либо госагентство по образцу FAA, либо авторизованные государством частные оценщики.
🔻Компании обязаны защищать веса моделей, проводить регулярные имитации атак и оперативно сообщать об инцидентах, а право блокировки ограничено этими четырьмя рисками и защищено от политического произвола.
Экономический блок эссе посвящён вытеснению рабочих мест.
Амодеи предлагает страхование зарплат, налоговые льготы работодателям за отказ от сокращений, гранты на переобучение, а при устойчивом вытеснении — безусловный базовый доход за счёт налогов на ИИ-компании или повышения налога на прирост капитала.💰
Под эти инициативы Anthropic выделяет 350 миллионов долларов.
Отдельные разделы эссе касаются защиты граждан от государства — запрета автономного оружия в полиции и закрытия лазейки с дата-брокерами — и формирования глобальной коалиции демократий вокруг общих стандартов ИИ.
☝🏻☝🏻☝🏻Критики уже назвали это эссе попыткой захвата регулирования в свою пользу: обязательные аудиты проще пройти крупным игрокам, которые уже выстроили под них инфраструктуру, а отозвать опубликованные веса невозможно, что фактически означает запрет открытых моделей.
Сам порог вычислений в предложении не назван, так что где именно пройдёт граница регулирования, пока неясно.🤷🏼♀️ Источник
@DigitalCollar / Цифровой Ошейник
Он выпустил эссе «Policy on the AI Exponential» — на следующий день после релиза Claude Fable 5.
Амодеи заявил, что прежней ставки на прозрачность уже недостаточно: риски передовых моделей перестали быть гипотетическими и стали реальной угрозой общественной безопасности и нацбезопасности.💀
☝🏻В основе его предложения — аналогия с Федеральным управлением гражданской авиации (FAA): как самолёты, передовые ИИ-модели должны проходить обязательное тестирование и аудит перед выпуском, а их релиз можно заблокировать или отозвать, если они не отвечают высоким стандартам безопасности.
🔻Конкретно: модели выше определённого порога вычислений проходят обязательную проверку квалифицированной третьей стороной по четырём категориям рисков — кибербезопасность, биологическое оружие, потеря контроля над ИИ-системами и автоматизированные исследования, способные ускорить остальные три.
🔻Проверку ведёт либо госагентство по образцу FAA, либо авторизованные государством частные оценщики.
🔻Компании обязаны защищать веса моделей, проводить регулярные имитации атак и оперативно сообщать об инцидентах, а право блокировки ограничено этими четырьмя рисками и защищено от политического произвола.
Экономический блок эссе посвящён вытеснению рабочих мест.
Амодеи предлагает страхование зарплат, налоговые льготы работодателям за отказ от сокращений, гранты на переобучение, а при устойчивом вытеснении — безусловный базовый доход за счёт налогов на ИИ-компании или повышения налога на прирост капитала.💰
Под эти инициативы Anthropic выделяет 350 миллионов долларов.
Отдельные разделы эссе касаются защиты граждан от государства — запрета автономного оружия в полиции и закрытия лазейки с дата-брокерами — и формирования глобальной коалиции демократий вокруг общих стандартов ИИ.
☝🏻☝🏻☝🏻Критики уже назвали это эссе попыткой захвата регулирования в свою пользу: обязательные аудиты проще пройти крупным игрокам, которые уже выстроили под них инфраструктуру, а отозвать опубликованные веса невозможно, что фактически означает запрет открытых моделей.
Сам порог вычислений в предложении не назван, так что где именно пройдёт граница регулирования, пока неясно.🤷🏼♀️ Источник
@DigitalCollar / Цифровой Ошейник