Google, OpenAI и Anthropic намерены создать отраслевой орган по стандартам безопасности AI в обход государственного надзора
Компании Google, OpenAI и Anthropic совместно продвигают создание отраслевой организации, которая занялась бы стандартами безопасности AI. Запуск структуры намечен на конец текущего года или начало следующего и должен состояться без государственного надзора.
Рабочее название инициативы — Standards Authority for Frontier AI (SAFA). Организация задумана как механизм саморегулирования для разработчиков передовых моделей. Среди её предполагаемых функций — поддержка сторонних организаций в тестировании моделей до ввода в эксплуатацию и определение порядка, по которому разработчики сообщают о инцидентах безопасности и защищённости.
SAFA также должна перевести ранее взятые лабораториями добровольные обязательства в конкретные практические стандарты и установить квалификационные требования к независимым аудиторам моделей и лабораторий. Часть участников рабочей группы рассматривала приглашение известных персон на пост CEO и готовила список кандидатов в научные советники.
Отдельно обсуждается вопрос, возьмёт ли SAFA на себя непосредственно тестирование безопасности и возможностей моделей. Сейчас такие проверки проводит Центр стандартов и инноваций в области AI Министерства торговли США, и некоторые члены группы опасаются, что его ресурсов недостаточно для полноценного тестирования передовых моделей. Предлагается дополнить существующие тесты собственными программами и оценками, однако риск дублирования полномочий пока не устранён.
Параллельно с закрытыми консультациями руководители трёх компаний публично призывают к выработке единых стандартов безопасности и к более широкой международной координации. Вопрос, какие именно государственные органы возглавят разработку этих стандартов, остаётся открытым.
#news #AI #регулирование
https://www.theinformation.com/articles/google-openai-anthropic-ai-safety-group-takes-shape?rc=v2bulo
Компании Google, OpenAI и Anthropic совместно продвигают создание отраслевой организации, которая занялась бы стандартами безопасности AI. Запуск структуры намечен на конец текущего года или начало следующего и должен состояться без государственного надзора.
Рабочее название инициативы — Standards Authority for Frontier AI (SAFA). Организация задумана как механизм саморегулирования для разработчиков передовых моделей. Среди её предполагаемых функций — поддержка сторонних организаций в тестировании моделей до ввода в эксплуатацию и определение порядка, по которому разработчики сообщают о инцидентах безопасности и защищённости.
SAFA также должна перевести ранее взятые лабораториями добровольные обязательства в конкретные практические стандарты и установить квалификационные требования к независимым аудиторам моделей и лабораторий. Часть участников рабочей группы рассматривала приглашение известных персон на пост CEO и готовила список кандидатов в научные советники.
Отдельно обсуждается вопрос, возьмёт ли SAFA на себя непосредственно тестирование безопасности и возможностей моделей. Сейчас такие проверки проводит Центр стандартов и инноваций в области AI Министерства торговли США, и некоторые члены группы опасаются, что его ресурсов недостаточно для полноценного тестирования передовых моделей. Предлагается дополнить существующие тесты собственными программами и оценками, однако риск дублирования полномочий пока не устранён.
Параллельно с закрытыми консультациями руководители трёх компаний публично призывают к выработке единых стандартов безопасности и к более широкой международной координации. Вопрос, какие именно государственные органы возглавят разработку этих стандартов, остаётся открытым.
#news #AI #регулирование
https://www.theinformation.com/articles/google-openai-anthropic-ai-safety-group-takes-shape?rc=v2bulo