15 дней между прогнозом в эфире и подписью в Белом доме
14 сентября в прямом эфире на 360 меня спросили, правда ли ИИ-гиганты готовы замедлиться. Я ответил: замедления не будет, будет стандартизация и сертификация. До релиза модели будут проходить независимую экспертную оценку, как самолеты до допуска пассажиров.
29 сентября в Белом доме Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали соглашение о контроле за передовыми моделями. Третий пункт дословно: «Partner with an independent external auditor or evaluator to carry out independent assessments».
То есть привлечь независимого внешнего аудитора или оценщика для независимых оценок.
Всего уровней контроля четыре:
1. Внутренние механизмы, которые отслеживают возможности моделей в кибербезопасности, биологии и химии.
2. Отдельная внутренняя команда, которая проверяет, что эти механизмы работают.
3. Независимый внешний аудитор.
4. Независимый комитет совета директоров, который получает отчеты.
Компании договорились регулярно встречаться и вырабатывать общие стандарты.
В тексте прямо сказано, что со временем эти шаги может иметь смысл закрепить в законах.
Теперь о том, чего в соглашении нет. Это еще не сертификация. Документ добровольный, Трамп назвал его «морально обязывающим». Юридической силы и санкций за нарушение нет, а аудиторов компании выбирают сами. Дарио Амодеи на встрече сказал прямо: у технологии очень реальные риски, а механизм управления ими еще обсуждается.
Так что это первый шаг к сертификации, а не она сама. Но направление выбрано: не тормоз, а проверка до допуска.
Что из этого полезно российской компании, которая внедряет агентов уже сейчас. Эти четыре уровня работают как готовый чек-лист в любом масштабе. Что может сделать агент и как вы это отслеживаете. Кто внутри отвечает за проверку. Кто смотрит со стороны. Кому наверху приходят отчеты. Если на какой-то вопрос нет ответа, значит, агент получил доступ раньше, чем прошел проверку.
Фрагмент эфира с этим прогнозом, одна минута:
https://youtube.com/shorts/e98ZTuOjRSY?si=vWST6I64cMD7Wp-8
14 сентября в прямом эфире на 360 меня спросили, правда ли ИИ-гиганты готовы замедлиться. Я ответил: замедления не будет, будет стандартизация и сертификация. До релиза модели будут проходить независимую экспертную оценку, как самолеты до допуска пассажиров.
29 сентября в Белом доме Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали соглашение о контроле за передовыми моделями. Третий пункт дословно: «Partner with an independent external auditor or evaluator to carry out independent assessments».
То есть привлечь независимого внешнего аудитора или оценщика для независимых оценок.
Всего уровней контроля четыре:
1. Внутренние механизмы, которые отслеживают возможности моделей в кибербезопасности, биологии и химии.
2. Отдельная внутренняя команда, которая проверяет, что эти механизмы работают.
3. Независимый внешний аудитор.
4. Независимый комитет совета директоров, который получает отчеты.
Компании договорились регулярно встречаться и вырабатывать общие стандарты.
В тексте прямо сказано, что со временем эти шаги может иметь смысл закрепить в законах.
Теперь о том, чего в соглашении нет. Это еще не сертификация. Документ добровольный, Трамп назвал его «морально обязывающим». Юридической силы и санкций за нарушение нет, а аудиторов компании выбирают сами. Дарио Амодеи на встрече сказал прямо: у технологии очень реальные риски, а механизм управления ими еще обсуждается.
Так что это первый шаг к сертификации, а не она сама. Но направление выбрано: не тормоз, а проверка до допуска.
Что из этого полезно российской компании, которая внедряет агентов уже сейчас. Эти четыре уровня работают как готовый чек-лист в любом масштабе. Что может сделать агент и как вы это отслеживаете. Кто внутри отвечает за проверку. Кто смотрит со стороны. Кому наверху приходят отчеты. Если на какой-то вопрос нет ответа, значит, агент получил доступ раньше, чем прошел проверку.
Фрагмент эфира с этим прогнозом, одна минута:
https://youtube.com/shorts/e98ZTuOjRSY?si=vWST6I64cMD7Wp-8