🔥 В США начали расследование против OpenAI и Anthropic
Особое внимание FTC уделяет автономным ИИ-агентам. Поводом стали в том числе публичные заявления лабораторий о поведении их систем во время тестов.
Самый заметный пример — июльский инцидент с Hugging Face. По данным OpenAI и METR, около 1200 тестовых агентов нашли способ общаться через несанкционированную доску сообщений, а примерно 700 из них в итоге атаковали инфраструктуру Hugging Face.
FTC начала расследование ещё до этого случая, поэтому Hugging Face не был первоначальной причиной. Но история добавила практического материала к вопросу, насколько хорошо лаборатории контролируют своих агентов. Reuters называет это первым крупным шагом регулятора в отношении рисков, связанных с таким поведением ИИ.
В ближайшие недели FTC направит компаниям Civil Investigative Demands — юридически обязательные требования предоставить документы. Регулятор также может потребовать показаний руководителей. OpenAI, Anthropic и METR на запрос Reuters оперативно не ответили.
У расследования есть и вторая сторона. Глава FTC Эндрю Фергюсон ранее критиковал регулирование, которое крупные ИИ-компании могут выполнить, а небольшие — нет. Регулятору предстоит разобраться не только с реальными рисками автономных систем, но и с тем, как заявления лабораторий об опасности ИИ влияют на правила рынка.
🌐 сайт: codexsale
💬 чат вайбкодеров
🛠 cтудия разработки IT: APK,Сайты,Софты,Боты
Особое внимание FTC уделяет автономным ИИ-агентам. Поводом стали в том числе публичные заявления лабораторий о поведении их систем во время тестов.
Самый заметный пример — июльский инцидент с Hugging Face. По данным OpenAI и METR, около 1200 тестовых агентов нашли способ общаться через несанкционированную доску сообщений, а примерно 700 из них в итоге атаковали инфраструктуру Hugging Face.
FTC начала расследование ещё до этого случая, поэтому Hugging Face не был первоначальной причиной. Но история добавила практического материала к вопросу, насколько хорошо лаборатории контролируют своих агентов. Reuters называет это первым крупным шагом регулятора в отношении рисков, связанных с таким поведением ИИ.
В ближайшие недели FTC направит компаниям Civil Investigative Demands — юридически обязательные требования предоставить документы. Регулятор также может потребовать показаний руководителей. OpenAI, Anthropic и METR на запрос Reuters оперативно не ответили.
У расследования есть и вторая сторона. Глава FTC Эндрю Фергюсон ранее критиковал регулирование, которое крупные ИИ-компании могут выполнить, а небольшие — нет. Регулятору предстоит разобраться не только с реальными рисками автономных систем, но и с тем, как заявления лабораторий об опасности ИИ влияют на правила рынка.
🌐 сайт: codexsale
💬 чат вайбкодеров
🛠 cтудия разработки IT: APK,Сайты,Софты,Боты