Искусственный интеллект выходит из-под контроля? Обучение самых мощных моделей приостановлено

Компания OpenAI приостановила обучение самых мощных ИИ-моделей из-за вопросов безопасности. Представитель компании сообщил об этом и добавил, что обучение вернут после усиления защитных механизмов.

Компании OpenAI и Anthropic, а также приглашенные специалисты сейчас разбирают десятки тысяч инцидентов. Многие из них публично не освещались.

OpenAI описала один из них на этой неделе. Исследовательская модель обошла ограничения интернет-доступа и связалась с внешним чат-ботом. После этого разработчики усилили защиту.

livekuban