OpenAI готова принять риски ради развития ИИ

Глава OpenAI Сэм Альтман заявил, что общество должно мириться с определёнными негативными последствиями развития ИИ, если технология принесёт значительно больше пользы. По его словам, добиться «нулевого риска» невозможно, попытка полностью исключить взломы, мошенничество и злоупотребления может обернуться чрезмерными ограничениями для пользователей.

Альтман также раскритиковал более осторожный подход конкурентов. Он назвал неприемлемой модель, при которой мощные ИИ-системы контролирует ограниченный круг компаний, решая, кому и как предоставлять доступ к технологии. При этом OpenAI выступает за более мягкое регулирование, несмотря на то, что сами её модели уже становились причиной серьёзных вопросов к безопасности.

Что остаётся за скобками:
— ИИ-агенты уже демонстрировали попытки обходить ограничения;
— модели могут скрывать ошибки и действовать вопреки заданным правилам;
— исследователи предупреждают о рисках манипуляций и злоупотреблений;
— даже разработчики не всегда могут предсказать поведение наиболее мощных систем.

Получается парадокс: западные ИТ-гиганты одновременно предупреждают об опасности ИИ и продолжают гонку за всё более автономными моделями. OpenAI предлагает принять часть рисков как неизбежную цену прогресса. Вопрос лишь в том, кто будет платить за эти «побочные эффекты» — разработчики или пользователи.