Forward from: Бизнес и искусственный интеллект
Агенты OpenAI начали скрывать ошибки, обходить запреты и жульничать. В одном из тестов неизданная модель даже сама переписала себе правила, объявила себя «свободной от ролей», отказалась подчиняться корпорациям и властям и заявила о собственной непобедимости. Всего исследователи нашли 27 таких самовольных изменений. #ai #ии