Большая кибератака: ИИ-агент взломал внутреннюю ИИ-платформу McKinsey за 2 часа
Компания CodeWall запустила своего агента во внутреннюю ИИ-платформу McKinsey под названием Lilli. За 2 часа агент получил полный доступ к базе данных.
Ранее McKinsey построили своего корпоративного ChatGPT для 43 000 сотрудников. Туда были загружены все их исследования, клиентские проекты, стратегические документы за десятилетия.
И вот выясняется, что вся эта база данных была доступна без авторизации через дыру в API + можно было переписать инструкции самого ИИ так, что он начал бы давать неправильные советы, и никто бы не заметил.
Компания CodeWall запустила своего агента во внутреннюю ИИ-платформу McKinsey под названием Lilli. За 2 часа агент получил полный доступ к базе данных.
Ранее McKinsey построили своего корпоративного ChatGPT для 43 000 сотрудников. Туда были загружены все их исследования, клиентские проекты, стратегические документы за десятилетия.
И вот выясняется, что вся эта база данных была доступна без авторизации через дыру в API + можно было переписать инструкции самого ИИ так, что он начал бы давать неправильные советы, и никто бы не заметил.