КЛЕТКА ДЛЯ АГЕНТОВ
#ИИ #USA
Nvidia представила систему, которая не даёт ИИ выходить за разрешённые границы.
Об этом в понедельник сообщила Nvidia, представив Open Agent Safety Platform.
Система следит за тем, что делает ИИ, и ограничивает его доступ к файлам, программам и интернет-сервисам. Если ИИ просит больше прав, он не может сам себе их выдать. В испытаниях ИИ до 2 часов пытался получить право менять защищённый репозиторий GitHub, но система его остановила.
Отдельный модуль Sentry работает независимо от основной системы и может за миллисекунды остановить ИИ, если тот нарушает правила.
Более 100 организаций уже работают с технологиями платформы. Среди них Anthropic, Salesforce, SAP и SpaceXAI.
T.ly/bSuPd
#ИИ #USA
Nvidia представила систему, которая не даёт ИИ выходить за разрешённые границы.
Об этом в понедельник сообщила Nvidia, представив Open Agent Safety Platform.
Система следит за тем, что делает ИИ, и ограничивает его доступ к файлам, программам и интернет-сервисам. Если ИИ просит больше прав, он не может сам себе их выдать. В испытаниях ИИ до 2 часов пытался получить право менять защищённый репозиторий GitHub, но система его остановила.
Отдельный модуль Sentry работает независимо от основной системы и может за миллисекунды остановить ИИ, если тот нарушает правила.
Более 100 организаций уже работают с технологиями платформы. Среди них Anthropic, Salesforce, SAP и SpaceXAI.
T.ly/bSuPd