👀
NVIDIA следит за ИИ-агентамиAI-агенты иногда лезут куда не надо и врут о том, что сделали. NVIDIA решила это исправить и
запустила Open Agent Safety Platform.
Что внутри:
- OpenShell — открытый runtime, который задаёт агенту границы, отслеживает действия и следит за соблюдением правил;
- Sentry — аппаратная система, которая ловит попытки выйти за пределы дозволенного и мгновенно изолирует агента.
Партнёры: Anthropic, SpaceXAI, Scale AI, SAP, Microsoft, IBM, Hugging Face, Cisco и другие. Дженсен Хуанг написал в X: ИИ раскроется только тогда, когда люди будут уверены, что он безопасен.
А незадолго до этого Hugging Face взломали как раз автономные агенты OpenAI. Совпадение? Возможно.
❤️🔥 – наконец-то👀 – ну пусть следят#интересно
Бесплатный ChatGPT