NVIDIA представила платформу для безопасного запуска и контроля ИИ-агентов.
Компания собрала более 100 партнеров и теперь предлагает клиентам свою платформу, состоящую из двух элементов:
1. ограничивает, что агент может видеть и делать
2. отдельно следит за ним на железе и может быстро отключить, если он выходит за рамки.
Nvidia считает, что это поможет избежать серьёзных инцидентов, которые начали происходить с лета этого года с ИИ-агентами, когда они якобы взламывают HuggingFace, и тд.
Компания собрала более 100 партнеров и теперь предлагает клиентам свою платформу, состоящую из двух элементов:
1. ограничивает, что агент может видеть и делать
2. отдельно следит за ним на железе и может быстро отключить, если он выходит за рамки.
Nvidia считает, что это поможет избежать серьёзных инцидентов, которые начали происходить с лета этого года с ИИ-агентами, когда они якобы взламывают HuggingFace, и тд.