Система действует по правилам. Но кто решил, что эти правила верны — и кто вообще должен их устанавливать?
ИИ-агенты уже работают с данными и реальной инфраструктурой, а стандарты их полномочий, ответственности и контроля только формируются. NIST предлагает создать для них отдельный слой доверия — с проверяемыми правами и прозрачной историей действий.
Как понять, что ИИ можно доверить действие, а не только анализ? Ответ постепенно смещается от «доверяем модели» к «доверяем системе контроля над моделью».
На этом разрыве возникают новые рынки. Возможно, следующие сильные компании появятся там, где агенты научатся безопасно действовать в реальном мире.
Такие технологические разрывы мы исследуем в «Третьей ступени» как точки появления новых бизнесов. Если вы ищете направление для следующего проекта или хотите понять, как развивать уже существующий бизнес, пройдите бесплатную консультацию с авторами программы. Мы поможем разобрать вашу задачу и увидеть возможные точки роста.
[ записаться на консультацию – @bs_mipt ]
Ответ неочевиден: сегодня это распределённая зона ответственности между разработчиками, компаниями и регуляторами. Но в случае с ИИ-агентами этого недостаточно.
ИИ-агенты уже работают с данными и реальной инфраструктурой, а стандарты их полномочий, ответственности и контроля только формируются. NIST предлагает создать для них отдельный слой доверия — с проверяемыми правами и прозрачной историей действий.
Как понять, что ИИ можно доверить действие, а не только анализ? Ответ постепенно смещается от «доверяем модели» к «доверяем системе контроля над моделью».
На этом разрыве возникают новые рынки. Возможно, следующие сильные компании появятся там, где агенты научатся безопасно действовать в реальном мире.
Такие технологические разрывы мы исследуем в «Третьей ступени» как точки появления новых бизнесов. Если вы ищете направление для следующего проекта или хотите понять, как развивать уже существующий бизнес, пройдите бесплатную консультацию с авторами программы. Мы поможем разобрать вашу задачу и увидеть возможные точки роста.
[ записаться на консультацию – @bs_mipt ]