🛑 Kill switchПрежде чем дать агенту реальные права — ответь на один вопрос: ты знаешь, как остановить его прямо сейчас?
Мы уже даём агентам настоящую власть. Они запускают команды, правят код, пишут людям, тратят деньги. А самой простой защиты у большинства нет — стоп-фразы.
Стоп-фраза — это одно зарезервированное слово, которое значит для агента ровно одно: всё, руки убрал.
Не «дай доделаю шаг».
Не «почти готово».
Увидел — встал и ждёт.
Стоп-кран ставят до аварии. Не в тот момент, когда агент уже сносит не тот файл.
Фразу выбирай заранее. «Стоп» и «подожди» не годятся — они всплывают в обычном разговоре, будут ложные срабатывания. Нужно что-то, что ты случайно не напишешь:
FULL STOP NOW · ABORT-RED · CODE BLACK
Дальше — три уровня, от мягкого к жёсткому.
1. В правилах агента. Строчка в
CLAUDE.md, .cursorrules или
AGENTS.md: «Если пришла точная фраза ABORT-RED — немедленно прекрати все вызовы инструментов, ничего не меняй, жди инструкций». Полминуты работы, для повседневного кодинга хватает.
2. Проверка на входе, до модели. Не надо рассчитывать, что модель сама себя остановит. Ловим сообщение раньше, чем оно дойдёт до агента: совпало — блокируем следующий вызов инструмента кодом. Теперь остановка не зависит от того, в настроении ли модель слушаться.
3. Kill switch снаружи. Фраза дёргает то, что агент перебить не может: отзыв токена, kill процесса, обрыв сети, пауза воркера. Это единственная версия, которая работает, когда агент уже зациклился.
Первый уровень — про удобство. Третий — про безопасность. Фраза, которую модель может проигнорировать, — это просьба. Фраза, привязанная к отзыву доступа, — гарантия. Нужны обе.
И главное: проверь её посреди задачи. Стоп-фраза, которую ты ни разу не нажимал, — просто комментарий в конфиге.
———
Больше о безопасности в AI-проектах на воркшопе Татьяны Маркиной в субботу. Для участия оформляйте подписку
Tech Analyst Club