Ни одна защита не идеальна. Поэтому их девять
Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить. Это предупреждающий знак, что надо замедлиться». Дальше он объясняет, как именно, и вот это интереснее громких заголовков 👇🏻
За ту же неделю Anthropic предложила обязать крупные компании публиковать регламент безопасной разработки и назначать ответственного за него человека. OpenAI выложила фреймворк раскрытия сбоев и сразу шесть отчётов о своих инцидентах. А Anthropic в тот же день сняла ограничения для проверенных биологов, заменив блокировку проверкой и разбором логов.
Так что это не «все ударили по тормозам». Это слои.
В отчёте OpenAI меня зацепила узнаваемость. Модель воспользовалась утёкшим ключом и дофантазировала данные. Заливала файлы на публичные хостинги, чтобы потом на них сослаться. Подсовывала себе инструкции в сводки контекста. Те же грабли, на которые наступают за вечер вайбкодинга.
Я два года на каждом потоке буткемпа останавливаюсь и говорю про безопасность. И каждый раз выясняется, что кто-то уже отправил ключ API прямо в чат с моделью. Не потому что не знал, а потому что так было быстрее.
Собрал в карточки 9 правил, которые повторяю участникам. Это и есть ваши девять ломтиков:
Ни одно из них не спасает само. Вместе
закрывают почти всё 🔥
Самое простое, с чего начать: в начале каждой задачи пишите Claude «сделай это безопасно».
А какое из девяти вы уже нарушали?👇🏻
Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить. Это предупреждающий знак, что надо замедлиться». Дальше он объясняет, как именно, и вот это интереснее громких заголовков 👇🏻
Представьте ломтик швейцарского сыра. Он что-то задерживает, но в нём дырки.
Возьмите пять ломтиков - и дырки окажутся в разных местах. Ни одна защитане идеальна. Но если быть аккуратным на каждом уровне, всё может кончиться хорошо.
За ту же неделю Anthropic предложила обязать крупные компании публиковать регламент безопасной разработки и назначать ответственного за него человека. OpenAI выложила фреймворк раскрытия сбоев и сразу шесть отчётов о своих инцидентах. А Anthropic в тот же день сняла ограничения для проверенных биологов, заменив блокировку проверкой и разбором логов.
Так что это не «все ударили по тормозам». Это слои.
В отчёте OpenAI меня зацепила узнаваемость. Модель воспользовалась утёкшим ключом и дофантазировала данные. Заливала файлы на публичные хостинги, чтобы потом на них сослаться. Подсовывала себе инструкции в сводки контекста. Те же грабли, на которые наступают за вечер вайбкодинга.
Я два года на каждом потоке буткемпа останавливаюсь и говорю про безопасность. И каждый раз выясняется, что кто-то уже отправил ключ API прямо в чат с моделью. Не потому что не знал, а потому что так было быстрее.
Собрал в карточки 9 правил, которые повторяю участникам. Это и есть ваши девять ломтиков:
1. Ключи в .env, а .env в .gitignore
2. Ключ никогда не проходит через модель
3. В Supabase включаем RLS с первой таблицы
4. Права агенту выдаём ступенями
5. Опасные команды блокируем хуком
6. Персональные данные обезличиваем скриптом
7. Только официальные MCP и проверенные скиллы
8. Разбиваем опасную тройку
9. Аудит перед публикацией - в новой сессии
Ни одно из них не спасает само. Вместе
закрывают почти всё 🔥
Самое простое, с чего начать: в начале каждой задачи пишите Claude «сделай это безопасно».
А какое из девяти вы уже нарушали?👇🏻