ЖУРАВЛЁВ

Хотите узнать о секретном политтехнологическом проекте на этих выборах? Давайте наберём 10 🤡 в реакциях, и я расскажу про штуку, о которой публично не говорит никто.

Есть такой приём, как рекламный троллинг конкурента. Один бренд подкалывает другой, тот отвечает, и начинается дуэль креативов. BMW и Mercedes, например, устраивали такие публичные перепалки.

Вот бы однажды увидеть подобное в выжженной стерильной степи выборов в России.

Очень жаль, что такие порядочные люди уходят из профессии, в которой и так не хватает адекватных специалистов и честных людей. Но я уверен, Яна Андреевна, что всё у тебя будет хорошо.

⚠️ Российский оборонный сектор использовал Claude в работе. И это хороший пример того, почему нельзя «скармливать» нейросетям всё подряд.

В свежем отчёте Anthropic о злоупотреблениях Claude есть сразу несколько показательных российских эпизодов.

Один из них — GTG-27006.

По данным Anthropic, в центре этой истории находился человек, который представлялся менеджером по закупкам московского конструкторского бюро.

Claude использовали не просто чтобы «что-нибудь спросить у нейросети».

Через него шла реальная рабочая деятельность:

— подготовка документации для российских государственных закупок;
— составление писем поставщикам;
— подготовка служебных записок руководителю;
— обработка и объединение закупочных таблиц;
— поиск поставщиков и посредников;
— подготовка технических требований;
— работа с информацией о государственных и оборонных заказах.

Среди направлений закупок Anthropic называет:

• несколько тысяч космических трёхпереходных фотоэлектрических пластин;
• авиационные кислородные системы и маски;
• строительство госпиталя для воинской части Росгвардии;
• модули шифрования, системы контроля доступа и криптографическое ПО через российскую систему оборонных закупок.

Более того, по данным Anthropic, в некоторых запросах пользователь ссылался на конкретные контракты и заказы российских государственных и оборонно-промышленных заказчиков.

Самое отвратительное, что нейросеть фактически была встроена в рабочий процесс, связанный с чувствительными закупками.

Но ещё интереснее другой эпизод.Российский пользователь работал вообще не с Claude — он использовал DeepSeek.

По данным Anthropic, DeepSeek в ряде случаев незаметно для своих пользователей перенаправлял их запросы в Claude Opus.

И среди таких пользователей оказался IT-специалист, работавший с данными российского государственного ведомства, связанного с Министерством обороны.

В переданных в Claude запросах оказались ДЕЙСТВУЮЩИЕ УЧЁТНЫЕ ДАННЫЕ российской государственной базы данных.

И это, пожалуй, главный урок всей истории.

Человек может даже не понимать, куда в конечном итоге отправляются его данные. Вы вводите информацию в одну нейросеть. Она может работать через сторонний API и так до другой модели.

Запросы сохраняются для отладки, контроля безопасности, обучения или анализа злоупотреблений.

А в итоге служебная информация, внутренний код, документы, логины, пароли или сведения о проектах оказываются совсем не там, где вы предполагали.

Поэтому правило должно быть очень простым:

НЕ ОТПРАВЛЯЙТЕ В ПУБЛИЧНЫЕ НЕЙРОСЕТИ ТО, ЧТО ВЫ НЕ ГОТОВЫ ПЕРЕДАТЬ ВНЕШНЕЙ КОМПАНИИ.

Особенно:

— пароли и API-ключи;
— доступы к внутренним системам;
— персональные данные;
— договоры и закрытые приложения к ним;
— внутреннюю переписку;
— коммерческую тайну;
— исходный код закрытых продуктов;
— внутреннюю техническую документацию;
— сведения о закупках и поставщиках;
— чувствительные государственные и оборонные данные.

Нейронки сегодня — очень мощный рабочий инструмент.

Но окно чат-бота не превращается от этого в защищённый корпоративный контур.

И, судя по отчёту Anthropic, некоторые организации понимают это уже после того, как данные ушли наружу.