Эрдэни GenAI финтех

Жадность вайбера погубит, или как получить малвару за ваши же деньги

Часть 1: LLMJacking и краденые токены

Если вы хоть раз занимались вайб-кодингом, то знаете, что лимитов подписок вечно не хватает, а токены дорогие. Можно до конца пятичасового окна мучительно пользоваться своей головой, можно пойти потрогать траву, можно молить Сэма Альтмана о бесплатном ресете. А можно пойти темным путем, и сегодня мы обсудим, к чему это может привести.

В 2023 году, когда каждый второй сайт начал срочно внедрять чаты на основе GPT-3.5, на Github появился небольшой проект GPT4Free. Идея была простая: реверсим открытых поисковых чатботов типа you[.]com или LLM-ботов техподдержки, разбираемся, как отправлять туда произвольные запросы, делаем адаптеры и прячем их за удобным OpenAI-совместимым фронтендом. Проект получил широкую огласку и был замечен даже юристами Сэма Альтмана, после чего обзавелся почтой, по которой можно попросить удалить ваш API из списка адаптеров.

На открытых исследовательских проектах дело не закончилось. В январе 2024 год команда DFI "Лаборатории Касперского" опубликовала отчет, в котором широкими мазками рассказывалось об активности, связанной с LLM, в киберподполье. Одной из находок оказался активный рынок продажи (а иногда и раздачи) краденых аккаунтов от ChatGPT и автоматически зарегистрированных OpenAI-аккаунтов с 5$ приветственных кредитов.

В том же 2024 году Sysdig обнаружила активность по несанкционированному использованию злоумышленниками доступа к моделям, развернутым в облаке на выделенных вычислительных мощностях (в частности, Claude 2/3 на Amazon Bedrock). Злоумышленники получили доступ к управлению облачными ресурсами, устанавливали OpenAI-совместимый reverse-proxy и пользовались вычислительными ресурсами, собирали ответы для обучения других моделей или перепродавали их. Если бы атакующие выжали максимум из квот, то до момента обнаружения они могли бы потреблять до 46 тысяч долларов в облачных кредитах в день. Атаку окрестили LLMJacking.

В 2026 году Sysdig совместно с Pillar Security рассказали о примере реализации LLMJacking, который они назвали Operation Bizzare Bazaar. Некоторый злоумышленник, которого атрибутировали как "Hecker", использовал Shodan/Censys для поиска торчащих в интернет OpenAI-эндпоинтов, подбирал к ним ключи и перепродавал доступы. Его сервис, silver[.]inc, использовал bulletproof-хостинг и маркетировался в Discord и Телеграме.

Учитывая последние достижения LLM в наступательных задачах, от поиска уязвимостей до проведения длинных кибератак, вероятнее всего, охота злоумышленников за бесплатными/дешевыми токенами или, что не менее важно, анонимными токенами из украденного аккаунта, верифицированного через биометрию законопослушной жертвы, будет продолжаться. Стилеры уже давно собирают не только криптокошельки и Github-токены, но и токены доступа к LLM. Будет интересно узнать, сколько на черном рынке будет стоить доступ к аккаунтам Claude или GPT/Codex со снятыми cybersecurity-ограничениями – пока таких прецедентов не было, и если мы о них узнаем, то или от самих провайдеров, или, возможно, в TI по закрытым форумам. Противоположным трендом может являться миграция злоумышленников на локальную инфраструктуру в результате появления достаточно способных моделей небольшого размера, но даже в этом случае они вряд ли откажутся от дешевого фронтира.

как выглядят вотермарки в ai gen контенте в 2026м году 🤔


Что картинки и видео включают в себя лейблы давно не новость. На прошлой неделе антропик (разработчик клода) включили невидимые вотермарки в текстах, а в начале августа suno анонсировали то же самое для музыки. Давайте разберемся как это работает и какие комментарии дают крупные игроки на этот счет. Итак, какие бывают вотермарки:


1️⃣ метаданные (они же c2pa) - подписанный паспорт внутри файла: чем сделано, когда, что редактировали. Проверить может кто угодно, ключи не нужны. Довольно ненадежная история, так как нет защиты от скриншота и слетает при сжатии в соцсетях 🧠


2️⃣невидимая метка в самом сигнале (например synthid от гугла) - находится в пикселях, звуке или выборе слов. В пикселях кстати ее довольно быстро нашли умельцы из твиттера. Скриншоты и сжатие переживает, но все что можно узнать - только сгенерировано или нет. Какой моделью, когда - эта информация не хранится. Кстати, в мае 2026го года таких файлов было уже больше 100 миллиардов 😮



Ожидаемый вопрос, а как это работает в текстах? 😂

Если у вас была версия, то скорее всего она правильная, потому что это вроде как единственный разумный вариант. Когда модель выбирает между равноценными словами, например "интересно" или "любопытно", выбор делается не случайно, а по криптографическому ключу. На смысл это не особо влияет, но статистика выборов становится узнаваемой. Ожидаемо это плохо работает на документах и коде, где нет творческой вариативности, но справедливости ради, как по мне так писать руками код в 2026м году это уже какое-то извращение 😠 По словам авторов, небольшие правки метку не убирают, а вот переписанный своими словами текст целиком - вполне


зачем это все? 🐵

Увы, не из любви к человечеству и гневным коментаторам в тик токе, которых достал эйай. Антропик в июле подписали европейский кодекс по маркировке ии-контента, это новое требование ai act, которое кстати уже вступило в силу, а suno анонсировали вотермарки на фоне исков от universal и sony. Все упирается в авторские права и правовую плоскость


Надя, а ты сама писала этот пост или ...? Щас проверим 😅

Ну почти, антропик анонсировал api проверки эйай/не эйай для сторонних разработчиков, но он еще не запущен, даты нет, в справке так и написано "детали будут в будущей документации". Как по мне это юридическая отмазка и точно не приоритет (пока)

Кстати, youtube и X уже автоматически лейблят видео, читая и c2pa и synthid, причем независимо от того раскрыл автор или нет, частично замечала автометку на pinterest. Но в большинстве случаев раскрытие AI пока остается ручным. Текст платформы не проверяют - только картинки, видео и звук. Могут проверять массовость реплаев и искать агентов, которые ведут соц сети за вас (так недавно снесли 40 тыс аккаунтов в твиттере) 🎧

Есть ли официальные комментарии про охваты?

Youtube при запуске отдельно сказали, что помеченные видео не режутся в рекомендациях и не теряют монетизацию. Но сам факт, что платформа теперь умеет отличать одно от другого автоматически и без вашего участия - это рычаг, которого раньше просто не было. Да и у части продуктов большие репутационные риски за использование ai контента, тот же гуччи с ai-визуалами к неделе моды в Милане, которых разнесли за "дешево и лениво". А aerie сделали ровно наоборот, выкатили кампанию с памелой андерсон и слоганом "you can't prompt this" и получили +23% к продажам в квартале.

Это конечно не значит что эйай контент нельзя использовать, можно и нужно, но стоит изучать отношение вашей аудитории к этой теме, даже если платформы не урежут охваты 🤑

@neural_prosecco

15% годовых в долларах на американских гособлигациях?

Друзья, да, таких сказок не существует, но я до сих пор встречаюсь с примерами мисселлинга со стороны финансовых организаций.

Вот сегодня ко мне обратился клиент для «второго мнения». Один брокер дружественной страны прислал ему инвестиционное предложение из «американских гособлигаций» с доходностью…15% годовых в долларах!

При детальном изучении эти «гособлигации» оказались банальным структурным продуктом типа first-to-default. Он привязан к нескольким облигациям, выплата купона по такому структурному продукту производится, если облигации, к которым привязан продукт, не дефолтнут, и при дефолте одной из облигаций, к которым был привязан структурный продукт, выплата будет произведена по цене дефолтнувшей облигации (при дефолте она часто падает ближе к 10-30% от номинала). А структурный продукт был привязан к американским облигациям, но не государственным, а корпоративным, причем мусорного рейтинга преимущественно В+ и В (далее следует В- и далее - преддефолтный рейтинг).
При этом структурный продукт на 5 лет, не обращается на бирже. И такой «шикарный» продукт предлагался на 100% капитала.

Друзья, ну не бывает чудес. Условно безрисковый уровень доходности - это уровень ключевой/учетной ставки соответствующей страны. В США это 3.75%. В ЕС это 2.4%. Банк Англии - 3.75%.

Под соусом «консервативных продуктов» или «почти депозита» вам часто, особенно в брокерах дружественных стран, могут предлагать структурные продукты совсем не консервативного толка, либо репо (где вы берете на себя риски контрагента, а контрагент - может быть совсем не инвестиционного рейтинга). Еще вариант - инвестиционные сертификаты, привязанные ко множеству бумаг, не все из которых могут быть инвестиционного рейтинга.

Так что не все предложения брокеров и банков одинаково полезны :) И весьма часто при продаже вам таких продуктов зарабатывает только продавец ;)