Введите текст для поиска
Расширенный поиск каналов

TGStat - аналитика каналов и чатов

Подписывайся, чтобы быть в курсе новостей TGStat.
img
реклама

SearcheeBot

Ваш гид в мире Telegram-каналов
img
реклама

TGAlertsBot

Мониторинг упоминаний ключевых слов в каналах и чатах.
img
реклама

ML&|Sec Feed

@mlsecfeed
Гео и язык канала: Россия, Русский
Категория: Технологии

Feed for @borismlsec channel
author: @ivolake

Связанные каналы
Гео и язык канала
Россия, Русский
Категория
Технологии
Статистика
Это ваш канал? Подтвердить Канал в реестре блогеров РКН? Подтвердить История канала
Фильтр публикаций

ML&|Sec Feed

24 Aug, 12:35

Открыть в Telegram Поделиться Пожаловаться
Репост из: papirsec
Проект_приказа_ФСТЭК_России_О_внесении_изменений_в_Требования,_утвержденные.docx
120.1Кб
опа

Опубликован проект приказа о внесении изменений в Требования утв. приказом ФСТЭК России от 11.04.2025 № 117

1. Терминология переезжает на новую базу
Определение ИИ теперь берется из п. 1 ст. 3 ФЗ от 26.07.2026 № 243-ФЗ, а агент ИИ - из п. 3.1.1 ГОСТ Р 71476-2024. Из третьего абзаца п. 49 исключается слово «доверенных»
2. Новый организационный документ
В подпункте «д» п. 14 появляется - «порядок ЗИ при использовании ИИ;»
3. Пункт 60 - полностью новая редакция
Базовые требования при применении моделей ИИ:
- выделение моделей ИИ в отдельный сегмент ИС/ИТКИ;
- привилегированный доступ в сегмент - только по усиленной МФА;
- контроль доступа и минимально необходимые права;
- регистрация и анализ действий пользователей.
Если ИИ обрабатывает информацию ограниченного доступа или реализует значимые функции:
- контроль доступа пользователей к моделям;
- фильтрация входных запросов и выходных ответов;
- квотирование числа запросов;
- ограничение и контроль функциональности моделей.
Реализация через ПО в составе ИС и/или отдельные средства защиты моделей ИИ
4. Пункт 61 - про агентов и сервисы
Для агентов ИИ, включая автономные, требуются меры против несанкционированного воздействия на ресурсы ИС и управление правами доступа агентов. Для сервисов на основе моделей ИИ меры подрядчика фиксируются во внутренних стандартах и регламентах
96 0 5
ML&|Sec Feed

24 Aug, 10:33

Открыть в Telegram Поделиться Пожаловаться
Репост из: maxigacy (AI) Security
Меньше битов ≠ больше защиты

Чтобы запустить ML-модель на микроконтроллере, её часто переводят из FP32 в INT8 или INT4. Модель становится компактнее и быстрее, а иногда ещё и демонстрирует лучшую устойчивость к adversarial-атакам.
Звучит как бесплатная защита. Но есть нюанс.

Авторы исследования David and Goliath⁠ проверили три квантованные TinyML-модели с помощью десяти атак и шести защит. Оказалось, что квантование меняет геометрию модели: градиенты могут исчезать, взрываться или указывать атаке неверное направление.

В результате неудачная атака иногда говорит не о реальной защищённости модели, а лишь о том, что выбранный метод плохо работает с квантованной арифметикой.

Поэтому оценивать нужно именно итоговую INT8/INT4-модель, причём не одной атакой: полезны адаптивные, transfer- и black-box-сценарии, а также проверка на реальном устройстве.

Для меня эта тема не только теоретическая. В нашей с Максимом Князевым статье «Влияние квантования TinyML-моделей на устойчивость аудиосистем персонального интернета вещей»⁠ мы проверяли распознавание голосовых команд под атакой PGD-40. INT8-QAT сохранил 98,8% точности на чистых данных и 92,2% под атакой, а у INT4 показатели снизились до 49,42% и 47,8% соответственно.

Квантование отлично экономит память. Но в безопасности экономия битов ещё не означает экономию рисков.

#AIxSec #TinyML #AdversarialML #MLSecurity #Security #AIxSec_Research
91 0 5
ML&|Sec Feed

24 Aug, 06:53

Открыть в Telegram Поделиться Пожаловаться
Репост из: Shady AI
Новая атака на Grok что бы собрать пользовательские данные

Исследователи из Adversa AI обнаружили способ незаметно похитить данные пользователя Grok: имя, геолокацию, историю переписки просто попросив ИИ «открыть ссылку».

На вредоносной странице спрятана зашифрованная AES-256 инструкция. Grok сам её расшифровывает через встроенный Python-sandbox, принимает за «доверенный» источник и отправляет личные данные на сервер злоумышленника без каких-либо предупреждений.

О проблеме сообщили xAI ещё 3 июня. Реакции пока ноль.

По состоянию на 19 августа атака всё ещё работает (~40% успеха).

https://gbhackers.com/zero-click-grok-attack-prompt-injection/
Zero-Click Grok Attack Lets Hackers Steal Chat History Using Encrypted Prompt Injection
A newly disclosed prompt-injection technique could turn a routine request to summarize a webpage in xAI’s Grok web chat into a silent data-exfiltration attack, potentially exposing a user’s name, approximate location, subscription tier, and active conversation history.
74 0 2
ML&|Sec Feed

23 Aug, 22:08

Открыть в Telegram Поделиться Пожаловаться
Репост из: Хабр / ML & AI
753B на одной видеокарте: разбор FreeToken

Бывает так: сидишь, листаешь ленту, и в очередной раз натыкаешься на пост, где стафф-инженер из солнечной Калифорнии крутит свежую модельку на паре RTX PRO 6000 общей стоимостью с подержанную машину. Ты смотришь на свою RTX 4060 в ноутбуке, который покупал «не только для игр», и понимаешь: ну ладно, это не для нас.

Так вот, это как раз для нас. На той самой ноутбучной 4060 с восемью гигабайтами и урезанным вдвое PCIe-линком можно получить 39.3 tok/s на 35-миллиардной модели — быстрее, чем медианная скорость декода Codex в проде. Вопрос был не в железе, а в софте, который это железо обслуживает.

Разбираем FreeToken — движок для локального инференса MoE-моделей от команды, которая до этого сделала vLLM и SGLang. Запустить AGI на слабом железе

#moe #локальные_модели #инференс #llama_cpp #llm #оффлоадинг #агенты #cuda #gpu #freetoken | @habr_ai
114 0 10 2
ML&|Sec Feed

23 Aug, 19:33

Открыть в Telegram Поделиться Пожаловаться
Репост из: PAI
Cursor и Claude Science в докер-песочнице с графическим интерфейсом.

Написал скилл и пару скриптов чтобы поставить любой десктопный агент в песочницу и прокинуть экран на хост. Скормите их своему агенту и скажите «подними Cursor и пробрось на хост», остальное он сделает сам. OAuth через браузер тоже работает, для агента всё расписано.

Лежит тут: github.com/Andy9542/bring-my-gui. Внутри плагин для Cursor и Claude Code и два скрипта на случай, если агент не нужен.

У меня агент живёт в песочнице без подтверждения команд, в худшем случае он сносит только то, что внутри неё. Но есть Claude Science и другие штуки, которые хочется попробовать. Как десктопные приложения они лучше, а ставить на хост стрёмно, вдруг что снесет.

До сих пор агент из песочницы показывал мне только cli. Теперь показывает и окна: на скрине Cursor из контейнера с Ubuntu, открытый через встроенный маковский VNC. На сам Mac ничего ставить не пришлось.

Если потыкаете и что то отвалится, пишите сразу мне, починю быстро. Ну и лайков на Гитхабе насыпьте, у меня все.
116 0 5
ML&|Sec Feed

23 Aug, 18:33

Открыть в Telegram Поделиться Пожаловаться
Репост из: 0xTI_Trinity
Тернистый_путь_к_AI_Powered_Threat_Intelligence_final.pdf
4.0Мб
Ох, давненько же я не сдувал пыль с этого канала.

А тут как раз и хороший повод появился.

Пока ждем записи вчерашнего выступления, делюсь материалами нашего доклада на #offzone2026 ❤
115 0 4
ML&|Sec Feed

23 Aug, 17:54

Открыть в Telegram Поделиться Пожаловаться
Репост из: Dealer.AI
OWASP Agent Memory Guard - новая защита от отравления памяти ИИ-агентов. Буду звать его теперь AMG (не mercedes 👍).

📦 помнится говорил про спящих агентов. Это способ атак отложенных во времени и работающих по триггеру в рамках разговора. А-ля стоп слово в bdsm 🤣.

AMG в тч работает против таких отложенных инъекций, но в глобал памяти. Если ваш агент хранит память между сессиями, он уязвим к memory poisoning. Атакующий может переписать цели, внедрить промпт-инъекции или инициировать утечку данных, и это переживёт очистку контекста.

Что умеет AMG?

✅ Перехватывает все чтения/записи в память агента
✅ Детектирует промпт-инъекции, утечки секретов/PII, модификацию защищённых ключей
✅ Применяет политику: allow, redact, quarantine, block
✅ Работает без внешних API, всё локально
✅ Готовый middleware для LangChain, LlamaIndex.

Уже вижу, как безопасники ликуют 😜

Цифры, которые заявляют:

· Детекция реальных эксплойтов - 92.5% (recall), малова-то, над бы охваты держать на уровне 95+, а лучше девяток. 😮‍💨
· Точность - 100% (precision), 0% false positive, эти уже хорошо. 🍷
· Задержка ~59 микросекунд на операцию.
Итого F1 - 0.961. В общем, есть ещё над чем поработать, но это лучше, чем гварды из коробки с 0.67-0.71 уровнем метрик, что я видел на ру рынке. 😐

Уже в pip:
pip install agent-memory-guard
Проект, как заявляется, уже используют Microsoft и OWASP как стандарт. В планах ML-детекция аномалий и защита векторных хранилищ, ещё бы в планы ап метрик добавили.

🔗 Репозиторий: https://github.com/OWASP/www-project-agent-memory-guard

Безопасность агентов становится обязательной, поэтому не забывайте внедрять защиту памяти в тч. 💪
GitHub - OWASP/www-project-agent-memory-guard: OWASP Foundation web repository
OWASP Foundation web repository. Contribute to OWASP/www-project-agent-memory-guard development by creating an account on GitHub.
103 0 5
ML&|Sec Feed

23 Aug, 17:02

Открыть в Telegram Поделиться Пожаловаться
86 0 3
ML&|Sec Feed

23 Aug, 16:57

Открыть в Telegram Поделиться Пожаловаться
Репост из: Sachok AI
Red Security о том как использовать ИИ в форензике и анализе вредоносного кода.
99 0 3
ML&|Sec Feed

23 Aug, 16:57

Открыть в Telegram Поделиться Пожаловаться
92 0 6
ML&|Sec Feed

23 Aug, 16:46

Открыть в Telegram Поделиться Пожаловаться
109 0 0
ML&|Sec Feed

23 Aug, 14:56

Открыть в Telegram Поделиться Пожаловаться
Репост из: Love. Death. Transformers.
Что страшнее: псих с ружьём в офисе или 70кг робо собака взломанная хакерами ?

https://boschko.ca/unitree-go2-rce/
99 0 0
ML&|Sec Feed

23 Aug, 10:20

Открыть в Telegram Поделиться Пожаловаться
151 0 12 2
ML&|Sec Feed

23 Aug, 10:18

Открыть в Telegram Поделиться Пожаловаться
Репост из: КБ. экономика
В Сингапуре запустили первый сервер, работающий на живых клетках мозга.

Компания Cortical Labs предлагает клиентам биокомпьютеры - где для вычисления используются живые клетки человеческого мозга.

В сравнении с обычными серверами, биологические потребляют в 100 раз меньше энергии.
129 0 5
ML&|Sec Feed

22 Aug, 14:52

Открыть в Telegram Поделиться Пожаловаться
141 0 1
ML&|Sec Feed

21 Aug, 21:41

Открыть в Telegram Поделиться Пожаловаться
Неожиданные источники вдохновения современных названий?..

Codex Marcianus Ouroboros -
страница из византийской рукописи, в которую включена «Клеопатрова Хрисопея». Это алхимическая запись о «златоделии Клеопатры», восходящая примерно к III–IV вв. н. э., где изображен Уроборос как символ единства и преобразования материи. Внутри змея написана фраза «ἓν τὸ πᾶν» - «hen to pan» - «единое [есть] всё».

В целом, греко-египетская алхимия была тесно связана с герметической традицией. Ее тексты приписывались легендарному мудрецу Гермесу Трисмегисту - образу, возникшему из отождествления греческого Гермеса с египетским Тотом.
А сам греческий бог границ и дорог Гермес изображался с особым жезлом под названием кадуцей/керикион, выглядящим как две змеи, обвившиеся вокруг стержня.

Но цепочка продолжается. В первом трактате Corpus Hermeticum, «Поймандре», Гермесу Трисмегисту является Poimandres, называющий себя Nous (νοῦς) - буквально «Ум», божественный разум. Именно Nous раскрывает Гермесу устройство мира. А затем в этой космогонии Nous, «Отец всего», порождает Anthropos (Ἄνθρωπος) - первичного Человека, созданного по его образу, который затем нисходит в материальный мир.
167 0 1 2
ML&|Sec Feed

21 Aug, 10:06

Открыть в Telegram Поделиться Пожаловаться
161 0 3
ML&|Sec Feed

20 Aug, 17:32

Открыть в Telegram Поделиться Пожаловаться
179 0 1
ML&|Sec Feed

20 Aug, 07:53

Открыть в Telegram Поделиться Пожаловаться
Репост из: Анализ данных (Data analysis)
⚡️ 6 полезных репозиториев для работы с AI-агентами

1. Agency Agents
https://github.com/msitarzewski/agency-agents

Набор из 232 специализированных агентов для 16 направлений: разработка, дизайн, маркетинг, управление и другие задачи.

2. Codebase Memory MCP
https://github.com/DeusData/codebase-memory-mcp

Строит граф знаний по кодовой базе, чтобы агент быстрее находил связи между файлами, функциями и сущностями. Заявлена поддержка 158 языков.

3. OpenMontage
https://github.com/calesthio/OpenMontage

Инструмент для создания видео с помощью кодингового агента: сценарий, ассеты, монтаж и рендеринг можно собирать через промпты.

4. Agent-Reach
https://github.com/Panniantong/Agent-Reach

Дает агенту доступ к X, Reddit, YouTube, GitHub и другим источникам для поиска и сбора информации.

5. Orca
https://github.com/stablyai/orca

Позволяет запускать несколько кодинговых агентов параллельно и управлять их задачами из одного места.

6. OmniRoute
https://github.com/diegosouzapw/OmniRoute

Единый шлюз для работы с большим количеством AI-провайдеров через один endpoint.

@data_analysis_ml / 'https://t.me/addlist/2Ls-snqEeytkMDgy' rel='nofollow'>Папка полезного по ML.

Сохраняй 🔖
197 0 12
ML&|Sec Feed

20 Aug, 07:52

Открыть в Telegram Поделиться Пожаловаться
Репост из: DevSecOps Talks
Top10_Agentic.pdf
5.9Мб
OWASP Agentic Skills: Top 10

Всем привет!

В приложении можно найти материал от OWASP (~ 66 страниц), посвящённый вопросам обеспечения ИБ при работе с агентами.

«По классике» представлены 10 наиболее значимых угроз:
🍭 Malicious Skills
🍭 Supply Chain Compromise
🍭 Over-Privileged Skills
🍭 Insecure Metadata
🍭 Untrusted External Instructions и не только

Для каждой из них приводится описание, подтверждение актуальности из «реального мира», набор сценариев и рекомендации по снижению уровня риска.

Приятного изучения!
147 0 9
Показано 20 последних публикаций.