Telegram-канал "DevSecOps Talks" — @devsecops_weekly

DevSecOps Talks

25 Aug, 07:22

Agentic Access Model

Всем привет!

Вопрос управления доступом – задача крайне непростая. Особенно непростой она становится при работе с агентами.

Для того, чтобы комплексно подойти к вопросу, ребята из Cloudflare предложили своё видение – Agentic Access Model (AAM).

В её основе лежат 5 принципов:
🍭 Учетные данные краткосрочны и ограничены
🍭 Политики применяются именно там, где осуществляется действие или сетевая активность
🍭 Подтверждение действия со стороны человека
🍭 Шаблоны выполняемых задач не должны быть общими
🍭 Осуществляется контроль полномочий

Для того, чтобы реализовать эти принципы, Авторы предлагают концепт архитектуры, который состоит из: Identity Broker, Access Engine, Mediation Layer и Trust Ratchet.

Каждый элемент и его назначение описывается в статье. Есть пример того, как это можно применять на практике.

В итоге получается целостная картина, которая позволяет управлять доступом при работе с агентами и их возможностями при выполнении задач.

The Agent Access Model

The Agent Access Model proposes a new architecture to secure task-scoped agents using strict identity brokering, continuous mediation, and stateful trust.

269 1 16

DevSecOps Talks

24 Aug, 07:21

Snyk: VulnBench

Всем привет!

Недавно мы писали про исследование команды Snyk, посвященное тому, насколько хорошо LLM ищут уязвимости в исходном коде и насколько идемпотентные результаты можно получить.

Чтобы было проще посмотреть и проанализировать результаты, Snyk подготовил VulnBench.

Фактически – та же сама информация, представленная в виде интерактивного сайта, в котором можно углубиться в исследование.

Доступны такие разделы как:
🍭 Summary
🍭 Repeatability
🍭 Coverage
🍭 Efficiency
🍭 Findings

В каждом из них собрана детальная информация по результатам, предоставленным каждой LLM.

В том числе можно посмотреть на то, как именно LLM выносили вердикт и какое обоснование они формировали.

Если вас заинтересовала статья, то VulnBench вам точно понравится!

Explore how reliably AI systems find vulnerabilities—and inspect the evidence behind every conclusion.

895 1 28 1

DevSecOps Talks

21 Aug, 07:23

Kubesplaining: анализ безопасности Kubernetes

Всем привет!

Зачастую информации о некорректной конфигурации может быть недостаточно. Хочется понять, «к каким последствиям это может привести? Можно ли этим воспользоваться?».

Именно на эти вопросы может ответить Kubesplaining.

Он позволяет построить «карту передвижения» злоумышленника с указанием возможных способов его реализации.

Это достигается за счёт анализа:
🍭 Настроек RBAC
🍭 Конфигурации pod, Admission Controller’ов
🍭 Секретов
🍭 Используемых Service Accounts
🍭 Сетевого взаимодействия и не только

В итоге формирует интерактивный отчёт, с примером которого можно ознакомиться тут.

Подробности – установка, настройка, работа с исключением – всё это есть в GitHub-репозитории проекта.

GitHub - 0hardik1/kubesplaining: Kubernetes security assessment CLI: RBAC, pod-escape, and privilege-escalation path analysis. Cloudsplaining for Kubernetes.

Kubernetes security assessment CLI: RBAC, pod-escape, and privilege-escalation path analysis. Cloudsplaining for Kubernetes. - 0hardik1/kubesplaining

1.2k 0 38 1 3

DevSecOps Talks

20 Aug, 13:28

Исследования рынков DevSecOps и MLSecOps

Привет, друзья! Предлагаем вашему вниманию целых три (!) исследования, которые мы запустили:
🍗Исследование рынка безопасной разработки и DevSecOps
🍗Исследование рынка средств контейнеризации
🍗Исследование рынка безопасности ИИ-систем (MLSecOps)
Они направлены на выявление реального положения дел в DevSecOps и MLSecOps, как наиболее хайповых и быстрорастущих направлениях в российском ИТ.

Предлагаем вам пройти все эти опросы и, конечно же, отвечать нужно честно - так статистика получится релевантной.

Среди всех участников каждого опроса 18 сентября в 14:00 проведём розыгрыш уникального мерча, где определим 3х случайных победителей!

В поле «Уникальный идентификатор» нужно указать ник в Telegram, электронную почту или номер телефона. Эти данные понадобятся только для связи с победителями, или если потребуется уточнить ответы.

1.4k 1 23 32

DevSecOps Talks

20 Aug, 07:22

Top10_Agentic.pdf

5.9Мб

OWASP Agentic Skills: Top 10

Всем привет!

В приложении можно найти материал от OWASP (~ 66 страниц), посвящённый вопросам обеспечения ИБ при работе с агентами.

«По классике» представлены 10 наиболее значимых угроз:
🍭 Malicious Skills
🍭 Supply Chain Compromise
🍭 Over-Privileged Skills
🍭 Insecure Metadata
🍭 Untrusted External Instructions и не только

Для каждой из них приводится описание, подтверждение актуальности из «реального мира», набор сценариев и рекомендации по снижению уровня риска.

Приятного изучения!

1.7k 2 105 6

DevSecOps Talks

19 Aug, 07:25

Насколько хорошо LLM генерируют рекомендации по устранению ИБ-дефектов?

Всем привет!

Практика создания исправлений для ИБ-дефектов с использованием LLM становится всё более и более распространённой.

Но можно ли им полностью доверять?

Изменяют ли предлагаемые ими обновления поведение приложения? Могут ли они, исправляя одни ИБ-дефекты, добавлять другие?

Ответам на эти вопросы посвящена статья от Off-by-1 Labs (ИБ-команды 1Password).

Получилась следующая статистика для 6480 обновлений, подготовленных современными моделями:
🍭 Полностью устраняли ИБ-дефекты и сохраняли логику работы приложения: 26%
🍭 Полностью устраняли ИБ-дефект, но меняли логику работы приложения: 20,1%. Пример изменения логики: изменение allow list на deny list
🍭 Не устраняли ИБ-дефекты полностью и/или добавляли новые: 53,9%

Для формирования выборки использовались 6 «свежих» CVE, большинство из которых представляло собой RCE.

Каждая модель сгенерировала по 540 обновлений для каждой CVE: разные конфигурации, разные prompts.

После этого команда оценила результаты по «пятибальной» шкале: S1 – всё отлично, S5 – ИБ-дефект не устранён, появился новый.

Общий итог описан выше. Больше подробностей (статистики, описаний) можно найти в статье.

Кстати, в завершении команда приводит набор рекомендаций о том, как можно повысить качество генерируемых исправлений для ИБ-дефектов: всё так, human-in-the-loop в качестве «финального решения» 😅

P.S. Инструментарий, наборы данных и детальное описание статьи выложены для всеобщего рассмотрения. Найти их можно тут, тут и тут соответственно.

Off-by-1 Labs Research: AI-generated vulnerability patches require human review | 1Password

Defenders are increasingly turning to LLMs to to generate vulnerability patches. But our research showed that LLMs only successfully generate patches (without materially changing application behavior) 26% of the time.

1.4k 0 33 2

DevSecOps Talks

18 Aug, 07:23

VulnReach: композиционный анализ с учётом достижимости

Всем привет!

VulnReach – open-source проект, который комбинирует практики композиционного анализа, taint-анализа и анализ данных во время эксплуатации ПО.

На основе этих данных формируется RBoM – Runtime Bill Of Materials.

Всё это необходимо для того, чтобы понять, какая именно уязвимость достижима и может быть эксплуатируема, а какая – нет.

Для подтверждения своего «мнения», VulnReach предоставляет информацию о пути выполнения программы, который привёл к уязвимому методу.

На текущий момент поддерживается Python. Для Java, JavaScript реализован анализ call graphs, но функциональность всё ещё является экспериментальной.

В дальнейшем планируется добавление Golang, C# и PHP.

Подробнее о проекте можно прочесть в GitHub-репозитории или на официальном сайте.

Кстати, в репозитории есть скриншоты, чтобы лучше ознакомиться с тем, как именно VulnReach «выглядит» и какую информацию он предоставляет.

GitHub - OWASP/VulnReach: Runtime-aware SCA — proves which CVEs are actually reachable, not just installed.

Runtime-aware SCA — proves which CVEs are actually reachable, not just installed. - OWASP/VulnReach

1.4k 0 57 2 3

DevSecOps Talks

17 Aug, 07:21

JavaScript Analysis for Pentesters

Всем привет!

В статье можно найти достаточно объёмное и подробное руководство о том, на что обращать внимание при анализе JavaScript-приложений.

Статья написана с точки зрения «атакующего», но может быть полезна и тем, кто «защищает».

Материал разбит на части:
🍭 Static Analysis
🍭 Dynamic Analysis
🍭 (De) obfustation
🍭 Bypass Code Protection и не только

В каждом разделе приводится много теории, примеров и пояснений.

Есть даже небольшая «лабораторная работа» по анализу обфусцированного кода.

Кстати, помимо этой, у Автора можно найти ещё много интересных статей, посвященных информационно безопасности приложений.

Рекомендуем!

~/kpwn$ _

1.4k 0 37 7 2

DevSecOps Talks

14 Aug, 07:23

KubeShark: использование LLM в Kubernetes

Всем привет!

KubeShark – skill для работы с Kubernetes. Основная его задача – генерировать и/или исправлять конфигурации в ресурсах.

Основная проблема, которую пытался решить Автор – галлюцинации, которые зачастую случаются при работе LLM с Kubernetes.

Для этого он реализовал следующий подход:
🍭 Изучение контекста. Версия кластера, используемый namespace, окружение, тип ресурса
🍭 Анализ failure modes. Поиск наиболее подходящего из 6 сценариев (небезопасная конфигурация, некорректная работа с ресурсами, проблемы с сетью и т.д.)
🍭 Загрузка сценариев. На основании предыдущего шага выбирается набор подходящих инструкций для диагностики
🍭 Формирование рекомендаций. Предложение по тому, как можно решить выявленные проблемы
🍭 Генерация артефактов. Создание манифестов, Helm Charts, политик и т.д., в которых реализовано предложенное исправление
🍭 Проверка. Dry-run, валидация наработок, проверка консистентности

В итоге получается древовидная структура, которая содержит большое количество разных проверок, применяемых в зависимости от ситуации.

Такой подход, по мнению Автора, сильно сокращает вероятность того, что LLM «добавит что-то от себя».

Примеры задач, которые поможет решить KubeShark: создай `deployment` с N репликами, `requests/limits` и `ingress`; проверь конфигурацию на наличие проблем безопасности; создай роль с минимальными привилегиями, для сервиса X, который должен уметь делать Y и т.д.

Подробнее про KubeShark можно прочесть в GitHub-репозитории или в официальной документации.

GitHub - LukasNiessen/kubernetes-skill: Kubernetes Skill for Claude Code and Codex. LLMs hallucinate a lot with K8s - KubeShark fixes this. It eliminates hallucinations and grounds your Kubernetes, Helm etc official best practices.

Kubernetes Skill for Claude Code and Codex. LLMs hallucinate a lot with K8s - KubeShark fixes this. It eliminates hallucinations and grounds your Kubernetes, Helm etc official best practices. - Luk...

1.7k 0 36 4

DevSecOps Talks

13 Aug, 07:23

Поиск ИБ-дефектов с LLM: идемпотентность

Всем привет!

«Может ли LLM найти один и тот же ИБ-
дефект дважды?» - именно этот вопрос задала себе команда Snyk.

Для того, чтобы ответить на него ребята запустили 300 сканирований.

Один и тот же исходный код. Один и тот же prompt. Один и тот же harness. Несколько раз.

Что получилось? Ответ можно найти в достаточно объемной статье (~ 29 минут на прочтение).

tl;dr – результаты могли отличаться от запуска к запуску.

А если хочется деталей, то они есть внутри и «разбиты» на разделы:
🍭 Результат №1. Повторяемость LLM варьируется от конфигурации
🍭 Результат №2. LLM-агенты и SAST нашли разные ИБ-дефекты
🍭 Результат №3. Более дорогие LLM не всегда показывали лучшие результаты

Для каждого из описанных выше разделов приводится много статистики, пояснений и уточнений о том, как именно запускались тесты и что именно было найдено.

Проводили ли вы у себя подобные исследования и какие были результаты?

Snyk VulnBench JS 1.0: LLM Bug Repeatability | Snyk

Snyk VulnBench JS 1.0: 300 repeated scans show LLM security findings vary by run, while SAST and models catch different vulnerability gaps.

1.8k 2 46 2

DevSecOps Talks

12 Aug, 07:23

Drogonsec: комплексный анализ ПО

Всем привет!

Drogonsec – open-source сканер, который объединяет в себе сразу несколько типов анализа: Secrets, SAST и SCA.

В результате работы формируется единый отчёт, в котором всё структурировано по типам практик. При желании их можно «включать» и «отключать».

Secrets анализирует как текущую директорию, так и историю (при необходимости можно отключить) на наличие чувствительных данных.

Для SAST поддерживается более 20 языков, среди которых: Python, Java, JS, TS, Golang, Kotlin, C/C++ и не только. Суммарно доступно более 150 правил, которые можно добавлять самостоятельно.

SCA по классике – анализ манифестов и определение «подходящих» CVE. При необходимости Drogonsec позволяет выгрузить SBoM-файл.

Для формирования рекомендаций по устранению идентифицированных ИБ-дефектов, помимо того, что описано в правилах, можно использовать LLM.

Доступно «подключение» как к локальной LLM (Ollama, DeepSeek Coder), так и к внешним (Anthropic, OpenAI, Azure и т.д.).

Больше подробностей про Drogonsec можно найти в GitHub-репозитории и в официальной документации на утилиту.

GitHub - filipi86/drogonsec: High-performance open-source security scanner combining SAST, SCA, Secret Detection, and IaC analysis, built for developers and CI/CD pipelines, using AI for recommendation!

High-performance open-source security scanner combining SAST, SCA, Secret Detection, and IaC analysis, built for developers and CI/CD pipelines, using AI for recommendation! - filipi86/drogonsec

1.6k 0 60 1 4

DevSecOps Talks

11 Aug, 07:23

XSS Laboratories

Всем привет!

XSS Laboratories – open-source проект, в котором неожиданно! собраны лабораторные работы, обучающие тому, что такое XSS и какие они бывают.

Всего доступно 9 лабораторных:
🍭 Introduction to XSS Basics
🍭 Stored XSS Attacks
🍭 DOM-based XSS
🍭 Advanced XSS Techniques
🍭 Edit/View Functionality XSS и не только

Итого – 5 Reflected, 3 Stored и 1 DOM XSS.

Если нет желания запускать локально, то лабораторные можно посмотреть вот тут.

Приятного изучения и практики!

GitHub - 00xjoe/XSS-Laboratories: A hands-on collection of cross-site scripting (XSS) labs and challenges for learning and testing web application security.

A hands-on collection of cross-site scripting (XSS) labs and challenges for learning and testing web application security. - 00xjoe/XSS-Laboratories

1.9k 0 67 1 4

DevSecOps Talks

10 Aug, 07:23

Awesome: LLM4Cybersecurity

Всем привет!

Сегодня хотим рассказать вам про ещё одну Awesome-подборку.

В ней собрана информация о возможных способах применения и возможностях LLM, применительно к информационной безопасности.

Awesome разбит на разделы:
🍭 LLM Assisted Defense
🍭 Vulnerability Detection
🍭 Program/Vulnerability Repair
🍭 FUZZ
🍭 Insecure Code Generation и не только

Для каждого раздела собраны ссылки на релевантные материалы по теме. В среднем получается около 50 ссылок на каждую.

Внутри можно найти материалы в том числе по безопасной разработке: использование LLM для поиска ИБ-дефектов, для устранения или для подтверждения возможности эксплуатации того, что было найдено.

GitHub - tmylla/Awesome-LLM4Cybersecurity: An overview of LLMs for cybersecurity.

An overview of LLMs for cybersecurity. Contribute to tmylla/Awesome-LLM4Cybersecurity development by creating an account on GitHub.

1.9k 1 101 5

DevSecOps Talks

7 Aug, 07:23

Deployah: «быстрый» deploy в Kubernetes

Всем привет!

Deployah – open-source утилита, которая упрощает процесс разворачивания приложений в кластере Kubernetes.

«Внутри» она содержит всё необходимое: helm, kubectl, kind. За счёт этого требуется всего лишь создать небольшой конфигурационный файл – deployah.yaml, а дальше она сама сделает всё необходимое.

Работает это примерно так:
🍭 Анализ конфигурации. Поиск ошибок и неточностей, чтобы устранить их заранее
🍭 Адаптация конфигурации. Выбор требуемой среды для разворачивания, подстановка необходимых переменных
🍭 Запуск. Создание Helm Values, установка Helm Release в выбранном кластере

Сама спецификация требует заполнения трех обязательных полей - apiVersion, project и components.

Для управления кластерами, в которых будут созданы ресурсы, используется ещё один конфигурационный файл - deployah.platform.yaml.

В нём необходимо указать основные параметры. Например, nodeSelector, securityContext, storageClass и т.д.

Используя эту информацию и данные о конфигурации запускаемого приложения Deployah как раз и создаст необходимые Values для установки Helm Chart.

Подробнее о возможностях утилиты, её настройках и сценариях использования можно прочесть в GitHub-репозитории проекта.

P.S. А если вам интересно "а зачем оно вообще надо", то ответ Автора, раскрывающий мотивацию создания Deployah можно найти тут ☺️

GitHub - deployah-dev/deployah: Spec-to-Release for Kubernetes: turn a short app spec into a real Helm release. Zero Helm knowledge, zero cluster-side setup, one binary.

Spec-to-Release for Kubernetes: turn a short app spec into a real Helm release. Zero Helm knowledge, zero cluster-side setup, one binary. - deployah-dev/deployah

2.2k 0 30 1 4

DevSecOps Talks

6 Aug, 07:25

Luxury Yacht: GUI для управления кластерами Kubernetes

Всем привет!

«Я попробовал разные GUI для Kubernetes, но не смог найти то, что нужно именно мне, поэтому сделал своё» - комментарий Автора о причине создания Luxury Yacht.

Как и большинство подобных решений она позволяет:
🍭 Получать сводную информацию по кластеру (утилизация ресурсов, количество узлов, последние events, данные о ресурсах и т.д.)
🍭 Управление несколькими кластерами их единого UI с возможностью «переключения»
🍭 Получение информации и поиск интересующих ресурсов
Возможность делать diff конфигураций
🍭 Делать port-forward,
exec
🍭 Редактировать yaml- файлы не покидая UI и не только

Так в чём же разница?

Автор выделяет несколько возможностей: максимально удобный просмотр логов, построение «карты взаимодействия/связности» ресурсов, возможность расположения объектов «под себя», управление узлами (cordon, drain, delete) и не только.

Выглядит Luxury Yacht достаточно приятно и ненагруженно. Посмотреть можно вот тут и в GitHub-репозитории проекта.

Довелось ли вам использовать этот GUI и что вы о нём думаете?

GitHub - luxury-yacht/app: Luxury Yacht - A cross-platform app for managing Kubernetes clusters and resources

Luxury Yacht - A cross-platform app for managing Kubernetes clusters and resources - luxury-yacht/app

2k 0 27 1 3

DevSecOps Talks

5 Aug, 07:23

OpenAnt: поиск Иб-дефектов в ПО с использованием LLM

Всем привет!

OpenAnt – ещё один представитель класса решений, которые используют LLM для того, чтобы искать ИБ-дефекты в ПО и сокращать количество «шума».

Концепт аналогичный многим: на первом «этапе» он ищет потенциальные недоработки, на втором – пытается их эксплуатировать, а пересечение результатов этапов – то, на что стоит обратить внимание.

Работает он примерно так:
🍭 Анализирует кодовую базу
🍭 Строит графы вызовов (call graphs)
🍭 Пытается выявить участки кода, доступные «извне»
🍭 Анализирует source/sink с использованием LLM
🍭 Пытается проверить сработки путём их эксплуатации

«Из коробки» реализована поддержка Anthropic, OpenAI и Google. В планах у ребят реализация поддержки большего количества моделей.

На текущий момент поддерживаются языки: Go, Python, JS/TS (beta), C/C++ (beta), PHP (beta), Ruby (beta), Zig (beta) и Swift (beta).

Подробнее об OpenAnt можно прочесть в GitHub-репозитории проекта.

Важно (!): некоторая функциональность OpenAnt всё ещё находится в стадии «beta», т.к. проект активно развивается

GitHub - knostic/OpenAnt: OpenAnt from Knostic is the leading open source LLM-based vulnerability discovery product, helping defenders proactively find verified security flaws while minimizing both false positives and false negatives. Stage 1 detects. Stage 2 attacks. What survives is real.

OpenAnt from Knostic is the leading open source LLM-based vulnerability discovery product, helping defenders proactively find verified security flaws while minimizing both false positives and false...

2k 1 70 3

DevSecOps Talks

4 Aug, 07:26

Nomos: контроль действий AI-агентов

Всем привет!

Использование AI-агентов постепенно становится общей практикой. При этом недоверие к ним всё равно остаётся – «а что если он сделает что-то не то?».

Чтобы несколько повысить уровень безопасности при работе с ними можно посмотреть на open-source проект Nomos.

Он представляет из себя нечто вроде «межсетевого экрана», который «стоит» между агентами и целевой системой.

Это нужно для того, чтобы:
🍭 Контролировать чтение чувствительной информации (секретов)
🍭 Влиять на потенциально опасные команды (rm -rf, kubectl delete, git push и т.д.)
🍭 Сканировать MCP-ответы на наличие потенциальных инъекций
🍭 Собирать свидетельства аудита (audit traces) и не только

«Из коробки» Nomos предоставляет несколько политик контроля. Их можно изменять и расширять по усмотрению пользователя.

Подробнее об архитектуре, запуске, настройке и результатах работы Nomos можно узнать в GitHub-репозитории проекта.

GitHub - safe-agentic-world/nomos: Secure every action your AI agents take (Claude Code, Codex, MCP). Blocks secret access, gates risky commands, and enforces allow/deny/approval before actions run.

Secure every action your AI agents take (Claude Code, Codex, MCP). Blocks secret access, gates risky commands, and enforces allow/deny/approval before actions run. - safe-agentic-world/nomos

2k 1 73 2

DevSecOps Talks

3 Aug, 07:23

Создание OSS Kubernetes Console с MCP

Всем привет!

Решений, которые анализируют кластеры Kubernetes и запускаемые в них контейнеры на предмет ИБ-дефектов, очень много.

Многие из них дают очень хорошие результаты. Нюанс в наличие контекста.

Т.е. покажи не то, что «нашёл сканер», а то, «что это значит для моей инсталляции».

И вот тут как раз возникает много вопросов. Например, как сделать из этого нескончаемого потока сигналов что-то осмысленное.

С этими мыслями Автор статьи предлагает своё видение ответа на этот вопрос – OSS Kubernetes Console с MCP.

Он собирает следующий набор инструментов:
🍭 Falco для анализа запущенных контейнеров
🍭 Trivy для поиска уязвимостей в образах контейнеров
🍭 Kyverno в качестве Policy Engine
🍭 Kubescape для анализа конфигурации кластера

Результаты от всех решений «собираются вместе» и анализируются, обладая общим контекстом.

Важно(!): для анализа используется Claude Code (на случай, если вы захотите попробовать предлагаемый концепт)

Это позволяет превратить «В контейнере запущен shell» в нечто вроде «В Kubernetes-ресурсе, созданном из образа с известными уязвимостями, запущен shell. Конфигурация ресурса не соответствует принятым в компании политикам».

Подробности предлагаемого Автором подхода можно найти в статье или в GitHub-репозитории.

Кстати, в GitHub-репозитории можно найти несколько skills, созданных Автором: от triage до remediation.

Building an OSS Kubernetes Security Console

Use CRDs, MCP, and open source security signals to build a Kubernetes investigation layer for runtime, posture, policy, and vulnerability triage.

2k 1 35

DevSecOps Talks

31 Jul, 07:25

VulnHunter: анализ исходного кода с AI-агентами

Всем привет!

Недавно команда Capital One передала свой проект – VulnHunter – в open-source.

Согласно описанию, в отличие от «традиционных» SAST, полагающихся на определённые шаблоны/правила, VulnHunter «размышляет как злоумышленник», что возможно за счет использования AI.

Он позволяет определять то, что на самом деле эксплуатируемо, анализирует пути атаки и предоставляет свидетельства, подтверждающие наличие уязвимости.

Для этого используется 3 основных skill:
🍭 Hunt. Поиск «опасных конструкций» в исходном коде. После их выявления запускается многоступенчатый процесс, в результате которого пользователь получает только то, что на самом деле значимо
🍭 Fix. Создание эксплойта, тестов, подготовка исправления, повторный запуск тестов и, если всё хорошо, оформление PR
🍭 Verify. Read-only агент, задача которого – убедиться в том, что устранение уязвимости было осуществлено

Можно использовать разные модели, но лучше всего VulnHunter работает с Claude Opus.

Выглядит достаточно интересно, но как работает «по факту» - вопрос.

Возможно, что кто-то уже сталкивался с решением, как оно вам?

GitHub - capitalone/VulnHunter: Agentic AI security tool that applies proactive, attacker-first analysis directly to source code.

Agentic AI security tool that applies proactive, attacker-first analysis directly to source code. - capitalone/VulnHunter

2.2k 0 75 8

DevSecOps Talks

30 Jul, 07:23

LLM Inference в Kubernetes

Всем привет!

Статья описывает опыт Автора, в которой он разворачивает LLM-модель локально, в своём кластере Kubernetes.

Для этого он использует следующие технологии: vLLM, KEDA, GAIE, llm-d, Karpenter и не только.

После небольшого взгляда на концептуальную архитектуру предлагаемого решения начинается самое интересное – реализация.

Автор описывает разделы:
🍭 Использование Karpenter для управления GPU-узлами
🍭 О чём важно помнить при работе с GPU в Kubernetes
🍭 Настройка Ingress и TLS с Istio и Cert Manager
🍭 Установка и настройка модели (qwen-3.6-27B-fp8)
🍭 Конфигурация автоматического масштабирования с использованием Keda и не только
🍭 Настройка мониторинга, контроль использования GPU

Весь путь, пройденный Автором, описан максимально детально: все команды, конфигурационные файлы, ссылки на инструментарий, важные уточнения (опыт, полученный на ошибках) – всё это есть в статье.

Если вы думали реализовать нечто подобное, то статья точно может быть вам полезной!

In-house LLM Inference on Kubernetes: A Production Runbook

The actual runbook I followed to stand up in-house LLM inference on EKS: GPU nodes with Karpenter, vLLM under llm-d, event-based autoscaling on serving metrics with KEDA, and the economics that make running your own models pay off.

2.3k 1 58 4

Купить живых подписчиков

Купить живой трафик

ИИ-агент сам находит вам клиентов

DevSecOps Talks

Гео и язык канала

Категория

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

DevSecOps Talks

7 993

Популярное в канале

Язык сайта

Купить живых подписчиков

Купить живой трафик

ИИ-агент сам находит вам клиентов

DevSecOps Talks

Гео и язык канала

Категория

7 993

Популярное в канале