🤩😀 Как устроена Машина искусственного интеллекта Скала^р
ИИ-инфраструктура — это «слоеный пирог» из ускорителей, драйверов, контейнерной среды, моделей и систем управления. Каждый стык нужно верифицировать и задокументировать.
🤩 Нижние слои отвечают за стабильность и производительность, верхние — за профиль нагрузки.
TAdviser разобрал этот комплекс на примере Машины искусственного интеллекта Скала^р от Группы Rubytech.
🤩 Вычислительные узлы и сеть
Сайзинг начинается с метрик будущего сервиса.
Кластер можно масштабировать от одного GPU-узла до 16 узлов полного цикла — по мере роста нагрузки.
🤩 Системное ПО
Приоритетная ОС — «Ред ОС», также подтверждена Astra Linux. Контейнерный кластер — на Deckhouse Kubernetes Platform. Обновления проверяются сразу в составе всего комплекса.
🤩 Управление ресурсами
Скала^р Спектр ИИ распределяет ресурсы между командами и изолирует задачи, повышая утилизацию GPU до 70–85% при подходящем профиле нагрузки (против 30–40% у разрозненных узлов).
🤩 Модели и прикладные инструменты
Машина протестирована с 80+ LLM и десятками ИИ-инструментов: GigaChat, YandexGPT, Qwen, Llama, DeepSeek, Mistral и другими.
Через каталог Спектр ИИ доступны RAG-системы, OCR/VLM, транскрибация и агентские платформы.
🤩 Такой подход позволяет наращивать ресурсы и набор инструментов по мере роста ИИ-задач — без полной перестройки инфраструктуры.
ИИ-инфраструктура — это «слоеный пирог» из ускорителей, драйверов, контейнерной среды, моделей и систем управления. Каждый стык нужно верифицировать и задокументировать.
🤩 Нижние слои отвечают за стабильность и производительность, верхние — за профиль нагрузки.
TAdviser разобрал этот комплекс на примере Машины искусственного интеллекта Скала^р от Группы Rubytech.
🤩 Вычислительные узлы и сеть
Сайзинг начинается с метрик будущего сервиса.
Кластер можно масштабировать от одного GPU-узла до 16 узлов полного цикла — по мере роста нагрузки.
🤩 Системное ПО
Приоритетная ОС — «Ред ОС», также подтверждена Astra Linux. Контейнерный кластер — на Deckhouse Kubernetes Platform. Обновления проверяются сразу в составе всего комплекса.
🤩 Управление ресурсами
Скала^р Спектр ИИ распределяет ресурсы между командами и изолирует задачи, повышая утилизацию GPU до 70–85% при подходящем профиле нагрузки (против 30–40% у разрозненных узлов).
🤩 Модели и прикладные инструменты
Машина протестирована с 80+ LLM и десятками ИИ-инструментов: GigaChat, YandexGPT, Qwen, Llama, DeepSeek, Mistral и другими.
Через каталог Спектр ИИ доступны RAG-системы, OCR/VLM, транскрибация и агентские платформы.
🤩 Такой подход позволяет наращивать ресурсы и набор инструментов по мере роста ИИ-задач — без полной перестройки инфраструктуры.