Google готовит Kubernetes к эпохе миллионов AI-агентов
Компания открыла исходники Agent Substrate, инфраструктуры, которая решает довольно очевидную проблему: агенты могут часами ждать модель, API или человека, но всё это время продолжать занимать CPU и память.
Agent Substrate поставит такого агента на паузу, освобождая ресурсы, а когда тот снова нужен - восстанавливает его состояние менее чем за 500 мс.
В результате на том же железе можно держать до 10 раз больше агентных окружений, а один сервер способен вместить более 1000 «спящих» агентов. Есть microVM, gVisor, Kubernetes API и поддержка не только GKE.
⌨️ подписаться
Компания открыла исходники Agent Substrate, инфраструктуры, которая решает довольно очевидную проблему: агенты могут часами ждать модель, API или человека, но всё это время продолжать занимать CPU и память.
Agent Substrate поставит такого агента на паузу, освобождая ресурсы, а когда тот снова нужен - восстанавливает его состояние менее чем за 500 мс.
В результате на том же железе можно держать до 10 раз больше агентных окружений, а один сервер способен вместить более 1000 «спящих» агентов. Есть microVM, gVisor, Kubernetes API и поддержка не только GKE.
⌨️ подписаться