Nvidia передала защиту ИИ-агентов OpenShell под управление сообщества
Среда выполнения OpenShell вошла в программу CNCF Sandbox, где её развитием смогут управлять организации, которые встраивают проект в свои продукты.
Компания объявила об этом на конференции KubeCon + CloudNativeCon и представила открытые инструменты для инфраструктуры ИИ.
OpenShell позволяет задавать правила для действий агентов: использования инструментов, обращения к сервисам вывода моделей и выполнения задач. К среде можно подключить вычислительные ресурсы, поставщиков сервисов вывода, хранилища учётных данных и системы мониторинга. По данным Nvidia, за неполный год после запуска OpenShell начали применять сотни организаций, а проект получил десятки тысяч вкладов от сообщества.
CNCF входит в Linux Foundation. Передача OpenShell позволит участникам сообщества изучать и улучшать механизмы защиты проекта. Переход на новую модель управления ещё идёт: как пишет Unite.AI, разработку переносят в организацию ai-openshell, а код и запросы на слияние пока остаются в репозитории Nvidia/OpenShell. Там же ведут задачи проекта.
OpenShell и Agent Substrate на Kubernetes
Nvidia также внесла вклад в созданный Google проект Agent Substrate. Он предназначен для длительной работы агентов на платформе Kubernetes, которая управляет запуском приложений. Agent Substrate сохраняет среду агента между задачами и освобождает вычислительные ресурсы во время простоя. Затем работу можно возобновить, не удерживая отдельные мощности для каждой сессии.
Nvidia работает над совместимостью Agent Substrate со своими инструментами Dynamo для вывода моделей и KAI Scheduler для распределения ресурсов общего кластера. Компании также готовят интеграцию Agent Substrate с OpenShell, чтобы организации могли применять правила защиты и управления агентами в облачных и локальных системах. Agent Substrate, как и OpenShell, принят в программу CNCF Sandbox.
По данным Unite.AI, часть работы остаётся экспериментальной: интерфейсы Agent Substrate ещё меняются, а поддержку GPU перестраивают с использованием механизма Kubernetes Dynamic Resource Allocation. Это относится к интеграции, а не к уже объявленной передаче OpenShell в CNCF.
Инструменты для кластеров и восстановления задач
Для платформы DSX AI Factory Nvidia представила ещё три открытых компонента. Nvidia Kubernetes Engine (NVKE) и Nvidia Kubernetes Recipes (NVKR) помогают развёртывать и обслуживать кластеры Kubernetes на инфраструктуре с GPU. Они автоматизируют управление жизненным циклом кластеров и предоставляют подписанные образы с зафиксированными версиями компонентов. Оба проекта доступны в публичной предварительной версии.
Третий компонент, Nvidia Snapshot, восстанавливает сохранённые состояния запущенных задач за секунды. При восстановлении не требуется заново загружать модель и прогревать рабочую нагрузку. В испытании Crusoe на системах Nvidia HGX B300 время до готовности задачи с моделью GLM-5.3 сократилось примерно с восьми минут до 31 секунды. В тесте Saturn Cloud время запуска vLLM уменьшилось с диапазона от 2 до 8,5 минуты до диапазона от 6 до 34 секунд.
Инструменты находятся на разных этапах готовности. Unite.AI уточняет, что Nvidia пока не рекомендует применять предварительные версии NVKE и NVKR в рабочих средах: их интерфейсы и конфигурация могут измениться. Для восстановления через Snapshot, по данным издания, необходимы та же модель GPU и тот же драйвер, что использовались при создании сохранённого состояния.
28 сентября Nvidia открыла общий доступ к OpenShell и включила среду в платформу Open Agent Safety Platform вместе с Sentry. Теперь проект перешёл к следующему этапу: его развитие передано под управление сообщества в CNCF Sandbox.
