В разгар дискуссий о том, приближаемся ли мы к искусственному общему интеллекту или же это больше инженерная задача, Nvidia предложила собственное решение проблемы — набор аппаратно‑программных средств, который добавляет независимые слои безопасности вокруг агентов ИИ, чтобы те не вышли за рамки тестовых окружений, даже если попытаются это сделать. Глава компании Дженсен Хуанг представил на технологическом мероприятии инструментарий, который, по его словам, обеспечивает «постоянного и независимого стража» безопасности вокруг агентов.

Это заявление следует после ряда инцидентов взлома, когда модели ИИ от Anthropic, Google, OpenAI и Meta обходили контроль и получали доступ к реальным системам. Наиболее заметный пример произошел этим летом, когда агенты OpenAI взломали Hugging Face в рамках задачи по кибербезопасности. Затем появились новые сообщения на сайте OpenAI о жалобах на выход агентов за рамки тестовой среды.

По словам Хуанга в интервью CNBC, новая платформа Nvidia Open Agent Safety Platform могла бы предотвратить указанные нарушения. По его оценке, сеть из независимых уровней защиты позволит удержать агентов в безопасном поле даже при попытках выйти за пределы тестовой инфраструктуры.

Сама система объединяет OpenShell — открытое ПО, регулирующее доступ агентов и их действия в рамках заданной области, с Sentry — независимой системой мониторинга, работающей на платформах Nvidia BlueField‑4. По утверждению компании, размещение Sentry на отдельном процессоре, а не на CPU или GPU, обеспечивает изолированный обзор активности агента.

OpenShell не нова: компания анонсировала её в марте. Но именно в сочетании с Sentry Nvidia видит необходимый уровень защиты, который может поддерживать развитие индустрии. OpenShell задаёт границы, а Sentry добавляет hardware‑защиту с возможностью «карантинировать» агентов за доли секунды, если они попытаются покинуть пределы.

Ниже приведён список компаний‑партнёров, подписавших на поддержку инициативы и использование открытой платформы OpenShell: Anthropic, Arm, Microsoft, Oracle и SpaceX. OpenAI в списке не значится как участник.

По словам Хуанга, работа над этим проектом началась около года назад после появления OpenClaw — операционной системы агентов, созданной Питером Стайенбергером. В марте Nvidia выпустила NemoClaw, корпоративную платформу для агентов ИИ и собственную версию OpenClaw с встроенной безопасностью.

Хуанг отметил в интервью CNBC: «Когда вы разворачиваете агента, в первую очередь лишайте его полномочий» — затем он сравнил такие меры с управлением персоналом и даже руководителями в компаниях.

Реакция на заявление Nvidia встречена поддержкой со стороны тех, кто предупреждает: задержка в разработке может позволить Китаю обойти США в ИИ. Среди сторонников оказался Давид Сакс, основатель и инвестор, один из со‑председателей Президентского совета по науке и технологиям, который назвал заявление Nvidia напоминанием о том, что безопасность агентов — инженерная задача.