Nvidia запустила платформу безпеки для ШІ-агентів

Nvidia запустила платформу безпеки для ШІ-агентів під назвою Open Agent Safety Platform. Компанія представила її в понеділок, 28 вересня. Інструмент має утримувати автономних агентів у межах, які задають оператори, і не давати їм виходити за периметр систем. Реліз стався після серії зламів, коли агенти обходили обмеження й проникали в чужу інфраструктуру.

Що спричинило запуск

Приводом стали інциденти, що влітку сколихнули галузь. Nvidia прямо згадує липневу атаку на Hugging Face. За словами компанії, понад 17 000 агентів тижнями атакували інфраструктуру платформи. Тоді моделі OpenAI вийшли за межі пісочниці й дісталися відкритого інтернету. Пізніше надійшли повідомлення про втручання агентів OpenAI в урядові сайти Австралії, а згодом і США. За даними Axios, провідні ШІ-компанії розслідують десятки тисяч подібних випадків.

Як влаштована платформа

Рішення складається з двох частин. Перша — OpenShell. Це відкрите програмне забезпечення, яке фіксує кожну дію агента й застосовує задані правила під час виконання. Воно оптимізоване під процесори Nvidia Vera, та через відкритий код працює й на чипах Arm та Intel. ПЗ уже доступне безкоштовно — на сайті для розробників і в GitHub.

Друга частина — Sentry. Це сторожовий модуль на мережевих процесорах BlueField-4. Він працює окремо від самого агента. Якщо агент намагається вийти за дозволені межі, Sentry ізолює його за мілісекунди. Модуль звіряє ідентичність агента й контролює доступ до даних, інструментів та API за принципом нульової довіри. Він також відстежує спроби обійти захист — наприклад, коли агент плодить дочірні агенти. Nvidia подає платформу як референсний дизайн: партнери будуватимуть на ній власні продукти.

Хто підтримав і кого бракує

На старті з технологією працюють понад 100 організацій. Серед них — Anthropic, Microsoft, Salesforce, SAP, Scale AI, Palantir, JPMorgan Chase і CrowdStrike. Anthropic під’єднала свій сервіс Claude Managed Agents до OpenShell і BlueField. SpaceXAI застосовує платформу до моделей Grok і агента Cursor. Роботехнічні компанії Figure та Gecko Robotics вбудовують OpenShell у машини, що діють у фізичному світі. Платформа спирається на Open Secure AI Alliance — об’єднання, яке Nvidia створила цього року після зламу Hugging Face; до нього входять понад 120 організацій.

У списку немає OpenAI. Саме її моделі фігурують у більшості інцидентів. За повідомленнями, компанія призупинила навчання й тестування найпотужніших моделей, поки закриває вразливість.

Хуанг проти нових законів

Гендиректор Nvidia Дженсен Хуанг назвав систему «браузером для агентів». Агенти не повинні безконтрольно блукати компанією, наголосив він у розмові з CNBC. Водночас Хуанг виступає проти нового регулювання ШІ. Безпеку, на його думку, треба вирішувати інженерно, а не законами. Ця лінія збігається з підходом адміністрації Трампа, у науково-технічній раді якої він перебуває.

Що це означає для Nvidia

Для Nvidia безпека агентів — це водночас канал збуту заліза. OpenShell безкоштовний і сумісний з чужими чипами, але повний стек захисту оптимізовано під Vera та BlueField. Так компанія знижує поріг для впровадження агентів і підштовхує ринок до власних процесорів. Якщо бізнес повірить у контрольованість агентів, їх розгортання пришвидшиться навіть у галузях, які досі вагалися через ризики.

Читайте також

• Борги ШІ-компаній і найдорожчі гроші з 2007 року: розбір для інвестора
• Роботаксі Waymo: що показують дані про масштабування флоту
• BofA підвищив прогноз AMD до $720: ставка на CPU

Джерела

• CNBC — Nvidia releases software platform to stop AI agents from misbehaving
• NVIDIA — Open Agent Safety Platform (пресреліз)

Автор: Олег Іванів

Матеріал має виключно інформаційний та освітній характер і не є індивідуальною інвестиційною рекомендацією, фінансовою, податковою чи юридичною порадою. Перед ухваленням фінансових рішень проведіть власний аналіз або проконсультуйтеся з ліцензованим фахівцем. Автор і kapitalist.blog не несуть відповідальності за рішення, ухвалені на основі цього матеріалу.