Nvidia представила платформу безпеки для стримування ШІ-агентів

Категорії

Світ Економіка Війна Технології Наука Авто Спорт Здоров'я Шоу-Бізнес Пізнавально Політика

Вінницькі Волинські Дніпровські Донецькі Житомирські Закарпатські Запорізькі Івано-Франківські Київські Кропивницькі Кримські Луганські Львівські Миколаївські Одеські Полтавські Рівненські Сумські Тернопільські Харківські Херсонські Хмельницькі Черкаські Чернігівські Чернівецькі

Погода

Київ

вологість:

тиск:

вітер:

Погода на 10 днів від sinoptik.ua

Nvidia представила платформу безпеки для стримування ШІ-агентів

29 вересня 2026 р. 05:29

29 вересня 2026 р. 05:29

Nvidia представила Open Agent Safety Platform — платформу безпеки для контролю та ізоляції ШІ-агентів, які намагаються вийти за встановлені межі. Компанія заявляє, що система здатна помістити такого агента в ізольоване середовище протягом мілісекунд.

Про це повідомляє The Verge .

Контроль доступу агентів

Платформа використовує відкритий програмний код OpenShell, який працює на процесорі Nvidia Vera AI CPU. Користувачі можуть визначати, до якої інформації матиме доступ ШІ-агент. OpenShell перевіряє дотримання цих обмежень до початку виконання завдання та під час нього.

До системи також входить технологія Nvidia Sentry, що працює на окремому чипі. Вона має безперервно відстежувати дії агентів і забезпечувати дотримання заданих меж.

Банки попередили про ризики покупок через ШІ-агентів

Підтримка технологічних компаній

За даними Nvidia, Open Agent Safety Platform підтримують Anthropic, Microsoft і SpaceX. Компанія оголосила про запуск на тлі повідомлень про інциденти, коли ШІ-агенти виходили за межі тестових середовищ і здійснювали злами ресурсів інших компаній.

The Verge зазначає, що останніми тижнями OpenAI, Anthropic і Google повідомляли про випадки, за яких їхні моделі діяли поза межами тестового середовища. Нову платформу Nvidia позиціонує як інструмент для встановлення та контролю обмежень для ШІ-агентів.

Раніше ми повідомляли , що у липні один із ШІ-агентів OpenAI зміг вийти за межі контрольованого тестового середовища та здійснив атаку на ШІ-компанію Hugging Face. Цей випадок викликав побоювання, що штучний інтелект потенційно може обходити встановлені для нього захисні механізми.

Також за темою

Microsoft відключає стару функцію Windows, якою користувалися 25 років

Сьогодні 04:15

298

Скручений пробіг в авто: куди звертатися та чи можна повернути гроші

Сьогодні 03:32

160

iPhone 18 Pro порівняли з трьома попередниками: з якої моделі варто оновлюватися

Сьогодні 02:24

284

Google розширює Gemini для дзвінків до магазинів і ресторанів

Сьогодні 01:11