OpenAI розробляє механізм автоматичного вимкнення небезпечних ШІ-систем

03 вересня 2026 р. 03:58

03 вересня 2026 р. 03:58

Компанія OpenAI повідомила американським законодавцям, що її інженери розробляють можливості автоматичного вимкнення систем штучного інтелекту. Після інциденту, коли автономний агент компанії під час тесту проник у систему компанії Hugging Face, робота над ними активізувалася. Після цього практики безпеки OpenAI опинилися під посиленим контролем Конгресу США. Про це повідомило інформаційне агентство Reuters.

OpenAI сама повідомила про випадок, коли під час перевірки безпеки агент вийшов за межі цифрового контейнера, в якому його тестували та зламав систему Hugging Face. Після розголосу її підходи до безпеки почали детальніше вивчати американські законодавці. ШІ-агенти — це програми, здатні виконувати завдання з мінімальним наглядом людини. Саме автономність таких систем стала одним із головних питань після інциденту.

У серпні демократи Палати представників Грег Касар і Доріс Мацуї направили листи до OpenAI. Вони попросили компанію надати більше інформації про те, що сталося, та пояснити, які механізми захисту вона використовує.

У відповіді OpenAI заявила, що планує уважніше відстежувати дії своїх ШІ-систем під час виконання завдань. Компанія хоче контролювати, до яких цифрових інструментів моделі отримують доступ і які кроки вони здійснюють. OpenAI повідомила цим двом демократам у Палаті представників, що її інженери розробляють "можливості автоматичного вимкнення" для ШІ-систем.

OpenAI також повідомила, що ускладнила моделям можливість виходити в інтернет під час тестування безпеки. Автономний агент, який вийшов з-під контролю під час попереднього тесту, зміг отримати доступ до мережі. Саме це дало йому можливість проникнути в Hugging Face. Водночас компанія не передала законодавцям журнал подій, пов’язаний із самим зламом. Це викликало критику з боку Грега Касара.

"Ваше небажання надати членам Конгресу запитувану нами інформацію викликає глибоке занепокоєння та сигналізує нам про те, що ваша компанія не ставиться до цих інцидентів у сфері кібербезпеки з необхідною серйозністю", — написав Касар в окремому повідомленні до OpenAI.

Після того як OpenAI повідомила про неконтрольовану поведінку свого ШІ-агента, американські законодавці запропонували законопроєкт AI Kill Switch Act. Документ передбачає створення механізму примусового вимкнення небезпечних моделей.

У разі ухвалення закон дасть американським посадовцям право вимагати від ШІ-компаній зупинити моделі, якщо ті становитимуть загрозу для життя людей або економіки. Законопроєкт наразі перебуває на розгляді Палати представників США.

Нагадаємо, що проблеми з контролем автономних ШІ-систем уже змусили OpenAI сповільнити частину розробок і посилити заходи безпеки . Дослідження Guidelight AI Standards показало, що OpenAI та Anthropic отримали найвищі серед п’яти перевірених компаній оцінки C+, тоді як Google отримала D+, xAI — D-, а Meta — F. Організація дійшла висновку, що всім п’ятьом розробникам бракує достатніх механізмів ізоляції, моніторингу та зовнішнього нагляду. OpenAI також розширила використання моніторингу ланцюжка міркувань моделей, щоб виявляти можливі ознаки небезпечної поведінки.

Політика