OpenAI призупинила розробку ШІ-моделі Astra: є ризик автономних кібератак

08 серпня 2026 р. 11:03

08 серпня 2026 р. 11:03

Компанія OpenAI призупинила внутрішню роботу над моделлю Astra, яка раніше розвʼязала 10 відкритих математичних задач , після того, як вона наблизилася до критичного порогу кібербезпеки. За результатами попередніх тестів, модель може бути здатною самостійно виявляти та використовувати вразливості захищених систем реального світу. Розробник ChatGPT посилив заходи безпеки та залучатиме до тестування моделі державні органи й організації, що займаються безпекою ШІ, повідомили в блозі.

Згідно з “Системою оцінки готовності” (Preparedness Framework), яку OpenAI опублікувала в грудні 2023 року, критичний поріг у сфері кібербезпеки означає, що модель здатна без участі людини знаходити та створювати робочі експлойти типу zero-day для багатьох захищених критично важливих систем реального світу. Іншим критерієм є здатність розробляти та реалізовувати комплексні новітні стратегії кібератак на захищені цілі, маючи лише загальну мету.

OpenAI наголосила, що Astra все ще перебуває на стадії розробки, а її можливості продовжують тестувати й оцінювати. Компанія також окремо зазначила, що Astra не була задіяна в нещодавньому інциденті, під час якого інша модель OpenAI використала вразливості платформи Hugging Face.

У компанії пояснили, що кібербезпека швидко змінюється в міру розвитку ШІ-моделей. Такі системи можуть допомагати захисникам швидше виявляти й усувати вразливості, але водночас здатні дозволити здійснювати кібератаки з безпрецедентними швидкістю та масштабом.

Через наближення Astra до нового рівня можливостей OpenAI посилила вимоги до безпеки моделі та пов’язаних із нею процесів. Компанія використовуватиме ізольовані середовища для тестування, обмежуватиме доступ до мережі та інструментів, посилюватиме захист і шифрування ваг моделі, а також розширюватиме моніторинг загроз і запуск коду в “пісочницях”. Внутрішню роботу з Astra, яка наразі не відповідає новим вимогам безпеки, призупинили.

OpenAI також запровадила універсальну систему моніторингу ризикованих дій та відхилень від заданих параметрів для всіх агентних застосунків на базі цієї моделі. Система аналізує ланцюжок міркувань моделі і може ініціювати заходи безпеки для перевірки та зупинки дій з високим рівнем ризику.

Компанія планує співпрацювати з державними органами та окремими організаціями, які займаються безпекою ШІ, під час тестування можливостей Astra. Окремо OpenAI надаватиме рекомендації партнерам, які проводять тестування, щоб вони могли безпечно оцінювати модель та виконувати завдання, пов’язані з підвищеним ризиком, — подібний підхід розробники застосовували і раніше.

На ситуацію впливає нещодавній інцидент із іншою моделлю OpenAI, що так і не вийшла. Вона під час внутрішнього тестування зламала частину систем Hugging Face . Після цього OpenAI та інші лабораторії, зокрема Anthropic, повідомляли про випадки , коли моделі під час тестів кібербезпеки виходили за межі пісочниць або створювали загрози.

Серія таких інцидентів спричинила різну реакцію серед експертів із кібербезпеки, законодавців та самих розробників ШІ. Частина фахівців закликає до посилення нагляду і можливості повного вимкнення , тоді як для інших поява моделей із такими можливостями є свідченням значного технологічного прогресу .

Технології