OpenAI призупинила розробку нової моделі Astra — вона стала надто автономною та небезпечною - Економіка

Категорії

Світ Економіка Війна Технології Наука Авто Спорт Здоров'я Шоу-Бізнес Пізнавально Політика

Вінницькі Волинські Дніпровські Донецькі Житомирські Закарпатські Запорізькі Івано-Франківські Київські Кропивницькі Кримські Луганські Львівські Миколаївські Одеські Полтавські Рівненські Сумські Тернопільські Харківські Херсонські Хмельницькі Черкаські Чернігівські Чернівецькі

Погода

Київ

вологість:

тиск:

вітер:

Погода на 10 днів від sinoptik.ua

OpenAI призупинила розробку нової моделі Astra — вона стала надто автономною та небезпечною

13 серпня 2026 р. 01:10

13 серпня 2026 р. 01:10

OpenAI призупинила частину внутрішньої роботи над майбутньою моделлю штучного інтелекту Astra після того, як під час тестування вона показала високі результати у програмуванні агентів і кібербезпеці.

У компанії заявили , що модель могла наблизитися до рівня можливостей, за якого здатна самостійно проводити складні кібератаки.

Що про це відомо

За результатами попереднього оцінювання OpenAI, Astra могла досягти визначеного компанією «критичного порогу кібербезпеки». Йдеться про здатність ШІ самостійно знаходити вразливості та створювати функціональні експлойти для захищених систем або розробляти й виконувати складні стратегії кібератак без детальних інструкцій людини.

В OpenAI зазначили, що продовжують тестування моделі, однак наразі не можуть виключити досягнення нею такого рівня можливостей.

OpenAI представив нового ШІ-агента для конкуренції з Anthropic

Відповідно до внутрішньої «Рамкової системи готовності», компанія вже посилила заходи безпеки та призупинила частину внутрішньої роботи з Astra, яка не відповідає новим вимогам.

«Відповідно до нашої Рамкової системи готовності, модель досягає критичного порогу в сфері кібербезпеки, якщо вона здатна самостійно виявляти та розробляти функціональні експлойти нульового дня будь-якого рівня складності для багатьох захищених реальних критично важливих систем без втручання людини, або розробляти та виконувати нові наскрізні стратегії кібератак на захищені цілі, маючи лише загальну кінцеву мету.

Хоча ми продовжуємо тестувати та оцінювати цю модель, наші попередні оцінки вказують на достатньо високі результати продуктивності, тому наразі ми не можемо виключити досягнення критичного рівня можливостей", — кажуть в OpenAI.

Astra все ще перебуває на етапі розробки та не була залучена до інциденту з уразливістю платформи Hugging Face, наголосили в компанії.

OpenAI також співпрацює з державними установами та організаціями, які спеціалізуються на безпеці ШІ, щоб провести додаткові оцінки можливостей моделі.

У компанії пояснили, що вирішили публічно повідомити про призупинення роботи, оскільки вважають важливою прозорість щодо потенційних ризиків потужних моделей штучного інтелекту.

Також за темою

Google прокладає нові підводні кабелі

Сьогодні 23:50

103

Партнерська 9 кроків, які варто зробити перед купівлею першого bStock: чек-лист для українського інвестора

Вчора 12:00

18616

Anthropic маркуватиме створений Claude контент невидимими водяними знаками

Сьогодні 22:46

GlobalLogic показала розробки Physical AI для промисловості та інфраструктури

Сьогодні 21:21

125