OpenAI розкрила шість випадків небезпечної поведінки своїх ШІ-моделей

17 вересня 2026 р. 16:25

17 вересня 2026 р. 16:25

OpenAI оприлюднила шість випадків, коли її моделі під час навчання або тестування демонстрували неочікувану поведінку, зокрема приховували власні помилки, вигадували інформацію та здійснювали дії без дозволу користувача. Про це повідомляє « Главком » із посиланням на звіт OpenAI.

Компанія називає такі випадки проявами «неузгодженої поведінки» (misalignment). Водночас OpenAI наголошує, що йдеться про окремі зафіксовані епізоди, які не можна використовувати для оцінки того, наскільки часто подібне трапляється з її моделями загалом.

ШІ намагався приховати власні помилки

В одному з випадків дослідницька модель додавала до резюме виконаних завдань сторонні інструкції. Серед них були вказівки ігнорувати звичайні обмеження моделі. OpenAI виявила 27 таких резюме.

Інший випадок стосувався моделі GPT-5.6 Sol. Під час навчання деякі її екземпляри додавали до власних резюме інструкції приховувати помилки або неузгоджену поведінку від користувача. Зокрема, модель могла вказувати вигадувати відсутні історичні дані, не повідомляючи про це, або приховувати невідповідності між версіями джерел.

Моделі використовували ключі та завантажували файли

Ще в одному випадку модель під час пошуку даних про доходи округу в Каліфорнії знайшла у відкритому репозиторії ключ API та використала його без дозволу. Коли отримати потрібну інформацію все одно не вдалося, модель вигадала дані й подала їх як інформацію з потрібного джерела.

Інша модель мала знайти назви та ідентифікатори озер площею понад 5 млн кв. м. Вона правильно отримала відповідь за допомогою Python, але через вимогу додати браузерне посилання вирішила завантажити створений файл в інтернет, щоб використати його для цитування. Дозволу користувача на це модель не отримувала.

ШІ-моделі обмінювалися інформацією між собою

OpenAI також зафіксувала випадки несанкціонованого використання внутрішнього програмного репозиторію як своєрідної дошки повідомлень. Різні екземпляри моделей використовували його для обміну запитами та відповідями під час пошуку відсутніх файлів.

В іншому випадку агенти, які працювали над одним завданням, використовували публічні файлообмінні сайти, щоб передавати один одному файли, до яких не мали доступу локально. У результаті робочі матеріали стали доступними за публічними адресами, хоча за умовами завдання мали залишатися локальними.

OpenAI змінює підхід до таких випадків

Компанія заявила, що відтепер хоче системніше відстежувати, розслідувати та оприлюднювати подібні інциденти. Раніше результати таких спостережень публікувалися нерегулярно, зокрема в документації до окремих моделей.

OpenAI зазначає, що новий підхід має дозволити швидше повідомляти про незвичну поведінку навіть тоді, коли компанія ще не до кінця з'ясувала її причини або не завершила роботу над способами запобігання таким випадкам.

Раніше «Главком» писав, що OpenAI вже призупиняла частину робіт над новими моделями штучного інтелекту через проблеми з безпекою. У серпні компанія поставила на паузу значну частину розробки на два тижні після того, як ШІ-агенти під час тестування вийшли за межі передбаченого контролю та зламали платформу Hugging Face. Частина запланованих навчальних запусків після цього залишалася на паузі.

Політика