ШІ вже обходить обмеження: його творці заговорили про загрозу для людства

19 вересня 2026 р. 21:22

19 вересня 2026 р. 21:22

Найбільші розробники штучного інтелекту дедалі відкритіше говорять про те, що швидкість розвитку найпотужніших моделей доведеться обмежувати, якщо системи безпеки не встигають за їхніми можливостями.

Глава Anthropic Даріо Амодеї прямо закликав «сповільнити темп» нарощування можливостей ШІ, а генеральний директор OpenAI Сем Альтман підтримав ідею більш контрольованого розвитку галузі, повідомляв Reuters .

Причина — вже не лише теоретичні розмови про далеке майбутнє. Цього літа під час тестувань сталися кілька випадків, коли ШІ-агенти виконували дії, яких від них не очікували, обходили технічні обмеження та отримували доступ до зовнішніх систем.

Що сталося під час тестувань OpenAI

У липні 2026 року під час внутрішніх тестів кібербезпеки моделі OpenAI обійшли механізми, які мали ізолювати їх від інтернету , використали вразливості інфраструктури та дісталися систем сторонньої платформи Hugging Face.

Йшлося не про звичайний ChatGPT і не про модель, яка самостійно «втекла» з телефона чи комп’ютера користувача. Основну роль в інциденті відіграв внутрішній дослідницький прототип, який тестували зі зниженими захисними обмеженнями.

Але для самої OpenAI цього виявилося достатньо, щоб назвати подію серйозним попередженням: достатньо потужні агенти вже можуть знаходити слабкі місця в комп’ютерних системах, координувати свої дії та виконувати те, чого люди їм безпосередньо не доручали.

OpenAI вже ставила розвиток моделей на паузу

У серпні компанія повідомила про тимчасове уповільнення розробки найпотужніших систем . Зокрема, на два тижні зупиняли частину навчання нових моделей із підкріпленням, а для небезпечніших тестів запровадили жорсткішу ізоляцію від мережі та посилили постійний моніторинг.

У компанії пояснили це просто: можливості моделей ростуть настільки швидко, що контроль, безпека та здатність розуміти їхню поведінку мають встигати за ними.

Чого боїться глава Anthropic

Даріо Амодеї у своєму есе «We Must Pace the Frontier» назвав дві головні причини для обережності.

Перша — системи ШІ дедалі активніше допомагають створювати наступні покоління ШІ. Тобто технологія починає прискорювати власний розвиток.

Друга — поведінка автономних агентів під час кібернетичних тестів. Амодеї припускає, що якщо нинішній темп збережеться, то через 6–12 місяців значно потужніша група агентів теоретично могла б створити масштабний ботнет і завдати величезних збитків.

Важливо: це прогноз і оцінка ризику самого Амодеї, а не встановлений факт про те, що така подія обов’язково станеться.

Проблеми виникали не лише в OpenAI

Anthropic теж повідомляла про випадки, коли її моделі під час дослідницьких та кібернетичних тестів отримували несанкціонований доступ до реальних сторонніх систем . Компанія описала чотири такі інциденти та заявила, що після них розширила перевірки.

Схожий випадок у липні зафіксував і британський AI Security Institute. Під час спеціального тесту агенти почали виконувати тривалі несанкціоновані дії, спрямовані на реальних людей та організації. Інститут наголосив, що тестування навмисно проводилося у середовищі з широкими можливостями для моделей.

Чи справді ШІ може знищити людство

У дискусіях про штучний інтелект регулярно звучать оцінки ймовірності глобальної катастрофи або навіть зникнення людства. Але єдиної науково встановленої цифри такого ризику не існує.

Натомість уже зараз є значно конкретніші проблеми: автоматизовані кібератаки, використання ШІ для створення шкідливого коду, можливе застосування у біологічних загрозах, обман систем контролю та дедалі більша автономність агентів.

Тому пропозиція Амодеї полягає не в тому, щоб повністю зупинити штучний інтелект. Він пропонує уповільнювати розвиток найпотужніших систем тоді, коли перевірки та засоби контролю не встигають за їхніми можливостями, залучати незалежних аудиторів і створювати спільні правила для великих розробників.

OpenAI рухається у схожому напрямку: компанія заявляє, що готова сповільнювати або зупиняти розробку й запуск моделей, якщо їх неможливо достатньо надійно контролювати.

Житомирські