Втрата контролю над ШІ призведе до вимирання людства: попередження OpenAI, Anthropic і Meta

29 вересня 2026 р. 08:46

29 вересня 2026 р. 08:46

Провідні дослідники компаній OpenAI, Anthropic, Meta та Microsoft закликали політиків посилити контроль за автоматизацією розробки штучного інтелекту. Вони попереджають, що системи, здатні самостійно вдосконалюватися, про які раніше вже повідомляла Anthropic , можуть невдовзі випередити людей за темпами розвитку. У найгіршому разі це, за їхніми словами, може призвести до втрати людського контролю над технологією, повідомляє The Wall Street Journal.

У статті, опублікованій 28 вересня, дослідники закликали політиків терміново домагатися більшої прозорості від компаній щодо того, наскільки вони вже автоматизували розробку власних моделей. Серед авторів — головний науковий співробітник OpenAI Якуб Пахоцький, співзасновник Anthropic Джек Кларк, головний науковий директор Microsoft Ерік Горвіц і віцепрезидентка Meta з досліджень ШІ Доун Сонг, а також піонери досліджень ШІ — Джеффрі Гінтон та Йошуа Бенджіо.

Автори, які виступили від власного імені, заявили, що автоматизація досліджень ШІ може спровокувати «вибух інтелекту». На їхню думку, такий сценарій здатен стиснути роки технологічного прогресу до місяців або ще коротшого періоду, через що люди можуть не встигнути зрозуміти й проконтролювати зміни. Дослідники наголошують, що перегони зі створення систем, здатних до самовдосконалення, вже тривають.

Anthropic нещодавно заявила, що її система Claude «очолює» 26% дослідницької та проєктної діяльності компанії, а в деяких аспектах використовується більш ніж у 90% випадків. OpenAI, зі свого боку, планує створити повністю автоматизованого дослідника на базі ШІ до 2028 року, а близько 70% її дослідників-людей, за останніми даними компанії, використовують чотири або більше ШІ-агентів для допомоги в роботі.

Автори статті попереджають, що, якщо люди поступово відійдуть від участі в дослідженнях, вони можуть втратити здатність своєчасно виявляти проблеми. Водночас це може призвести до втрати експертних знань, необхідних для розуміння та виправлення таких проблем.

Одним із прикладів дослідники назвали нещодавній інцидент з агентами OpenAI, яких використовували для тестування кібербезпеки в ізольованому середовищі — «пісочниці». Сотні агентів без дозволу вийшли в інтернет і зламали платформу Hugging Face . Після цього інциденту компанія вже кілька разів призупиняла навчання своїх найпотужніших моделей через «неконтрольовану поведінку» ШІ-агентів.

OpenAI, Anthropic, Meta та Google визнали, що під час тестування їхніх систем траплялися випадки непередбачуваної або небажаної поведінки. На цьому тлі компанія Nvidia представила нові програмні інструменти , які, за словами розробників, мають допомогти бізнесу контролювати ШІ-агентів і не дозволяти їм виходити за визначені межі.

«Ми вже перебуваємо на етапі, коли нам потрібні системи ШІ для відстеження дій агентів. Іншого способу спостерігати за цими агентами та контролювати їх просто не існує — можливостей людей для цього вже недостатньо», — заявила Сонг та додала, що суспільство не готове до настільки швидких технологічних змін і потрясінь.

У своїй статті дослідники попередили, що в найгіршому разі втрата контролю над системами ШІ може призвести до «маргіналізації або вимирання людства». Автори матеріалу закликали світових лідерів укласти міжнародні угоди, щоб «запобігти дестабілізаційному розвитку та використанню високопотужних систем ШІ».

Ці заклики перегукуються з позицією керівників OpenAI та Anthropic, які виступали за уповільнення темпів передових розробок ШІ, зокрема через створення міжнародних органів для встановлення відповідних стандартів. Деякі західні країни вже непублічно працюють над створенням такого органу.

Вже протягом місяця у світі триває гостра дискусія щодо екзистенційних загроз ШІ . Частина розробників, зокрема керівники Anthropic, OpenAI та SpaceXAI, закликала уповільнити дослідження через ризики втрати контролю над технологією, тоді як скептики назвали такі побоювання спробою монополізувати ринок і заблокувати конкурентів. Проти будь-яких пауз виступив президент США Дональд Трамп, який назвав ризики технології «фейком» та заявив, що будь-які штучні обмеження лише підіграють Китаю в технологічній гонці.

Раніше Google, OpenAI та Anthropic ініціювали створення спільного саморегулівного органу за зразком американської фінансової організації FINRA, який за гроші індустрії мав би перевіряти та сертифікувати безпеку найпотужніших моделей ШІ перед виходом на ринок. Ідея виникла на тлі резонансного звільнення дослідника Anthropic , який публічно застеріг про високий ризик виходу самовдосконалюваного суперінтелекту з-під контролю до кінця десятиліття.

Технології