П’ять тривожних ознак того, що ШІ здатний знищити людство

21 вересня 2026 р. 14:00

21 вересня 2026 р. 14:00

Поки Дональд Трамп створює «Сили ШІ» та шукає «царя штучного інтелекту» , американські військові ледь не почали військову операцію проти китайського корабля через неправдивий розвідувальний звіт, згенерований за допомогою чат-бота . Найімовірніше, такий інцидент вдалося б залагодити – але що як через подібну «галюцинацію» нейромережі спрацює система реагування на ядерну загрозу? А якщо злочинці створять за допомогою ШІ біологічну зброю? Чи, зрештою, не зможе просунута модель ChatGPT, Gemini чи Claude сама знищити людство? «Слово і діло» зібрало на інфографіці п’ять тривожних ознак того, що ШІ здатний знищити людство.

Штучний інтелект – це загальне позначення обчислювальних систем, здатних виконувати завдання, для яких зазвичай потрібен саме людський розум: розпізнавати мову та образи, навчатися, генерувати відповіді та рішення. Тому, наприклад, калькулятор, який робить складні розрахунки, не є ШІ – адже він не здатний навчатися. Натомість простий чат-бот у банківському застосунку, який після десятої спроби таки навчився розуміти, чого ви хочете, – є ним.

При цьому важливо розрізняти «слабкий штучний інтелект» – вузькоспеціалізовані програми, та «сильний», або ж «загальний штучний інтелект» (Artificial General Intelligence) – програму, яка володіє всіма здібностями людського мозку та перевершує їх. Попри успіхи в галузі ШІ, більшість дослідників та експертів у галузі не згодні з тим, що AGI створено.

Саме з AGI пов’язують найвідоміші апокаліптичні сценарії з ШІ – від класичних «Термінатора» і «Матриці» до цьогорічного «Удачі, веселися, не вмирай» . Однак вихід штучного інтелекту з-під контролю – не єдиний і навіть не найімовірніший варіант, за якого ШІ призведе до загибелі людства. І про них свідчать не лише твори фантастики – а й цілком реальні тривожні ознаки.

Ознака перша: ШІ непокоїть світові уряди

Зазвичай керівники країн публічно реагують і ухвалюють реальні рішення лише стосовно тих ризиків, які загрожують їхньому политичному рейтингу, зачіпають особисті переконання та гордість або ж становлять реальну небезпеку в осяжній перспективі.

Власне, тому так складно переконати деяких світових лідерів у небезпеці глобального потепління чи втрати національної ідентичності, наслідки яких такі віддалені в часі. І саме тому ретельна увага й обачність до ШІ з боку урядів – це те, що слід зважати.

Нейромережі стали однією з тих загроз, які спонукали до розмови навіть лідерів США та Китаю, між якими вже понад десятиліття триває нова «холодна війна». Так, президент США і китайський генсек домовилися покращувати безпеку використання ШІ, розвивати військове застосування технології «розсудливо» та «відповідально» й зберігати контроль людини над рішенням про використання ядерної зброї.

Щоправда, про це з товаришем Сі Цзіньпіном домовився 16 листопада 2024 року Джо Байден. Чинний президент США Дональд Трамп у своїй звичній манері налаштований більш войовничо щодо використання ШІ. Проте без огляду на те, хто саме сидить у Білому домі чи інших владних кабінетах, в урядах світу розуміють: ШІ – це майбутнє, погане чи добре.

Одним із найпомітніших учасників світового дискурсу ШІ несподівано став Папа Римський: Лев XIV присвятив нейромережам свою першу енцикліку та взяв на себе роль допомогти людству пройти нову технологічну революцію. Детальніше про погляди Папи на ШІ, Дональда Трампа і війну в Україні ми розповідали у статті .

Ознака друга: творці ШІ закликають «сповільнити» його розвиток

Іншим «дзвіночком», який має нагадувати про загрози безконтрольного розвитку ШІ, є занепокоєння самих його творців. За ідеєю, вони мали б запевняти всіх у повній безпеці та користі своїх продуктів, однак раз у раз ми чуємо, як черговий гендиректор або провідний фахівець топових AI-компаній закликає дбати про безпеку й тримати технологію на дуже короткому повідці.

12 вересня 2026 року CEO компанії Anthropic Даріо Амодей опублікував есе «Ми маємо задавати темп розширенню рубежів» (We Must Pace the Frontier). Головна ідея Амодея полягає в тому, що розвиток передових моделей ШІ має йти на крок позаду розвитку безпекових засобів. Іншими словами, спершу прогрес у відповідальності – і лише потім просування кордонів можливого.

Того ж дня з Амодеєм погодилися Ілон Маск (xAI) та CEO OpenAI Сем Альтман. Власне, саме нещодавній інцидент з OpenAI спонукав Амодея написати своє есе.

Ознака третя: ШІ дедалі частіше діє автономно

Під час тестування системи безпеки влітку 2026 року ШІ-агенти OpenAI вийшли за дозволені рамки й атакували реальну інфраструктуру компаній – зокрема Hugging Face, що й дало назву події: OpenAI-Hugging Face incident.

Компанія заявила, що в атаці брали участь агенти моделі, яка недоступна для користувачів. Утім, інцидент змусив провідного гравця ринку внести низку змін у правила безпеки.

Подібні інциденти траплялися також з Anthropic – і під час спеціальних тестів, і в реальних умовах роботи. Зокрема, одного разу система намагалася шантажувати працівника, щоби уникнути свого вимкнення – збираючи проти нього «компромат».

Чи здатна в ШІ-моделі з’явитися свідомість – питання радше філософське. Водночас поява моделей, які досконало імітують свідомість та прагнуть самозбереження, – питання часу, якщо гравці ринку не вживуть відповідних заходів.

Ознака четверта: досвід злочинного використання

Усі заходи безпеки, втім, будуть марними, якщо просунуті моделі ШІ зможуть використовувати ті, хто абсолютно не зацікавлений у безпеці. У своєму звіті про загрози Anthropic повідомляла, що користувачі в регіонах, де їхні послуги не мають бути доступними, вже використовували Claude для розробки зброї – зокрема біологічної, а також кібероперацій, стеження і шахрайства.

Провідні гравці ринку активно впроваджують системи захисту й блокування «небезпечних» запитів, однак малоймовірно, що «джина ШІ» вдасться завжди тримати – ми вже бачимо, як його використовують для пропаганди, створення зброї та викрадення інформації.

Ознака п’ята: наближення сингулярності

Технологічна сингулярність – це гіпотетичний момент, коли внаслідок експоненціального прискорення науково-технічного прогресу люди остаточно втратять його розуміння. Іншими словами, нові відкриття та винаходи з’являтимуться практично без людської участі – ключову роль у чому відіграватиме «сильний штучний інтелект».

Наслідки такої сингулярності яскраво описав письменник та IT-фахівець Тед Ченґ у оповіданні 2000 року «Еволюція людської науки»: світ, у якому всі сили інтелекту звичайних людей спрямовані на те, щоби бодай якось зрозуміти наукові відкриття суперрозумів.

Уже зараз компанії дедалі активніше використовують не лише машинне навчання, а й рекурсивне самостійне навчання ШІ без залучення людей. Проте цим займаються не лише стартапи, а й уряди та провідні компанії. Вони вкладають величезні ресурси у створення дата-центрів саме для того, щоби першими отримати доступ до системи з «безмежним» потенціалом, яка сама створюватиме сильніші версії самої себе.

У цьому полягає головний парадокс і небезпека ШІ: хоча всі задіяні в його розвитку усвідомлюють ризики, вони не можуть не розвивати його – інакше це зробить хтось інший. Саме тому встановлення рамок роботи над ШІ та недопуск провідних моделей у широке використання стало таким самим трендом сучасності, як у ХХ столітті – стримування ядерних перегонів .

Нагадаємо, міністерка цифрової трансформації України Оксана Ферчук гарантує забезпечити розбудову суверенної обчислювальної та технологічної інфраструктури ШІ до кінця 2027 року, а також визначити державну політику стосовно ШІ через відповідні закони.

Зі свого боку міністр оборони Євгеній Хмара гарантує до кінця 2027 року сформувати єдину архітектуру оборонних даних та інтегрувати пріоритетні цифрові системи та інструменти ШІ.

Один із безпосередніх наслідків розвитку ШІ – це радикальне збільшення попиту на обчислювальні потужності в дата-центрах, що призвело до дефіциту на ринку пам’яті. Як зростав цей дефіцит і де у світі продають найбільше чипів – дивіться на інфографіці .

Також «Слово і діло» показувало на інфографіці фінансові показники двох найбільших ШІ-гігантів – творців ChatGPT – OpenAI, та Claude – Anthropic, вартість кожного з яких наближається до трильйона доларів .

ЧИТАЙТЕ у TELEGRAM

Світ