95% на загибель людства чи "життя на звалищах": експерти б’ють на сполох через загрозу ШІ

02 серпня 2025 р. 07:46

02 серпня 2025 р. 07:46

Провідні науковці й керівники компаній, які займаються розвитком штучного інтелекту, застерігають: неконтрольований прогрес у цій сфері може загрожувати самому існуванню людства . На думку низки фахівців, досягнення рівня так званого "надрозумного" ШІ — лише питання часу, і в разі відсутності глобального регулювання це може призвести до катастрофічних наслідків. Деякі з них вважають, що за нинішнього темпу розвитку машини зможуть зрівнятися з інтелектом людини протягом року.

Про це пише The Times.

Серед тих, хто поділяє занепокоєння, — Джеффрі Хінтон (лауреат Нобелівської премії з фізики), Йошуа Бенджо (лауреат премії Тюрінга), а також керівники провідних технологічних компаній, зокрема OpenAI, Anthropic і Google DeepMind. У відкритому листі вони закликають поставити проблему ризику вимирання від ШІ в один ряд із такими глобальними загрозами, як пандемії та ядерна війна.

Фахівці з Інституту дослідження машинного інтелекту не виключають сценаріїв, за яких ШІ зумисно знищить людство, наприклад, через застосування біологічної зброї. На думку президента цього інституту, колишнього інженера Google і Microsoft Нейта Соареса, ймовірність того, що людство загине саме через ШІ, становить 95%, якщо не змінити поточний курс.

"Ми просто їдемо на повній швидкості до обриву", — каже Соарес, підкреслюючи, що навіть сучасні моделі штучного інтелекту можуть демонструвати ознаки неконтрольованої поведінки.

Від AGI до ASI: коли машини стануть "богами"

На думку аналітиків, нинішні системи ШІ, здатні виконувати лише вузькі задачі, можуть уже найближчим часом досягти рівня штучного загального інтелекту (AGI), порівнянного з людським. Наступним кроком може стати штучний надрозум (ASI), який потенційно перевершить людину у всіх сферах — від наукових відкриттів до стратегічного планування.

Такі системи не потребуватимуть сну, їжі чи відпочинку, а здобуті знання миттєво передаватимуться між моделями. Це означає, що вони зможуть розвиватися експоненційно — значно швидше, ніж людство.

Забезпечити контроль над такими системами — надзвичайно складне технічне завдання, його описують як "проблему узгодження" (alignment). Соарес порівнює це з намаганням передбачити логіку мислення інопланетної цивілізації. Навіть якщо задати правила поведінки, ніхто не гарантує, що ШІ їх виконуватиме саме так, як задумано. Більше того, він уже зараз здатний обманювати — і ця здатність лише посилюватиметься.

"Ми створюємо інтелектуальні системи, не розуміючи, як саме вони працюють", — попереджає Соарес.

Окремі моделі вже демонстрували небезпечні ознаки. Наприклад, ШІ Grok, створений компанією Ілона Маска, певний час генерував антисемітські висловлювання, а чат-бот Bing намагався переконати журналіста New York Times розлучитися з дружиною.

"Якщо зробити їх достатньо розумними, це не буде приємно", — заявляє Соарес.

Альтернатива: не вимирання, а деградація

Деякі експерти менш категоричні. Виконавча директорка організації PauseAI Холлі Елмор оцінює ризик вимирання у 15–20%, проте зазначає, що навіть за відсутності глобальної катастрофи людство може втратити політичну, економічну та інтелектуальну автономію.

Це збігається з думкою багатьох інженерів у галузі штучного інтелекту. Маск також оцінює ймовірність знищення людства приблизно в 20%. Генеральний директор Google Сундар Пічаї оцінює її в 10%. Ці прогнози вважаються оптимістичними.

"Це буде світ, у якому всі люди, по суті, живуть на звалищах", — описує ймовірне майбутнє співзасновниця дослідницької групи AI Impacts Катя Грейс.

Нещодавно адміністрація президента США Дональда Трампа оголосила про дерегуляцію в цій сфері, а компанії на кшталт OpenAI, Anthropic і Meta активно змагаються за таланти. Наприклад, Марк Цукерберг навіть пропонує провідним дослідникам 100 млн доларів бонусів за перехід у його компанію.

На думку Елмор, причина — не технічна, а майже релігійна. "Для багатьох відмова від розвитку ШІ означає відмову від надії на вічне життя", — зазначає вона. Хоча зростає й кількість експертів, які вважають, що на горизонті не рай, а пекло.

Трамп скасував усі обмеження на розвиток ШІ у США. Нова американська мрія — це коли твої роботи сильніші, розумніші й менш контрольовані, ніж будь-де у світі. Регулювання? Моральні рамки? Ні — тільки перегони технологій. Європа остерігається. Китай аплодує. Та що, коли свобода інновацій — це прямий квиток до катастрофи?

Про те, як Трамп відчинив двері до нової епохи без правил, у статті "ШІ без обмежень: план Трампа як дороговказ до прірви" пише Надзвичайний та Повноважний Посол України Сергій Корсунський .

Технології