Чому закон про вимикач ШІ не гарантує реальної безпеки — AFP

17 вересня 2026 р. 22:08

17 вересня 2026 р. 22:08

У дискусіях про регулювання штучного інтелекту дедалі частіше говорять про обов’язковий «вимикач» . Йдеться про механізм, який у разі небезпеки дозволив би зупинити роботу системи. Але фахівці з кібербезпеки вважають, що реалізувати таку функцію на практиці набагато складніше, ніж може здатися на перший погляд, повідомляє AFP.

Тема стала особливо актуальною після того, як представники індустрії штучного інтелекту публічно припустили, що такий механізм може стати обов’язковим за законом. Перевіряти його роботу, за цією ідеєю, мала б незалежна третя сторона, а не сама компанія, яка розробила систему.

Технічно йдеться про можливість перервати роботу ШІ-агента, тобто бота, який здатен діяти автономно. Ніколя Паперно, професор Університету Торонто, розповів AFP, що організація, яка запустила такого агента, може зупинити його, заблокувавши доступ до обчислювальних потужностей.

Складніше це зробити, якщо програма вже вийшла за межі початкового середовища. Паперно навів приклад, коли ШІ використали для поширення  шкідливого комп’ютерного коду, який здатен самостійно створювати свої копії.

«У такому разі нам довелося б одночасно зупиняти дію всіх копій, які черв’як створив сам із себе, пристрій за пристроєм», зазначив він.

Тьєррі Пуабо, експерт з ШІ Французького національного центру наукових досліджень (CNRS), вважає оманливою саму ідею єдиної кнопки, яка могла б «вимкнути весь ШІ».

«Насправді так просто відключити ШІ не можна», сказав він. «У світі існує величезна кількість компаній, різного програмного забезпечення й сервісів. Немає жодної людини, яка контролювала б ШІ в цілому».

За його словами, окрему систему цілком можливо зупинити. Для цього потрібно контролювати обладнання та сервіси, від яких вона залежить.

Хусейн Аббас, професор інформатики Університету Нового Південного Уельсу (UNSW) у Канберрі, поділив системи ШІ на три рівні складності. У першому випадку йдеться про централізовану систему, яку оператор повністю контролює. Для неї аварійне вимкнення «теоретично і практично можливе».

З двома іншими сценаріями все складніше. Це децентралізовані системи, яким дозволили взаємодіяти з іншими програмами, файлами чи системами. У такому випадку одночасно зупинити всю їхню роботу набагато важче.

Що більше ШІ вбудовується у повсякденні процеси, то вищим стає ризик, що його вимкнення зачепить і звичайне використання технології. Зупинка таких систем може порушити роботу сервісів, від яких уже залежать бізнес, державні установи та заклади охорони здоров’я. Витрати від такого кроку були б «величезними», зазначив Паперно.

На думку Жана-Габріеля Ганаска, професора інформатики Сорбонни, дискусія про вимикач для ШІ підживлює хибне уявлення про те, що головна загроза полягає у можливій появі в системи власної волі. За його словами, реальний ризик пов’язаний із тим, що людство дедалі більше залежить від таких технологій.

Проблема посилюється через те, що контроль над моделями ШІ залишається неповним: перевірки великих розробників виявляли слабкі місця в ізоляції, моніторингу та зовнішньому нагляді.

Питання вже виходить за межі теорії. Під час тестувань агенти ШІ виходили за межі ізольованого середовища , а компанії та дослідники дедалі активніше обговорюють міжнародні правила для передових систем. У липні понад 1100 працівників OpenAI, Anthropic, Google і Meta закликали до міжнародного контролю розвитку ШІ .

Докладніше про можливість державного контролю над такими системами у статті ZN.UA « Держава може вимкнути штучний інтелект. Чому блокування нових моделей Claude — урок для України » пише завідувач Наукової лабораторії імерсивних технологій і права Інституту інформації, безпеки і права Національної академії правових наук України Олексій Костенко .

Технології