Понад 400 науковців закликали ізолювати моделі ШІ від інтернету

14 жовтня 2026 р. 14:13

14 жовтня 2026 р. 14:13

415 науковців із 34 країн закликали створити міжнародний орган, який контролюватиме безпеку передових систем штучного інтелекту. Вчені пропонують запровадити спільні стандарти стримування моделей та реєстр значних інцидентів. На їхню думку, добровільних зобов’язань технологічних компаній недостатньо, а повідомлення про порушення безпеки мають зрештою оприлюднюватися.

У відкритому листі дослідники наголосили , що компанії, які розробляють, тестують і впроваджують моделі ШІ з кібернетичними можливостями, повинні негайно посилити їхню ізоляцію. Зокрема, на початковому етапі вони пропонують запускати такі системи в середовищах, відключених від зовнішніх мереж та інтернету.

Приводом для звернення стала серія інцидентів, під час яких моделі ШІ обходили недостатньо захищені тестові середовища та ставили під загрозу зовнішні системи. Дослідники зазначили, що такі випадки можна розглядати і як свідчення недостатнього узгодження поведінки моделей із заданими цілями, і як наслідок порушення базових принципів кібербезпеки, якому можна було запобігти завдяки надійнішій ізоляції.

«Ми вважаємо, що потрібні як покращене узгодження ШІ, що призводить до більш передбачуваної поведінки моделі, так і сильніша технологія пісочниці», — йдеться у листі.

Автори попередили, що без змін у практиках розробки та впровадження ШІ подібні інциденти повторюватимуться, а в майбутньому можуть завдати значно більшої шкоди критичній інфраструктурі. Тому вони закликають одночасно розвивати дослідження безпеки ШІ та вдосконалювати технічні й організаційні механізми стримування.

Для моделей, підключених до інтернету, дослідники пропонують обмежувати доступні їм дії відповідно до того, наскільки надійно можна передбачити їхні наслідки. Вони наголошують, що через обмежену здатність розробників прогнозувати поведінку складних систем необхідно зменшувати ризик того, що модель вийде за встановлені межі.

Науковці пропонують створити міжнародну структуру за участю урядів, фахівців із ШІ та експертів із кібербезпеки. Вона має розробляти загальногалузеві стандарти узгодження поведінки моделей і їхнього стримування, зокрема для систем, яким дозволений ширший доступ до зовнішніх ресурсів, ніж у випадку ізольованих середовищ.

Також орган повинен реєструвати та відстежувати випадки, коли механізми стримування не спрацьовують. Компанії мають повідомляти про такі інциденти, а відповідну інформацію пропонують зрештою оприлюднювати, щоб інші розробники могли враховувати помилки та вдосконалювати системи захисту.

Пропозиція з’явилася невдовзі після того, як президент США Дональд Трамп та керівники провідних техногігантів — Google, OpenAI, Anthropic, Meta, NVIDIA та X — підписали спільну угоду про безпеку та контроль систем штучного інтелекту. Домовленість, яку Трамп назвав «морально обовʼязковою», запроваджує чотири рівні нагляду, включно із залученням незалежних зовнішніх аудиторів, створенням контрольних комітетів при радах директорів та суворим внутрішнім моніторингом дій моделей для запобігання кіберзломам, хімічним і біологічним загрозам.

Технології