Шлях до безпечного ШІ: дослідник з MIT пропонує математично доводити безпеку коду

02 вересня 2026 р. 11:33

02 вересня 2026 р. 11:33

Фізик та дослідник штучного інтелекту Макс Теґмарк з Массачусетського технологічного інституту (Massachusetts Institute of Technology, MIT) представив новий метод контролю нейронних мереж на семінарі Інституту чистої та прикладної математики (Institute for Pure & Applied Mathematics, IPAM). Замість вивчення складної внутрішньої структури ШІ, він пропонує математично перевіряти зрозумілий код, який система генерує сама.

У своєму виступі вчений окреслив два шляхи досягнення “надійного ШІ”. Перший — складна, повільна наука про механістичну інтерпретованість, яка намагається досконало вивчити роботу нейромереж зсередини. Другий, кардинально інший підхід полягає не в перевірці самої “чорної скриньки” ШІ, а у формальній верифікації програмного коду, який ШІ здатний самостійно експортувати зі своїх знань.

Геометрія виникає через узагальнення

Теґмарк пояснив, що здатність нейромереж до узагальнення виникає завдяки тому, що вони самостійно відкривають витончені геометричні структури під час навчання. Наприклад, під час ровʼязання задач на модульне додавання або оперування днями тижня всередині мережі формується коло, числа від 0 до 99 шикуються у тривимірну спіраль, а географічні поняття вибудовуються у віртуальну карту світу. Цей процес дослідник називає “інтелектом через голодування”.

“Якщо у вас дуже обмежені ресурси, можливо, єдиний спосіб виконати інтелектуальне завдання — це знайти розумний спосіб його вирішення”, — пояснив професор логіку роботи нейромереж.

Модульність і автоматичний експорт коду

Науковці також працюють над підвищенням модульності нейромереж, щоб їхня структура більше нагадувала людський мозок, де різні зони відповідають за окремі задачі. Завдяки певним змінам у налаштуваннях навчання ШІ починає розбивати обчислення на окремі незалежні модулі, що дозволяє дослідникам знаходити математичні формули всередині системи.

Команді Теґмарка вже вдалося створити алгоритми, які автоматично аналізують цю внутрішню структуру (наприклад, операції бінарного додавання) і перетворюють її на зрозумілий людині код мовою Python.

Наслідки для розробки та безпеки ШІ

Для розробки програмного забезпечення та безпеки ШІ це означає можливий перехід до нової парадигми. Замість того, щоб безуспішно намагатися зрозуміти кожен параметр у гігантських нейромережах, розробники можуть дозволити ШІ функціонувати як “чорній скриньці”, вимагаючи натомість експортувати вивчені алгоритми у вигляді читабельного коду Python або мовою для формальної верифікації Lean.

Цей підхід перегукується з концепцією vibe coding (“вайбкодування”), де ШІ переймає на себе генерацію логіки, а людина фокусується на архітектурі та перевірці. Формальна верифікація такого автоматично згенерованого коду дозволить математично довести його безпечність і надійність перед використанням, повністю обходячи проблему непрозорості самої нейронної мережі.

Для Європейського Союзу цей підхід набуває особливої ваги на тлі впровадження Закону про штучний інтелект (AI Act). Математична перевірка згенерованого коду допоможе розробникам відповідати регуляторним вимогам щодо надійності систем без надмірних витрат. Це дозволить медіа та технологічним компаніям безпечно використовувати сучасні алгоритми, мінімізуючи ризики неконтрольованої поведінки систем.

Обмеження та застереження

Попри оптимізм, Тегмарк застеріг, що частина озвучених тез наразі залишається гіпотезами, а не остаточними висновками. У внутрішній геометрії мереж досі фіксується багато “шуму” та незрозумілих аномалій — наприклад, ШІ іноді будує неточні фігури замість ідеальних пропорцій або невиправдано дублює одні й ті ж алгоритми. Крім того, наразі немає чіткого шляху масштабування такого автоматичного експорту коду на сучасні великі мовні моделі без принципово нових рішень.

Технології