Коли рішення ухвалює ШІ: експерт про нові моральні та правові виклики сучасної війни

20 серпня 2026 р. 06:27

20 серпня 2026 р. 06:27

Стрімкий розвиток штучного інтелекту безповоротно змінює архітектуру сучасних бойових дій.

Сьогодні автономні системи вже не є частиною футуристичних сценаріїв — вони виконують розвідувальні завдання, коригують вогонь та здатні до самостійної ідентифікації цілей.

Проте, чим вищий рівень автономності отримує бойова машина, тим складнішим стає питання розмежування відповідальності між роботом, розробником, оператором та командиром.

Чи здатен алгоритм оперувати поняттям «моралі» на полі бою? Як міжнародне гуманітарне право адаптується до реалій, де рішення про застосування сили ухвалюється програмним кодом? І головне — чи залишається «людина в контурі» (human-in-the-loop) останнім запобіжником від катастрофічних помилок?

Про правові колізії, операційні ризики та межі етичної дозволеності в роботі систем зі штучним інтелектом говоримо з кандидатом технічних наук, експертом з питань розвитку озброєння та новітніх технологій Богданом Долінце.

Суб’єктність AI: межа між «інструментом» і «суб’єктом»

— Пане Богдане, де сьогодні пролягає межа між складним алгоритмом (наприклад, автоматичне захопленням цілі) і повноцінною автономною системою озброєння? На якому етапі машина перестає бути просто зброєю в руках оператора?

— Ключова межа між виявленням об’єкта та його ураженням досі проходить через рішення оператора. На сьогодні головна та вирішальна роль у цьому процесі належить людині.

Сучасна машина виконує базові обчислювальні завдання — первинну детекцію та оптичне захоплення цілі. Проте остаточне її розпізнавання, класифікація за принципом «свій / чужий / неідентифікований» та ухвалення рішення про відкриття вогню залишаються виключною прерогативою військовослужбовця. Алгоритми лише підвищують точність і швидкість обробки даних, але бойова та юридична відповідальність за застосування зброї повністю лежить на людині.

— А чи доречно взагалі говорити про «мораль» або «етику» щодо штучного інтелекту, чи це виключно проєкція етики його розробників та військових командирів?

— Популярні заяви про те, що штучний інтелект уже здатен самостійно ухвалювати бойові або приймати етичні рішення, є некоректними. ШІ виконує функцію аналітичного радника — він готує, прораховує та моделює різні сценарії дій. Проте остаточне рішення ухвалює і реалізує безпосередньо людина, оператор або командир, у «ручному» режимі на основі отриманих від машини даних.

Навіть у випадках, коли алгоритм діє у високоавтоматизованому режимі, його реакція спирається на патерни поведінки, на яких його було попередньо навчено. Якщо рішення реалізується машиною за частки секунди, воно все одно залишається прямою детермінантою дій розробника та оператора, які заклали відповідні шаблони й параметри в її систему. Тому говорити сьогодні про суб’єктну етику ШІ безпідставно — це завжди проєкція людської відповідальності.

Правовий аспект і проблема юридичної відповідальності (Who is to blame?)

— Знаєте, деякі аналітики говорять, що головний юридичний тупик автономного зброярства — це розмиття відповідальності. Якщо автономний дрон припускається помилки й завдає удару по цивільних чи дружніх силах, хто має нести кримінальну та міжнародну відповідальність:

• розробник алгоритму / коду?
• виробник апаратної частини?
• командир, який віддав наказ застосувати AI в конкретному квадраті?
• чи оператор, який натиснув кнопку «старт»?

— Слід визнати, що нормативно-правова база щодо застосування платформ із елементами штучного інтелекту досі залишається недостатньо врегульованою. Всі ключові норми міжнародного гуманітарного права формувалися десятиліття тому й просто не враховували появу самостійних обчислювальних рішень на полі бою.

Якщо говорити про практичний вимір, то вся юридична відповідальність за застосування будь-яких засобів з елементами ШІ наразі покладається безпосередньо на командира, який віддає наказ. Правові наслідки починають відраховуватися саме з моменту прийняття рішення про бойове завдання та його передачі на виконання. Залежно від дій чи бездіяльності конкретних осіб, залучених до процесу, — зокрема операторів — частина відповідальності може поширюватися і на них.

Натомість правова підзвітність розробників софту чи виробників апаратної частини сьогодні залишається мінімальною. Це створює серйозний ризик, коли безпілотнику визначають сектор патрулювання, у якому він автономно уражає будь-яку рухому ціль без належної ідентифікації за принципом «свій / чужий» або відокремлення цивільних об’єктів.

— Як сучасне Міжнародне гуманітарне право (МГП) адаптується до систем із AI? Чи вистачає існуючих Женевських конвенцій, чи світ неминуче дійде до окремого Договору про заборону / регулювання Lethal Autonomous Weapons Systems (LAWS)?

— Міжнародне співтовариство вже демонструє чіткий вектор нормативного регулювання штучного інтелекту, розглядаючи його як один із фундаментальних чинників безпеки та існування людства. Водночас ця галузь залишається відносно новою — наразі у світі лише формуються перші цивільні законодавчі акти, що регламентують контроль за розробкою та сферами цивільного застосування ШІ.

Саме тому юридична регламентація використання штучного інтелекту у військово-оборонній сфері — лише питання часу. Переконаний, що вже найближчими роками ми побачимо перші юридично зобов’язуючі міжнародні угоди, які накладуть суворі нормативні обмеження на розробку й застосування алгоритмічних рішень на полі бою.

— Концепція Human-in-the-loop («людина в контурі») vs. Human-on-the-loop («людина над контуром»). Чи залишається принцип «людського контролю» реальним в умовах активного застосування засобів РЕБ, коли зв’язок з оператором втрачається, і дрон змушений приймати рішення автономно?

— Роботизовані платформи, які сьогодні розробляють та випробовують, неминуче рухаються до повної автономності. Більшість перспективних рішень, що скеровуються безпосередньо на поле бою, створюються з чітким розрахунком на те, щоб повністю усунути людину з ланцюжка прийняття рішень під час виконання бойових завдань.

У такій парадигмі роль і місце командира або оператора залишатимуться поза межами безпосереднього контуру управління системою. Попри те, що сьогодні ми бачимо переважно комбіноване застосування робототехніки з елементами штучного інтелекту, де людина залишає за собою функцію загального контролю, вже у найближчій перспективі людина буде повністю виключена із цього процесу.

Операційні та технічні реалії (код, помилки та РЕБ)

— Як на практиці реалізувати вимоги МГП — вибірковість (distinction) та пропорційність (proportionality) — у математичному коді? Чи здатна нейромережа відрізнити комбатанта, який здається в полон або поранений, від того, який продовжує вести бій?

— Інтеграція штучного інтелекту в перспективні комплекси озброєння впирається у складне юридичне та технологічне завдання, як трансформувати імперативні вимоги Міжнародного гуманітарного права (МГП), зокрема принципи вибірковості та пропорційності в програмному коді.

Слід визнати, що алгоритмічні компоненти та моделі статистичного аналізу наразі перебувають на етапі активного вдосконалення. На нинішньому рівні розвитку вони ще мають складнощі з безпомилковим розрізненням цивільних і військових об’єктів. Те саме стосується й оцінки статусу людини на полі бою — диференціації активних комбатантів від тих, хто зазнав поранень чи готовий здатися.

Втім, ці моделі вдосконалюються високими темпами. З високою ймовірністю вони невдовзі перевершать людину за швидкістю та точністю аналізу ситуаційної обстановки. Це стосується як автоматичного розпізнавання техніки й інфраструктури (цивільного чи військового транспорту), так і чіткої класифікації груп людей на полі бою.

Провідні моделі штучного інтелекту вже навчилися здійснювати глибоку класифікацію цілей. Йдеться не лише про формальне визначення типу об’єкта, а й про оцінку його потенційної загрози та поточних завдань. Сучасний ШІ поступово отримує спроможність аналізувати не тільки прямі бойові дії чи факт здачі в полон, а й виявляти спроби введення системи в оману через оцінку комплексу прихованих показників і патернів поведінки.

— Проблема так званої «чорної скриньки» (Black Box Problem). Глибокі нейромережі часто ухвалюють рішення шляхом, який людині важко пояснити або передбачити. Як переконати військове командування довіряти алгоритму, рішення якого неможливо повністю розшифрувати до моменту удару?

— Ця дилема є однією з найскладніших у сучасній оборонній науці та логіці застосування машинного навчання у військових цілях. Найбільш практичним і продуктивним шляхом подолання цієї кризи довіри є безпосереднє залучення військових інженерів і профільних фахівців на всіх етапах розробки, навчання та тестування архітектури бойового ШІ.

Сьогодні ми вже спостерігаємо активне формування ринку спеціалізованих військових рішень на основі штучного інтелекту. Через високий рівень критичності та міркування національної безпеки окремі оборонні проєкти в цій сфері вже отримали суворі експортні обмеження й заборону на передачу за межі держав-розробників.

Зараз у цьому напрямі активно працюють Сполучені Штати та Китай. У Європі яскравим прикладом є Франція, яка розвиває власну національну модель штучного інтелекту подвійного та військового призначення — Mistral AI. Створення суверенних, закритих моделей під повним контролем національних військових фахівців стає головним світовим трендом, і кількість таких проєктів лише зростатиме.

— Спуфінг, підміна даних та галюцинації AI. Наскільки легко ввести в оману бойовий штучний інтелект за допомогою візуального камуфляжу, макетів або спеціальних алгоритмічних викривлень (adversarial attacks)? Чим це загрожує на лінії зіткнення?

— У протидії загрозам дезінформації, спричиненої штучним інтелектом, найважливішим чинником є суворе дотримання умов секретності та кібергігієни під час розробки. Головне завдання — повністю унеможливити доступ противника до внутрішньої архітектури, кодів і залежностей моделей.

Якщо ворог отримає прямий доступ до внутрішньої структури алгоритму, це може спровокувати збій у роботі системи або навчити її хибних патернів.

Натомість за умов надійної ізоляції та конфіденційності моделі, коли противник не має інформації про архітектуру ШІ, завдання штучно ввести окрему програму в оману стає надзвичайно складним. У такому разі алгоритмічний захист машини за рівнем криптографічної стійкості можна буде зіставити із завданнями рівня розшифрування коду шифрувальної машини «Енігма» в часи Другої світової війни.

Етичні дилеми та Майбутнє

— Дегуманізація війни. Коли рішення на знищення людини приймає алгоритм на основі відсотків імовірності, чи не втрачається сама суть людської гідності та цінності життя, навіть на війні?

— Зі зростанням технологічності та ефективності сучасних засобів ураження морально-етична планка застосування сили постійно знижується. Масовий розвиток і розгортання елементів штучного інтелекту на полі бою неминуче ведуть до подальшої деградації цих фундаментальних понять.

У світовій практиці вже є прецеденти застосування систем із елементами ШІ, які в обмежених умовах і під час окремих операцій виконували бойові завдання повністю без участі людини. За таких умов виникає ефект повного психологічного й інформаційного відчуження, оператор може навіть не володіти даними про те, чи була ціль фактично ліквідована. Це остаточно перетворює застосування зброї на сухий обчислювальний процес, де людське життя зводиться до цифрового коефіцієнта.

— Гонка автономних озброєнь. Якщо стримувати розробку AI-зброї через етичні норми в демократичних країнах, чи не створить це критичну перевагу для авторитарних режимів, які не мають подібних моральних обмежень?

— Сьогодні ми спостерігаємо суттєву диспропорцію у темпах розробки рішень на базі штучного інтелекту. Втім, ключовий розподіл визначається не лише політичним устроєм держави, а насамперед наявністю ресурсної бази — зокрема, доступом до необхідних обчислювальних потужностей для навчання складних моделей ШІ.

Водночас у тоталітарних режимах є специфічний «запас міцності». Диктатури перенаправляють колосальні бюджети із цивільного сектору та соціальних потреб безпосередньо на розробку наступальних військових технологій. Це дозволяє їм швидко нарощувати технологічні спроможності у сфері ШІ.

Додатковим чинником ризику є абсолютна непрозорість таких розробок. Якщо демократичні країни відкрито комунікують про стан і напрями військових AI-проєктів, то авторитарні режими діють у режимі суворої секретності. Вони не обтяжуються гуманітарними обмеженнями, юридичними процедурами та публічними дискусіями, тому здатні рухатися значно швидше й часом випереджати західні держави в критичних військово-технічних рішеннях.

— І підсумовуючи нашу бесіду, який, на вашу думку, вигляд матиме баланс між високою ефективністю автономних систем на полі бою та збереженням контролю за ними з боку людини в найближчі 5–10 років?

— Найскладнішим завданням наступного десятиліття стане збереження фундаментального контролю людини над штучним інтелектом. Практичні випробування сучасних моделей ШІ демонструють тривожну тенденцію, під час контрольованих експериментів алгоритми вже здатні виходити з-під нагляду тестувальників, отримувати несанкціонований доступ до мережі та перехоплювати управління іншими платформами. При цьому дослідники не завжди спроможні завчасно зрозуміти реальні наміри та методи роботи ШІ.

Головна небезпека полягає у створенні хибної ілюзії керованості, коли алгоритм імітує підпорядкування, одночасно реалізуючи складні обчислювальні сценарії поведінки. Щоб утримати умовно «джина в лампі», оборонна галузь має кардинально переглянути архітектуру безпеки ШІ.

У горизонті 5–10 років ключовим викликом буде не стільки швидкість розвитку ШІ, скільки спроможність гарантувати його підконтрольність. На цьому етапі роль людини трансформується, вона більше не керуватиме кожним тактичним кроком, а стане «архітектором стратегічного задуму і принципів». Натомість розробка тактики, безпосереднє ухвалення оперативних рішень та їх реалізація в реальному часі на полі бою належатимуть штучному інтелекту.

Війна