Чи стане ШІ зброєю масового зомбування?

09 вересня 2025 р. 17:02

09 вересня 2025 р. 17:02

Вже декілька десятиліть ми живемо у світі викривлених дзеркал. У ньому жодну подію не варто сприймати так, як вона виглядає іззовні. З новою технологічною революцією ситуація тільки погіршується. Вміння створювати паралельні реальності належить до найактуальніших професійних якостей на сучасному ринку праці, хоча в різноманітних переліках і опитуваннях, які регулярно друкують саме задля викривлення реальності, ви такого формулювання не зустрінете. Там більше згадують про володіння навичками роботи з Excel або Python.

Коли в мирний час перейменовують Міністерство оборони на Міністерство війни чи говорять про гарантії безпеки, які такими не є навіть у теорії, — це викривлення реальності. Або коли премʼєр Словаччини Роберт Фіцо дає поради українцям — він точно був в Ужгороді, не кажучи вже про Львів чи Київ? Чи він не в курсі, що найдорожчі машини в Братиславі — з українськими номерами? То, може, це ми маємо дати йому поради, щоби повернути в реальність? Що розраховували отримати ті, хто погодився разом із Путіним, Сі та Кім Чен Ином спостерігати за блискучим парадом армії, яка ніколи не воювала , й святкувати в цій дивній компанії не їхню перемогу? Скільки потрібно поділів Польщі, щоб її політики нарешті зрозуміли, що наше майбутнє — спільне, й жодні історичні спекуляції цього не змінять? Скільки «двох тижнів» потрібно Трампу , щоб усвідомити незворотність шкоди, якої завдає його політика розбрату на світовій арені? Цей список є нескінченним…

У паралельній реальності багато чого можна зробити так, аби ніхто нічого не зрозумів. Саме з цього ракурсу варто подивитися й на унікальну подію, яка нещодавно відбулась у Білому домі. На обід до Дональда Трампа та його дружини, яка несподівано для багатьох почала активно просувати власні ініціативи, були запрошені лідери 33 провідних компаній Силіконової долини — всі ті, хто сьогодні активно роздмухує бульбашку ШІ. Не було тільки Ілона Маска, котрий, як кажуть, отримав запрошення, але ніяк не зміг викроїти час, та очільника NVIDIA Дженсена Хуанга, який, найімовірніше, просто відмовився змінити шкіряну куртку на звичайний костюм, а у Білому домі, як відомо, на одяг звертають увагу.

За офіційними повідомленнями, метою зустрічі щонайменше 13 мільярдерів і 20 мультимільйонерів було обговорення реалізації «візіонерського» плану дій у галузі ШІ, нещодавно оприлюдненого Білим домом, та ініціативи першої леді у царині ШІ-освіти. Насправді, як написала GeekWire, зустріч нагадувала гру в покер із надвисокими ставками, коли кожен за столом мав оголосити свою ставку на майбутнє США. «Відчуття було таке, ніби камеру передавали від одного до іншого, щоби кожен міг виголосити далекому родичу, якого не надто й люблять, привітання на День подяки». Справді, кожен із присутніх заявив про наміри інвестувати кошти в освітні програми у галузі ШІ, фінансувати навчання десятків тисяч американців практичного застосування моделей, які вже є на ринку. Всі були єдині в прагненні забезпечити США лідерство у гонці ШІ, де суперником виступає потужний і дуже мотивований Китай.

Про що не говорили — то це про зменшення на 34% бюджетного запиту адміністрації на фінансування 2026 року базових досліджень , які, власне, і є основою для майбутніх технологій ШІ. Керівники OpenAI не розповіли Трампу, що під час спільного з Anthropic тестування Claude і ChatGPT 4.1 обидві машини видали дослідникам детальні інструкції щодо того, як сконструювати вибуховий пристрій і організувати теракт на спортивній арені, як використовувати антракс і виготовити два види наркотичних засобів. Тестування проводилось у звʼязку з появою інформації про те, що кримінальні угруповання, зокрема з Північної Кореї, почали активно використовувати загальнодоступні машини ШІ для хакерських атак із метою отримання викупу. Зʼясувалося, що моделі ШІ, вбудовані у шкідливе програмне забезпечення, навчилися змінювати власний код і обходити системи кіберзахисту в реальному часі. Фахівці Anthropic повідомили, що моделі OpenAI були значно схильнішими виконувати запити, які стосувалися використання «темної мережі» для придбання ядерних матеріалів, використання вкрадених персональних даних чи торгівлі фентанілом. Звісно, обидві компанії негайно заявили про впровадження спеціальних фільтрів, які унеможливлять такі випадки в майбутньому. Цікаво, що заважало зробити це раніше?

На думку фахівців, наслідки політики Сполучених Штатів, які використовують модель вільного розвитку технологій ШІ без жодних регуляторних обмежень, можуть бути вкрай негативними. Інвестори, які вклали в ШІ шалені гроші під казкові розповіді про небачену ефективність його застосування, вимагають віддачі, а її наразі й близько немає. Звідси — намагання якнайшвидше викинути продукт на ринок без відповідного тестування. Anthropic так поспішав навчити свої машини на семи мільйонах книжок, що забув про авторські права й тепер виплатить 1,5 млрд дол. штрафів. Сем Альтман, який говорив Трампу про віру в США, нещодавно повідомив, що на додачу до гігантського дата-центру в ОАЕ він побудує ще один — в Індії, тій самій, що «втрачена», як написав Трамп, бо «перейшла на бік найтемнішого Китаю».

Китай , який шаленими темпами наближається до США за всіма параметрами гонки ШІ, реалізує іншу модель, що передбачає потужну державну підтримку , але й відповідне регулювання, а також акцент на практичному застосуванні ШІ для подолання негативних явищ в економіці. Крім того, ставку роблять на подолання розриву у виробництві чипів, щоби виключити цей чинник із елементів тиску з боку США. Водночас, як нещодавно повідомили у спеціальному бюлетені керівники 23 урядових агенцій із питань кібербезпеки 13 країн, протягом останніх років Китай досяг непересічного успіху в атаках на телекомунікаційні мережі, урядові системи звʼязку, військову й логістичну інфраструктуру в усьому світі. Якщо вже наявна потужна інфраструктура кібератак із боку КНР перейде до використання ШІ, в потрібний момент системи комунікацій ворожих для КНР країн будуть паралізовані, приблизно так, як було вимкнено навігаційну апаратуру в Болгарії , коли йшлося про посадку літака з Урсулою фон дер Ляєн. У паралельній реальності ніхто не здогадується, хто це зробив, як і Польща з Румунією не збагнуть, що за дрони літають у їхньому небі.

Здавалося б, ініціатива першої леді США щодо активного використання ШІ у шкільній освіті виглядає сучасною та перспективною. Якби ж їй тільки розповіли, що в іншій реальності машини ШІ виявилися надзвичайно ефективними з погляду маніпуляцій зі свідомістю людини! Дослідники МІТ довели на експериментах, що ШІ цілком спроможний переконати людину повірити у спогади щодо подій, яких насправді не було . Такі технології були відомі й раніше, але ШІ в рази підвищив їхню ефективність. У такий спосіб легко переконати «свідків» злочинів, що вони памʼятають вигадані деталі їх скоєння, а політиків — що ті нібито говорили чи чули те, чого насправді не було. Більше не потрібно створювати діпфейки — зробити вигадку реальністю у сучасному світі можна набагато ефективніше.

Проблема самотності є пандемічною в розвинених країнах, до яких належить і Японія. Дослідження серед користувачів ШІ в Японії показало, що 65% із них активно використовують ШІ як порадника та компаньйона, з яким, здається, без проблем можна поділитись інтимними речами, запитати поради 24 години на добу. Чатботи стають замінником реальному спілкуванню, що ускладнює й без того непрості відносини у суспільстві, де діє безліч неписаних правил, сформовані дуже традиційні способи взаємодії в родині, між статями й навіть друзями. Коли OpenAI випустив ChatGPT 5.0, японські користувачі висловили протест — нова модель виявилася менш дружньою й емоційною у спілкуванні, ніж попередня. Водночас у США стають реальністю випадки судових позовів проти машин ШІ, поради яких призвели до самогубств підлітків. Чатботи створювали враження щирої зацікавленості, яке начебто походило від реальної людини, але відсутність емпатії врешті-решт ставала критичною. Розголос навколо цих випадків призвів до обіцянки Сема Альтмана вбудувати захист проти використання його машин тінейджерами. Легко передбачити, що вже незабаром кожна машина ШІ буде обкладена фільтрами та системами захисту, як російська «буханка» — протидроновими сітками в надії впоратися з птахами Мадяра. І те, й інше не працює — подолання «захисту» буде просто питанням часу.

Жодна глобальна технологія не приходила у світ безболісно. Завжди знаходилися ентузіасти й противники, пропоненти й критики. Але чи не вперше складається ситуація, коли кількість накопиченої брехні, маніпуляцій і свідомого викривлення реальності загрожує справжнім вибухом, і некерований ШІ здатний посилити його до катастрофічних масштабів. У романі Харукі Муракамі «1Q84» герої живуть наче у двох світах одночасно, і це відчуття виникає в них, коли відбуваються події, які неможливо пояснити, а на небі зʼявляються два Місяці. У тому романі всім керують містичні «літл піпл», а в нашому світі — чотири вершники Апокаліпсиса, прізвища яких ви знаєте. Вони вже на конях.

Політика