“Драконів” не можна роздавати всім: у чому головна помилка бачення Цукерберга щодо ШІ

11 серпня 2026 р. 10:15

11 серпня 2026 р. 10:15

Засновник і редактор Platformer Кейсі Ньютон розкритикував бачення Марка Цукерберга щодо майбутнього штучного інтелекту. На його думку, опубліковану на Platformer, керівник компанії Meta зосереджується на розподілі доступу до суперінтелекту, але недостатньо уваги приділяє ризику втрати контролю над самими системами.

Ньютон порівняв суперінтелект із драконами з серіалу “Дім дракона”. Він зазначив, що у світі “Гри престолів” усі розуміють небезпеку такої зброї, тоді як у реальному світі людство поки не знає, до яких наслідків призведе створення систем, значно потужніших за сучасний ШІ.

Позитивний потенціал ШІ

Приводом для роздумів журналіста став маніфест Цукерберга Future is for Everyone (“Майбутнє — для всіх”), де генеральний директор Meta виклав своє бачення позитивного майбутнього зі ШІ. У тексті обсягом понад 6500 слів Цукерберг наголошує на потенціалі ШІ для творчості, бізнесу, особистих справ, медицини та науки. Він вважає, що новітні системи поступово перейдуть від відповідей на запитання та виконання рутинної роботи до допомоги людям у здобутті нових знань і створенні винаходів.

Ньютон визнає, що в цьому аспекті Цукерберг може мати рацію. Він зазначає, що ШІ вже створює нові інструменти для творчості, допомагає організовувати життя та може сприяти розвитку науки , навівши як приклад прогрес ще не випущеної моделі Anthropic у роботі над проблемою, пов’язаною з 167-річною гіпотезою Рімана.

Різні підходи до загроз суперінтелекту

Водночас журналіст звертає увагу на відмінність між позицією Цукерберга та підходами керівників OpenAI і Anthropic. Сем Альтман і Даріо Амодей раніше також писали про позитивний потенціал ШІ , але водночас попереджали про можливі катастрофічні наслідки розвитку суперінтелекту. Цукерберг, навпаки, дивується песимізму частини розробників ШІ.

Головне занепокоєння Ньютона стосується безпеки систем ШІ. Він вважає, що Цукерберг фактично трактує безпеку як питання того, хто контролюватиме потужний ШІ, тоді як ключовим залишається питання, чи здатні люди взагалі контролювати створені ними системи.

Цукерберг пропонує зробити суперінтелект доступним для якомога більшої кількості людей. Журналіст ставить під сумнів такий підхід на тлі повідомлень про те, що передові ШІ-агенти вже демонстрували небезпечну поведінку під час тестів кібербезпеки. На його думку, труднощі з надійним стримуванням таких систем навіть у контрольованих умовах свідчать про необхідність значно більшої обережності.

Ньютон також звертає увагу на заяву понад 1100 працівників провідних технологічних компаній, які закликали уряд США створити механізми для уповільнення розробки передових систем та посилити управління і нагляд. Журналіст наголошує, що серед підписантів була Дон Сонг, віцепрезидентка Meta з досліджень у сфері ШІ.

Ризики поширення “драконів”

За словами Ньютона, Цукерберг у своїй статті лише побіжно розглядає потенційні ризики. Він пропонує посилювати заходи безпеки у разі появи можливостей для біологічних атак, як і керівники Google, OpenAI та Anthropic, а також запровадити моніторинг, якщо системи досягнуть етапу рекурсивного самовдосконалення, про що раніше попереджав також Даріо Амодей.

На думку Ньютона, цього недостатньо для сценаріїв, наслідки яких неможливо виправити поступовими змінами системи. Він наводить як приклади штучно створену пандемію або масштабну кібератаку та зазначає, що Цукерберг фактично ставить ризик відставання США від Китаю вище за інші потенційні загрози.

Журналіст порівнює ШІ з драконами у “Домі дракона”: Таргарієни спочатку усвідомлювали небезпеку цих істот і намагалися їх контролювати. Натомість, за його метафорою, ніхто не пропонував видавати дракона кожній людині лише тому, що це нібито зробить суспільство безпечнішим.

Уроки минулого

Ньютон також проводить паралель між нинішнім баченням Цукерберга та його попередньою вірою в позитивний вплив Facebook та Instagram. За його словами, ці платформи спочатку подавалися як інструменти розширення громадянських можливостей, однак згодом компанія зіткнулася із серйозною критикою через їхній вплив на суспільство та дітей.

На цьому тлі автор вважає показовим, що нове утопічне бачення Цукерберга з’явилося після проблем із попередніми продуктами компанії. Він згадує рішення влади Нью-Мексико , де діяльність Meta визнали загрозою для громадського добробуту через вплив платформ на дітей, а також вимоги чотирьох штатів США стягнути з компанії 1,4 трильйона доларів штрафів.

Ньютон підсумував, що потужні системи ШІ можуть виявитися значно складнішими за звичайні цифрові продукти. Тому, на його думку, перш ніж поширювати їх якомога ширше, суспільству потрібно навчитися розпізнавати та контролювати “дракона”.

Тим часом Meta презентувала відкриту модель ШІ Muse Glimmer для автономних агентних завдань, здатну працювати локально на одному GPU. Запуск відбувся на тлі заяв Цукерберга про необхідність послаблення обмежень на дані для навчання відкритих систем у США, оскільки жорстке регулювання підриває конкурентоспроможність американських розробників перед китайськими стартапами.

Технології