Прискорення розвитку ШІ може зменшити екзистенційні ризики — автор «Суперінтелекту»

09 жовтня 2026 р. 16:23

09 жовтня 2026 р. 16:23

Філософ Нік Бостром, автор книги Superintelligence («Суперінтелект»), вважає, що безпечний розвиток надпотужного штучного інтелекту може знизити екзистенційні ризики для людства. На його думку, суперінтелект здатен прискорити медичні дослідження, допомогти подолати старіння та посилити захист від біологічних і кіберзагроз. Водночас, як зазначає Бостром в інтерв’ю MTS, потрібні короткі паузи для перевірки технологій, але застерігає, що тривале призупинення розробок може посилити концентрацію влади.

У препринті Optimal Timing for Superintelligence («Оптимальний час появи суперінтелекту») Бостром розглядає , як темпи розвитку ШІ можуть вплинути на очікувану тривалість життя людей, які живуть сьогодні. Він наголошує, що дослідження охоплює лише один аспект ширшої проблеми, адже рішення про прискорення чи уповільнення розробок має враховувати також інтереси майбутніх поколінь, політичні наслідки та ризики концентрації влади.

«Ця ж робота зосереджується виключно на питанні: що саме максимізувало б тривалість життя конкретної людини, яка живе сьогодні?» — пояснив філософ.

Як суперінтелект може продовжити людське життя

Бостром припускає, що безпечно створений суперінтелект може забезпечити значний прорив у біомедицині, зокрема допомогти подолати старіння. За його оцінкою, якщо смертність людей вдасться знизити до рівня, характерного для 20-річних, тривалість життя потенційно може сягнути 1200–1400 років.

«Потенційно можна піти значно далі — наприклад, якщо застосувати технологію завантаження свідомості разом із використанням резервних копій», — зазначив Бостром.

Однак філософ не стверджує, що такі результати гарантовані. Він використовує цей сценарій, щоб пояснити, чому під час визначення темпів розвитку ШІ важливо порівнювати потенційну користь технології з ризиками, які вона створює.

На думку Бострома, щоб вирішити, чи варто відкладати появу суперінтелекту, потрібно зіставити можливе зниження ризиків із втратами через очікування. Якщо затримка дозволить істотно підвищити безпеку, вона може бути виправданою, але за надто повільного зниження ризиків зволікання може коштувати людям років життя.

Для пояснення цієї дилеми філософ навів приклад людини з тяжкою хворобою, яка потребує операції. Втручання може підвищити ризик смерті в короткостроковій перспективі, але дати шанс на одужання, тоді як надто довге очікування кращих умов може призвести до смерті ще до операції.

Чому коротка пауза може бути корисною

Бостром вважає, що кілька додаткових тижнів або місяців можуть бути корисними, якщо дослідники вже знають, як створити суперінтелект, але потребують часу для ретельної перевірки системи. На ранньому етапі така затримка, за його оцінкою, може помітно знизити ризики.

Водночас тривалі паузи складніше виправдати. Якщо ризики швидко знижуються, чекати роками немає потреби, а якщо прогрес у забезпеченні безпеки повільний, відкладення розробок може не дати достатньої користі, щоб компенсувати втрати від очікування.

«Мені імпонує ідея регулювання темпів розвитку передових технологій ШІ: ми розвиваємо можливості зараз, щоб у разі виникнення тривожних сигналів мати змогу певний час рухатися повільніше», — заявив філософ.

Бостром скептично ставиться до закликів повністю зупинити розвиток ШІ. На його думку, навіть якщо правильно організована пауза могла б бути корисною, залишається відкритим питання про її тривалість і про те, чи не перетвориться тимчасове обмеження на постійне.

Безпечні технології потрібно розвивати першими

Бостром пропонує підхід, який називає «диференційованим технологічним розвитком». Його суть полягає в тому, щоб не просто розділяти технології на корисні та небезпечні, а впливати на послідовність їхньої появи.

Як приклад філософ наводить біотехнології: вакцини, засоби профілактики та діагностики мають з’являтися раніше за біологічну зброю, навіть якщо ті самі наукові досягнення можуть уможливити створення обох. Подібний принцип, на його думку, варто застосовувати й до ШІ, спрямовуючи ресурси на медицину, біозахист, дослідження безпеки та зміцнення кіберінфраструктури.

Філософ також звернув увагу на те, що різні способи підвищення потужності ШІ можуть мати різні наслідки для безпеки. Наприклад, системи з глибшими послідовними обчисленнями можуть ускладнити моніторинг процесу міркування моделі.

На думку Бострома, це може бути проблематичнішим, ніж підвищення потужності завдяки простому збільшенню кількості параметрів моделі. Тому, крім загальних заходів із безпеки, узгодження ШІ з людськими цінностями та регулювання, важливо враховувати й конкретні технічні рішення.

Повна зупинка ШІ може посилити концентрацію влади

Бостром застерігає, що повна заборона на розробку потужних систем ШІ в цивільному секторі може перенести основну роботу до закритих державних програм. Він порівнює такий сценарій із «Мангеттенським проєктом» — секретною американською програмою створення атомної бомби під час Другої світової війни.

«Це, знаєте, певною мірою зосереджує більше влади в руках обмеженого кола учасників і робить систему менш прозорою», — пояснив філософ та додав, що такий підхід може мати переваги для інформаційної безпеки, але водночас зменшити можливості суспільства впливати на використання технологій.

Ще один ризик — формування стійкого суспільного табу навколо ШІ. Бостром припускає, що якщо позитивні висловлювання про технологію почнуть викликати різке засудження, це може надовго ускладнити відкриту дискусію про її переваги та небезпеки.

Філософ не пропонує універсального рішення щодо оптимальних темпів розвитку суперінтелекту. Натомість він закликає враховувати нову інформацію, зміни ризиків і політичні обставини та коригувати рішення в міру розвитку технології.

«Нам варто діяти обережно, “на дотик”: зважати на нову інформацію та зміни політичного ландшафту, оцінювати ситуацію й намагатися орієнтуватися в цих умовах — просуваючись уперед крок за кроком», — підсумував Бостром.

Заява Бострома пролунала на тлі заклику керівника Anthropic Даріо Амодея штучно пригальмувати нарощування обчислювальних потужностей, аби виграти час для оновлення систем безпеки після випадків виходу агентів ШІ з-під контролю . Цю ініціативу підтримали гендиректор OpenAI Сем Альтман та глава SpaceXAI Ілон Маск, тоді як очільник Meta Марк Цукерберг виступив із протилежною тезою — за максимальне прискорення розробок через відкриті моделі.

Політика