Автор теорії екзистенційної загрози ШІ пояснив, чому тепер вивчає наслідки успіху технології

02 жовтня 2026 р. 15:36

02 жовтня 2026 р. 15:36

Шведський філософ Нік Бостром, який понад десять років попереджав про катастрофічні наслідки розвитку штучного інтелекту, змінив фокус своїх досліджень. Тепер його цікавить не лише можливість катастрофи, а й те, що станеться, якщо суперінтелект справді принесе людству небачений успіх . Про це Бостром розповів у подкасті The New York Times.

Бостром здобув популярність завдяки прогнозам про потенційно катастрофічні наслідки розвитку ШІ. Його побоювання свого часу підтримали, зокрема, американський мільярдер Ілон Маск, генеральний директор OpenAI Сем Альтман і засновник Microsoft Білл Гейтс.

Тепер дослідник зосереджується на іншому питанні: що станеться, якщо розвиток ШІ перевершить найсміливіші очікування людства. Серед можливих проблем він розглядає навіть такі сценарії, як втрата сенсу життя через надмірний добробут або нездатність людей адаптуватися до світу, який радикально змінився завдяки суперінтелекту.

Ведучий Спенсер Клаван запитав Бострома про його оцінку ймовірності катастрофи, яку в дискусіях про ШІ позначають як P(doom). Він згадав дослідника Anthropic, який нещодавно оцінив цей показник приблизно у 10% або навіть вище, та поцікавився, чи погоджується Бостром із такою оцінкою.

«Не думаю, що мій погляд кардинально змінився. Скоріше, це світ змінився», — відповів Бостром.

За словами філософа, коли у 2008 році він почав працювати над своєю першою книжкою «Суперінтелект. Стратегії і небезпеки розвитку розумних машин», ставлення до цієї теми було зовсім іншим. Тоді багато людей вважали машинний суперінтелект науковою фантастикою, а над можливими викликами після створення потужних форм машинного інтелекту замислювалися лише одиниці.

Раніше Бостром вважав своїм головним завданням привернути увагу до потенційних проблем і використати час для підготовки, зокрема дослідження узгодженості ШІ з людськими цілями. За словами філософа, нині ситуація змінилася, а можливість появи суперінтелекту стала загальноприйнятою частиною дискусії про майбутнє ШІ . Тому він вирішив не зосереджуватися лише на ризиках і розглянути інший бік питання — що відбудеться, якщо розвиток технології піде успішно.

«Навіть найкращий сценарій має свої філософськи проблемні сторони», — зазначив Бостром.

Окремо Клаван запитав, звідки беруться конкретні оцінки P(doom), адже різні дослідники називають показники від 10% до 70%. Бостром відповів: «Ці показники покликані відобразити суб’єктивний ступінь невизначеності та впевненості. Неможливо обчислити це число на основі узгодженого набору припущень, що й підтверджується тим фактом, що різні люди називають дуже різні цифри».

Водночас філософ наголосив, що перехід до ери машинного суперінтелекту може супроводжуватися реальними ризиками, зокрема екзистенційними. Він вважає, що до них необхідно ставитися серйозно, хоча його власне ставлення до майбутнього залишається неоднозначним.

«Якщо ж говорити про якісну оцінку, то я б назвав себе “тривожним оптимістом”», — наголосив Бостром.

Клаван уточнив, чи вважає філософ реальним ризик того, що «все піде шкереберть», попри віру у «відкритий фінал». Бостром це підтвердив, зазначивши, що його  «дуже надихають перспективи» й він сподівається на успіх, однак побоюється, що досягти мети може не вдатися.

Раніше керівники провідних ШІ-лабораторій — зокрема Даріо Амодей з Anthropic, Сем Альтман та Ілон Маск — закликали всю індустрію пригальмувати неконтрольовану гонку зі створення надрозумних систем. На цьому тлі Білл Гейтс заявив про безпрецедентну небезпеку використання передових технологій ШІ зловмисниками, попередивши, що кібератаки на енергомережі, фінансові системи та лікарні за допомогою ШІ потенційно здатні спричинити масштабні катастрофи з мільярдом жертв.

Політика