Керівник Anthropic закликав уповільнити темпи розвитку ШІ: Маск та Альтман його підтримали

12 вересня 2026 р. 23:51

12 вересня 2026 р. 23:51

Генеральний директор Anthropic Даріо Амодей заявив про необхідність уповільнити розвиток найпотужніших систем штучного інтелекту через ризики для людства . Керівники xAI Ілон Маск та OpenAI Сем Альтман підтримали його заклик, пише Bloomberg.

Генеральний директор Anthropic опублікував у суботу допис у блозі, в якому зазначив, що його компанія запровадить нові заходи безпеки, такі як залучення незалежних експертів, та закликав галузь підтримати більш масштабне уповільнення темпів розвитку ШІ.

Амодей назвав два основні фактори, що зумовили його новий заклик: здатність ШІ до самовдосконалення та нещодавній інцидент за участю OpenAI та Hugging Face, коли ціла група ШІ-агентів об’єдналася, щоб зламати сторонній веб-сайт.

«Ми мусимо уповільнити темпи вдосконалення можливостей моделей ШІ. Прогрес і надалі здаватиметься швидким, і ми маємо розумно використовувати час, який ми виграємо», — написав він.

Але він також зазначив, що будь-яке уповільнення має бути збалансоване з реаліями конкуренції.

«Щоб було зрозуміло: регулювання темпів не означає зупинку навчання моделей чи технічного прогресу, а забезпечення того, щоб компанії мали достатньо часу для налагодження та захисту своїх моделей, а незалежні експерти — для підтвердження цього», — написав Амодей.

Після його заклику керівник OpenAI Сем Альтман пообіцяв прийняти пропозицію Амодей щодо «незалежних експертів з доступом, аналогічним до доступу співробітників», а Ілон Маск, який керує xAI Corp., написав: «Даріо має рацію».

Хоча всі троє лідерів, як зауважують журналісти, протягом багатьох років попереджали про ризики ШІ, фактичне скоординоване уповільнення розвитку практично не має прецедентів у цій галузі, яка випускала один продукт задля підвищення залученості користувачів, захоплення частки ринку та прагнення до зростання продажів.

Однак занепокоєння щодо серйозних ризиків, пов’язаних зі штучним інтелектом, почало виходити на перший план, частково завдяки гучному звільненю цього тижня дослідника компанії Anthropic, спричиненій екзистенційними побоюваннями, що його компанія діє безвідповідально.

Водночас видання зауважує, що наразі залишається незрозуміло, наскільки далеко провідні компанії у сфері ШІ — які самі є запеклими конкурентами, а також стикаються з жорсткою конкуренцією з боку китайських фірм — зайдуть у запровадженні нових обмежень або заходів безпеки.

Також незрозуміло, чи дозволять антимонопольні органи компаніям регулювати темпи розвитку якимось скоординованим чином, а інвестори, які прагнуть отримати маржу та прибуток, відреагують на ідею уповільнення.

Протягом усього буму ШІ керівники провідних лабораторій у цій галузі попереджали про потенційні екзистенційні ризики — ці твердження іноді відкидали як спроби просування можливостей своїх продуктів та позиціонування себе як найкращих розпорядників цієї технології. Сам Амодей раніше заявляв, що ймовірність того, що все піде «дуже, дуже погано», становить 25%.

Компанія Anthropic вже давно позиціонує себе як організацію, що зосереджується на розробці штучного інтелекту більш відповідально та безпечно, щоб мінімізувати потенційні небезпеки цієї технології та максимізувати суспільні вигоди. На початку цього року компанія доклала значних зусиль, щоб обмежити випуск своєї моделі Mythos після того, як встановила, що вона становить особливі загрози для кібербезпеки. Раніше Anthropic також заявляла, що світові потрібна система, яка б дозволяла колективно вирішувати, коли слід уповільнити роботу над цією технологією.

Водночас Anthropic продовжує вести конкурентну боротьбу зі OpenAI за створення дедалі досконаліших моделей, здатних автоматизувати більш складні та цінні завдання для бізнес-клієнтів. Обидві компанії подали документи для виходу на біржу, причому очікується, що Anthropic дебютує на Волл-стріт вже цього року.

Політика