Київ
вологість:
тиск:
вітер:
Погода на 10 днів від
sinoptik.ua
Звільнення через страх апокаліпсису: що дізнався науковець у таємних лабораторіях ШІ
«Ми будуємо те, що не зможемо втримати» або чому провідні дослідники тікають із лабораторій штучного інтелекту.
Гучний вихід Джейкоба Коксона — дослідника з безпеки, який працював спочатку в OpenAI, а потім в Anthropic — став черговим тривожним сигналом для всієї індустрії. Його заява проста й водночас лякаюча: найбільші технологічні компанії беруть участь у неконтрольованій гонці зі створення самовдосконалюваних систем, не маючи жодних надійних механізмів їх стримування.
Від OpenAI до Anthropic: ілюзія «безпечних» лабораторій
Іронія ситуації полягає у самій історії життя Коксона. Стартап Anthropic у 2021 році заснували колишні топменеджери OpenAI саме через розбіжності з Семом Альтманом щодо питань безпеки. Вони позиціонували свою компанію як «лабораторію з підвищеною відповідальністю», де етика та контроль передують комерції.
Проте, як показує приклад Коксона (а до нього — й інших ключових науковців, таких як Ян Лейке чи Ілля Суцкевер, які раніше залишили свої посади), ринковий тиск виявився сильнішим за благі наміри.
Усі ключові гравці потрапили в класичну «дилему в'язня». Жодна лабораторія не може дозволити собі зупинитися чи уповільнити дослідження, адже її миттєво обженуть конкуренти. У результаті безпека з фундаментальної умови перетворюється на формальність.
Прогноз до кінця десятиліття: точка неповернення
Коксон застерігає: системи, здатні перевершити людський інтелект та автономно переписати власний код, можуть з'явитися вже до кінця 2020-х років.
Аналітики та розробники виділяють три послідовні етапи, які розділяють нас від потенційної катастрофи:
Чому внутрішнє саморегулювання більше не працює?
Приклад Джейкоба Коксона наочно демонструє: сподіватися на те, що IT-гіганти самі себе обмежать — марна ілюзія. Коли на кону стоять трильйонні капіталізації та контроль над глобальною інфраструктурою, етичні комітети всередині корпорацій не мають реального права вето.
Зараз світ підходить до межі, коли питання штучного інтелекту має вийти з площини приватного бізнесу у площину міжнародної безпеки — на рівень мораторіїв, жорсткого державного аудиту суперкомп'ютерних кластерів та створення незалежних наглядових органів, аналогічних МАГАТЕ у ядерній сфері.
Якщо творці технології самі починають з неї тікати — це означає лише одне: часу на роздуми майже не залишилося.
Завантажуєм курси валют від minfin.com.ua
Новини рубріки
У Харкові директора фірми підозрюють у привласненні понад 1,3 млн грн на ремонті
10 вересня 2026 р. 16:16
На Харківщині громаду бомбардували девʼятьми КАБами: знищені вісім будинків
10 вересня 2026 р. 16:16
У Харкові військовий побив неповнолітню банкою енергетика: суд призначив йому 7 років
10 вересня 2026 р. 16:16