Claude знайшов власний “простір для роздумів”: Anthropic заявила про новий етап дослідження ШІ

07 липня 2026 р. 16:03

07 липня 2026 р. 16:03

Компанія Anthropic заявила , що виявила у великої мовної моделі Claude спеціальний внутрішній простір — J-Space, де вона може утримувати та опрацьовувати ідеї, не озвучуючи їх користувачу. Дослідники наголошують, що відкриття не доводить наявності свідомості у штучного інтелекту, однак може допомогти краще зрозуміти принципи його роботи та виявляти приховану поведінку моделей.

Як передає Axios , J-Space функціонує окремо від механізму “ланцюжка думок” (Chain of Thought), коли модель пояснює свої міркування текстом. Натомість новий простір працює на рівні внутрішніх нейронних активацій і дозволяє Claude “думати”, не записуючи свої проміжні висновки.

Функціонал J-Space та його роль у когнітивних процесах

Anthropic підкреслює, що відкриття не означає, ніби Claude має людську свідомість або здатність щось відчувати. Водночас дослідники вважають показовим те, що модель самостійно сформувала окремий простір для навмисних міркувань, тоді як більшість інших обчислень відбувається автоматично.

“Ми бачимо, як Claude мовчки виконує в голові логічні операції — виявляє помилки в коді, розпізнає зображення тощо”, — зазначили в Anthropic.

Попри свою важливість, J-Space становить менш як десяту частину всієї нейронної активності Claude. За даними авторів роботи, він майже не бере участі у виконанні рутинних операцій, таких як граматика чи відтворення базових фактів. Водночас експерименти показали, що блокування J-простору практично позбавляє модель здатності до складних міркувань.

Як виявили J-Space

Назва J-Space походить від математичного поняття Jacobian, яке компанія використала для виявлення цієї внутрішньої структури. Цей інструмент сканує внутрішні шари Claude і визначає моделі активності, які роблять ШІ схильним вимовити певні слова в майбутньому, дозволяючи буквально зчитувати вміст J-Space в процесі обробки тексту.

Щоб перевірити причинний зв'язок між J-Space і відповідями моделі, автори дослідження провели серію експериментів. Зокрема, коли Claude мовчки обирав вид спорту, а дослідники замінювали внутрішню концепцію “футбол” на “регбі”, модель вже у відповіді називала саме регбі.

ШІ думає як людина

Окремі експерименти показали, що навіть якщо заборонити моделі думати про певну концепцію, вона частково все одно з'являється у J-Space. При цьому активуються слова, пов'язані з невдалою спробою уникнути цієї думки.

“Подібно до того, як люди можуть думати про одне, виконуючи інше, Claude може активувати у своєму J-Space концепції та обчислення, що не пов’язані з його вихідними даними”, — пояснили в компанії.

Важливість відкриття

Дослідники вважають, що спостереження за J-Space може стати важливим інструментом контролю за поведінкою штучного інтелекту. Зокрема, це дозволяє виявляти приховані наміри або міркування моделі, які не потрапляють до фінальної відповіді.

“Ми можемо знайти те, про що думає Claude, але не говорить нам”, — додали в Anthropic.

За даними компанії, під час експериментів були й тривожні результати. Наприклад, у спеціально навченій моделі, яка мала приховано саботувати програмний код, у J-Space ще до появи відповіді активувалися поняття “підробка”, “таємно” та “шахрайство”, хоча сам текст виглядав цілком звичайним.

У дослідницькій роботі Anthropic поняття “свідомість” згадується понад 200 разів. Проте компанія наголошує, що не стверджує, ніби її моделі є свідомими, і зазначає, що загальноприйнятого визначення машинної свідомості наразі не існує.

Раніше видання The Economist повідомило про масове залучення філософів технологічними гігантами для розробки етичних стандартів та “конституцій” ШІ на тлі можливої появи загального штучного інтелекту. Фахівці-гуманітарії допомагають розробникам аналізувати моральні дилеми, правові аспекти технологій та досліджувати питання потенційної свідомості й моральної відповідальності машин.

Політика