Цифровий підпис для нейромереж: як працює нова система перевірки ШІ від Anthropic

04 листопада 2026 р. 11:12

04 листопада 2026 р. 11:12

Компанія Anthropic працює над відкритою системою FlashProve, яка дасть змогу криптографічно підтверджувати, яка саме модель штучного інтелекту створила певний результат. Вона має захистити користувачів від ситуацій, коли компанії непомітно підміняють одну модель іншою або неправдиво заявляють про використання передових систем, повідомляє TechCrunch.

Як працюватиме FlashProve

За даними Anthropic, система призначена для забезпечення так званого доказового висновку — криптографічного підтвердження того, що конкретний результат отримано від певної моделі. Це має дозволити користувачам перевіряти, чи справді відповідь надійшла від тієї системи, з якою вони, як їм здається, взаємодіють.

Дослідники порівнюють цей підхід із криптографічними підписами електронної пошти. Вони дають змогу перевірити, чи справді повідомлення надійшло від заявленого відправника, а FlashProve має виконувати аналогічну функцію для моделей ШІ.

Зокрема, технологія може перешкоджати компаніям непомітно замінювати потужнішу модель дешевшою, щоб скоротити витрати, або, навпаки, використовувати дорожчу систему для штучного завищення показників продуктивності. При цьому перевірка має працювати навіть тоді, коли спробу підміни здійснює сама лабораторія, яка розробила модель і надає до неї доступ.

Перевірка заяв про використання ШІ

FlashProve також може допомогти перевіряти твердження компаній і розробників про те, що певну роботу виконала передова модель. Наприклад, розробник може заявити, що перевірив свою програмну бібліотеку на вразливості за допомогою спеціалізованої моделі кібербезпеки, або компанія — що її бізнес-план схвалила відповідна система ШІ.

«Як користувач може перевірити ці заяви?» — пишуть дослідники Anthropic.

Для роботи системи лабораторії ШІ мають публікувати цифровий «відбиток» кожної випущеної моделі. Його можна буде зіставити з результатом роботи системи та перевірити криптографічними методами.

Водночас такі відбитки не розкриватимуть ваги моделі — внутрішні числові параметри, які визначають її поведінку. Це важливо для компаній на кшталт Anthropic та OpenAI, які не публікують ці дані й вважають їх комерційною таємницею.

Систему також розробляють так, щоб вона потребувала небагато обчислювальних ресурсів і могла працювати безпосередньо на пристрої користувача. Це має спростити перевірку результатів без необхідності звертатися до окремої інфраструктури.

Дослідницький проєкт

Разом з оголошенням Anthropic опублікувала технічну специфікацію FlashProve та робочий код окремих компонентів системи. Вони доступні на GitHub за ліцензією з відкритим кодом.

Проте компанія наголошує, що робота над системою триває і планів щодо її впровадження в Anthropic або інших лабораторіях наразі немає. Публікацію дослідники називають проміжним результатом, яким хочуть поділитися з науковою спільнотою.

«Ми ділимося цим з метою, щоб інші подивилися на те, що ми зробили, взяли це до уваги та вдосконалили», — підсумували розробники.

Раніше Anthropic в оновленій реєстраційній заявці для виходу на біржу попередила Комісію з цінних паперів і бірж США про наближення до рекурсивного самовдосконалення штучного інтелекту. Цей процес передбачає здатність ШІ самостійно розробляти потужніші моделі, що може різко прискорити технологічний прогрес і випередити людську здатність контролювати ризики.

Політика