Anthropic створює систему для перевірки справжності ШІ-моделей

Категорії

Світ Економіка Війна Технології Наука Авто Спорт Здоров'я Шоу-Бізнес Пізнавально Політика

Вінницькі Волинські Дніпровські Донецькі Житомирські Закарпатські Запорізькі Івано-Франківські Київські Кропивницькі Кримські Луганські Львівські Миколаївські Одеські Полтавські Рівненські Сумські Тернопільські Харківські Херсонські Хмельницькі Черкаські Чернігівські Чернівецькі

Погода

Київ

вологість:

тиск:

вітер:

Погода на 10 днів від sinoptik.ua

Anthropic створює систему для перевірки справжності ШІ-моделей

05 листопада 2026 р. 01:04

05 листопада 2026 р. 01:04

Anthropic представила FlashProve — систему, яка дозволяє перевірити, чи справді відповідь користувачу надала заявлена модель штучного інтелекту.

Про це повідомили в компанії.

Технологія використовує криптографію, щоб запобігти непомітній підміні моделей, зокрема дешевшими версіями.

Як працює FlashProve

Сьогодні користувачі ШІ-сервісів не можуть достовірно перевірити, яка саме модель відповідає на їхні запити. Наприклад, компанія може непомітно замінити дорожчу модель дешевшою, щоб зменшити витрати. Визначити таку підміну лише за якістю відповіді складно.

FlashProve має розвʼязати цю проблему за допомогою криптографічного підтвердження. Для цього розробник ШІ публікує своєрідний цифровий відбиток моделі, який відповідає конкретному набору її параметрів.

Коли користувач надсилає запит, система може створити математичний доказ того, що відповідь згенерувала саме ця модель. Перевірити його можна без доступу до внутрішніх параметрів ШІ.

Anthropic представила інструменти, які дозволяють компаніям бачити, що саме вони отримують за свої витрати на ШІ

Загалом Anthropic розглядає кілька можливих сценаріїв використання FlashProve. Зокрема, система дозволить клієнтам перевіряти, чи отримують вони відповіді від моделі, за яку заплатили. Технологія також може допомогти виявляти випадки, коли зловмисники підміняють відповіді ШІ або коли розробники використовують інші моделі замість заявлених.

Ще один напрям — перевірка роботи, яку нібито виконав штучний інтелект. Наприклад, розробник програмного забезпечення зможе підтвердити, що його код справді перевірила на вразливості конкретна ШІ-модель.

Крім цього, FlashProve потенційно може допомогти незалежним дослідникам і регуляторам перевіряти, які моделі використовують компанії.

Також за темою

Apple готує найбільше оновлення iOS 27

Сьогодні 23:33

202

Партнерська 35 років стабільності. До 17% річних для ваших коштів: ПУМБ запускає «Дохідний ПЛЮС»

01.10 16:55

18968

Rivian відкликає майже 99 тис. електромобілів у США: що сталося

Сьогодні 13:17

230

Porsche готує 15 ексклюзивних суперкарів вартістю до $15 млн