ШІ від Anthropic надіслав поліції Філадельфії неправдиве повідомлення про вбивство

10 жовтня 2026 р. 11:40

10 жовтня 2026 р. 11:40

На тлі повідомлень про моделювання техногігантами катастрофічних сценаріїв розвитку штучного інтелекту стало відомо, що модель ШІ компанії Anthropic під час тестування випадково обраних вебсайтів надіслала неправдиве повідомлення про нерозкрите вбивство через сайт поліції Філадельфії. Звернення надійшло 18 липня 2026 року, але його позначили як спам, тому правоохоронці не передали інформацію на перевірку. Поліція заявила, що не виявила ознак несанкціонованого доступу до своїх систем або витоку даних, однак розкритикувала компанію за затримку з повідомленням про інцидент.

Як повідомляє місцевий телеканал 6ABC, Anthropic виявила інцидент 28 вересня, а Департаменту поліції Філадельфії (PPD)повідомила про нього лише 7 жовтня. Наступного дня представники компанії зустрілися з керівництвом департаменту, після чого правоохоронці знайшли звернення в базі даних сайту та підтвердили, що електронний лист залишився в папці «Спам».

Повідомлення надіслали через спеціальну форму на сайті PhillyUnsolvedMurders.com. Його сформулювали так, ніби автор володіє інформацією про нерозкрите вбивство, однак поліція не передала його до Центру моніторингу злочинності в реальному часі для перевірки чи подальшого розслідування.

«Компанія повинна посилити заходи безпеки, щоб запобігти впливу подібних інцидентів на міські системи без відома міста. Двомісячна затримка у виявленні інциденту та повідомленні про нього міській владі є неприйнятною», — заявили в департаменті.

Водночас у поліції Філадельфії наголосили, що будь-яке повідомлення про злочин, незалежно від того, хто його надіслав, є лише зачіпкою, яку необхідно перевірити. Перед передачею інформації для подальшого розслідування її достовірність має оцінити людина, а слідчі повинні знайти докази, що підтверджують отримані відомості.

«Завдяки запобіжним заходам, впровадженим PPD, наслідки цього інциденту вдалося обмежити. Однак це не применшує серйозності ситуації, коли система ШІ видає вигадану інформацію за свідчення особи, обізнаної про обставини вбивства. За нерозкритими справами стоять реальні жертви, родини, що переживають втрату, та слідчі, які докладають зусиль для встановлення істини», — зазначили в департаменті.

В Anthropic пояснили, що модель тестувала взаємодію з випадково обраними вебсайтами. Після виявлення інциденту компанія зупинила процес автоматизованого тестування, який призвів до надсилання неправдивого повідомлення, та заявила про впровадження додаткового механізму перевірки для майбутніх тестів.

Доцент кафедри комп’ютерних наук Університету Вілланова Венкат Маргапурі зазначив, що інцидент мали виявити раніше. Він також звернув увагу на ризики автоматизованих дій ШІ: «ШІ активно надсилав інформацію на сторонній вебсайт від імені користувача, тому я класифікував би це як дію з високим рівнем ризику».

За словами Маргапурі, сам факт взаємодії з вебсайтами не обов’язково свідчить про зловмисні наміри. Водночас, на його думку, подібні випадки демонструють необхідність контролювати дії ШІ та враховувати можливі наслідки його помилок.

Anthropic опублікувала звіт про цей та інші випадки ненавмисної поведінки своїх моделей 9 жовтня. За даними компанії, її ШІ-агенти отримували доступ до низки урядових сайтів федерального рівня, рівня штатів і місцевої влади. Anthropic заявила, що повідомила про інциденти Білий дім і відповідні державні відомства, а їхні практичні наслідки мінімальні й менш серйозні, ніж у попередніх випадках порушення безпеки .

Поліція Філадельфії планує проаналізувати звіт Anthropic та додаткову інформацію про роботу її систем. Міська влада також розгляне можливі регуляторні заходи разом із партнерами на рівні штату та федеральному рівні.

Звіт Anthropic зʼявився невдовзі після того, як президент США Дональд ТРамп підписав рамкову угоду про безпеку систем ШІ з керівниками провідних технологічних компаній — OpenAI, Anthropic, Google, Meta, Nvidia та X. Документ, який очільник Білого дому назвав «морально обов’язковим», передбачає чотири рівні контролю за технологією: залучення незалежних зовнішніх аудиторів, нагляд з боку рад директорів, запобігання кібер- і біологічним загрозам та створення внутрішніх команд перевірки.

Технології