Листування зі ШІ закінчилося арештом: жінка погрожувала стріляниною

10 жовтня 2026 р. 05:55

10 жовтня 2026 р. 05:55

У штаті Флорида, США, затримали Карлі Мішель Геллер після того, як вона написала чат-боту на основі штучного інтелекту про намір влаштувати стрілянину в офісі шерифа. Системи безпеки компанії Anthropic позначили повідомлення для перевірки, а після оцінки працівниками компанія передала інформацію поліції. Про це повідомляє «Главком» із посиланням на Futurism .

За даними слідства, наприкінці вересня Геллер написала в чаті, що збирається влаштувати стрілянину в офісі шерифа округу Лі. Наступного дня вона надіслала нове повідомлення, у якому заявила, що придбала вогнепальну зброю. Ці записи викликали підозру в системи безпеки сервісу.

Спочатку автоматизовані механізми компанії позначили листування для перевірки. Після цього його переглянув працівник Anthropic, який оцінив повідомлення як потенційно реальну загрозу. Компанія передала інформацію правоохоронцям, які встановили особу авторки повідомлень.

Поліцейські затримали Геллер у її будинку в місті Боніта-Спрінгс. За даними місцевих ЗМІ, затримання відбулося без опору. Жінці висунули обвинувачення у письмовій погрозі насильством – у Флориді це тяжкий злочин другого ступеня. Судове засідання у її справі призначили на листопад. Висунуте обвинувачення ще не є доказом вини.

Чому листування потрапило до поліції

Як повідомляють американські медіа, Геллер використовувала чат-бот як особистий щоденник. Вона ділилася з ним думками й, схоже, не очікувала, що повідомлення можуть переглянути співробітники компанії.

Шериф округу Лі Кармін Марчено наголосив, що погрози, висловлені за допомогою технологій штучного інтелекту, правоохоронці сприймають серйозно.

«Штучний інтелект – це потужний інструмент, і, як і будь-яка технологія, він може бути використаний не за призначенням», – заявив Марчено.

Він також застеріг, що користувачі цифрових сервісів не повинні вважати спілкування з ШІ цілком анонімним.

Випадок порушив питання про межі приватності під час спілкування з чат-ботами. Користувач може сприймати діалог як розмову віч-на-віч або особистий записник, однак повідомлення обробляються цифровим сервісом і за певних обставин можуть бути передані іншим людям.

Політика Anthropic передбачає можливість розкриття інформації правоохоронним органам в окремих надзвичайних ситуаціях, зокрема коли компанія вважає це необхідним для запобігання смерті чи серйозній фізичній шкоді. У випадку з Геллер компанія не обмежилася внутрішньою перевіркою повідомлень, а звернулася до поліції.

Подібні випадки вже ставали предметом розслідувань

Це не перший випадок, коли листування з чат-ботом привертає увагу правоохоронців через можливу загрозу насильства. У США вже обговорювали ситуації, коли повідомлення користувачів сервісів штучного інтелекту ставали частиною кримінальних розслідувань.

Як раніше писав «Главком», розмови з ChatGPT ставали доказами у кримінальних розслідуваннях у США. Юристи звертали увагу, що листування з чат-ботами не має такого самого правового захисту, як конфіденційні розмови з адвокатом.

Інший резонансний випадок стосувався масової стрілянини в канадському місті Тамблер-Рідж. Історія викликала дискусію про те, як технологічні компанії мають реагувати на підозрілі запити та коли повинні повідомляти про можливу загрозу правоохоронцям. Для технологічних компаній питання полягає не лише в тому, як виявляти небезпечні повідомлення, а й у тому, за яких обставин інформацію про користувачів слід передавати правоохоронцям.

Нагадаємо, раніше «Главком» писав про те, що глава OpenAI застерігав щодо конфіденційності розмов із ChatGPT. Листування з чат-ботами не варто автоматично вважати приватною розмовою, захищеною так само, як спілкування з адвокатом або лікарем.

Політика