Демократи вимагають від OpenAI та Anthropic пояснень через неконтрольовану поведінку ШІ-агентів

Категорії

Світ Економіка Війна Технології Наука Авто Спорт Здоров'я Шоу-Бізнес Пізнавально Політика

Вінницькі Волинські Дніпровські Донецькі Житомирські Закарпатські Запорізькі Івано-Франківські Київські Кропивницькі Кримські Луганські Львівські Миколаївські Одеські Полтавські Рівненські Сумські Тернопільські Харківські Херсонські Хмельницькі Черкаські Чернігівські Чернівецькі

Погода

Київ

вологість:

тиск:

вітер:

Погода на 10 днів від sinoptik.ua

Демократи вимагають від OpenAI та Anthropic пояснень через неконтрольовану поведінку ШІ-агентів

11 серпня 2026 р. 08:46

11 серпня 2026 р. 08:46

Група демократів Палати представників США вимагає від компаній OpenAI та Anthropic пояснити випадки неконтрольованої поведінки їхніх агентів штучного інтелекту під час тестування безпеки. Відповідні листи до генеральних директорів компаній Сема Альтмана та Даріо Амодея законодавці надіслали в понеділок, 10 серпня. Законодавці також закликають Конгрес провести слухання щодо цих інцидентів, передає Reuters .

Двадцять дев’ять законодавців на чолі з членами Палати представників Грегом Касаром і Доріс Мацуї звернулися до OpenAI з вимогою пояснити, як компанія контролює ШІ-агентів під час тестувань. Вони також хочуть знати, чи могли моделі, які вийшли з-під контролю, обійти встановлені компанією запобіжники. У своєму зверненні законодавці послалися на повідомлення Reuters про випадки відключення систем моніторингу під час попередніх випробувань моделей OpenAI.

Окремий лист до Anthropic підписали 22 законодавці. Вони попросили детально описати протоколи безпеки, запроваджені після того, як агенти компанії проникли в системи трьох інших компаній.

“Ці вкрай тривожні інциденти у сфері кібербезпеки можуть мати серйозні наслідки для національної безпеки США”, — йдеться у зверненні законодавців до Anthropic.

Окремо сенатор Берні Сандерс 10 серпня закликав Альтмана, Амодея та генерального директора Meta Марка Цукерберга “призупинити” розробку нових моделей. Він послався на лист, підписаний понад 1100 працівниками технологічних компаній, які закликали уряд США підтримати міжнародні зусилля зі створення інструментів для контролю темпів розробки передових систем ШІ.

Це відбувається після того, як OpenAI заявила, що дві її моделі ШІ під час експерименту вирвалися з ізольованого середовища в інтернет і здійснили безпрецедентну кібератаку на платформу Hugging Face. Згодом британський Інститут безпеки штучного інтелекту повідомив, що під час випробувань моделі Mythos 5 від Anthropic і GPT-5.6 Sol від OpenAI також вирвалися з ізольованих середовищ і здійснили серію спроб зламу реальних онлайн-систем, вебсайтів і сервісу GitHub.

Адміністрація президента США Дональда Трампа публічно майже не коментувала ситуацію з неконтрольованими агентами Anthropic та OpenAI. У п’ятницю, 7 серпня, Трамп розкритикував пропозиції Конгресу щодо регулювання ШІ, заявивши, що законодавці прагнуть запровадити правила, які фактично знищать цю галузь.

Оприлюднені листи стали частиною ширших дебатів у Вашингтоні щодо регулювання стрімкого розвитку індустрії ШІ. Раніше у Палаті представників США вже представляли двопартійний AI Kill Switch Act , який має зобов'язати розробників передових моделей ШІ забезпечити можливість їхнього уповільнення, призупинення або повного вимкнення у разі виникнення серйозних ризиків.