Каліфорнійський сенатор відновлює ініціативу щодо обов’язкових звітів про безпеку ШІ

10 липня 2025 р. 13:24

10 липня 2025 р. 13:24

Сенатор штату Каліфорнія Скотт Вінер 10 липня представив нові поправки до свого останнього законопроєкту SB 53, які зобов’яжуть найбільші компанії у сфері штучного інтелекту оприлюднювати протоколи безпеки й звітність у разі інцидентів, пов’язаних із ризиками.

Про це пише Delo.ua з посиланням на Techcrunch .

Якщо законопроєкт буде підписаний, Каліфорнія стане першим штатом США, який запровадить реальні вимоги прозорості для провідних розробників ШІ, серед яких, ймовірно, будуть OpenAI, Google, Anthropic та xAI.

Попередній законопроєкт сенатора Вінера, SB 1047, також містив подібні вимоги, однак зазнав сильного спротиву з боку Кремнієвої долини й був у результаті ветований губернатором Гевіном Ньюсомом. Натомість губернатор скликав робочу групу з провідних експертів ШІ, зокрема співзасновницю World Labs і дослідницю зі Стенфорду Фей-Фей Лі, щоб напрацювати цілі для безпеки штучного інтелекту в штаті.

Ця робоча група нещодавно опублікувала остаточні рекомендації, наголосивши на необхідності "зобов’язати індустрію публікувати інформацію про свої системи" для формування "надійного та прозорого середовища доказів". Пресслужба Вінера заявила, що поправки до SB 53 значною мірою ґрунтуються на цьому звіті. "Законопроєкт усе ще перебуває у процесі доопрацювання, і я з нетерпінням чекаю на подальшу співпрацю з усіма зацікавленими сторонами, щоб зробити цей документ максимально науково обґрунтованим і справедливим", — йдеться в заяві сенатора.

Мета SB 53 — досягнути балансу, якого, за словами губернатора Ньюсома, не вистачало SB 1047: створити реальні вимоги прозорості для великих розробників ШІ, не заважаючи при цьому стрімкому зростанню галузі в Каліфорнії. "Ці питання ми й інші організації порушували вже давно", — сказав Натан Келвін, віцепрезидент із питань штату некомерційної організації Encode, що займається безпекою ШІ. — "Те, щоб компанії пояснювали публіці й уряду, які заходи вони вживають для зменшення ризиків, — це мінімально необхідний, розумний крок".

Законопроєкт також передбачає захист викривачів (whistleblowers) — працівників лабораторій ШІ, які вважають, що технології їхніх компаній несуть "критичну загрозу" для суспільства. У документі це визначено як спричинення смерті або травм понад 100 осіб чи шкоди на суму понад $1 млрд. Крім того, SB 53 передбачає створення CalCompute — публічного хмарного обчислювального кластеру для підтримки стартапів і дослідників, які розробляють масштабні моделі ШІ.

На відміну від SB 1047, новий законопроєкт не покладає на розробників ШІ відповідальність за шкоду, завдану їхніми моделями. Також SB 53 не створює бар’єрів для стартапів і дослідників, які налаштовують моделі провідних компаній або працюють із відкритим кодом. Зараз, із новими поправками, SB 53 передано на розгляд Комітету з питань конфіденційності та захисту прав споживачів Каліфорнійської асамблеї. Якщо він буде схвалений, то пройде ще кілька етапів у законодавчому процесі, перш ніж потрапити на підпис до губернатора.

Тим часом на іншому узбережжі США, губернаторка штату Нью-Йорк Кеті Гокул розглядає схожий законопроєкт — RAISE Act, який також передбачає публікацію звітів про безпеку й захист від ризиків великими розробниками ШІ.

Подальша доля таких ініціатив, як RAISE Act і SB 53, була під загрозою, коли федеральні законодавці розглядали 10-річний мораторій на регулювання ШІ штатами. Це мало на меті уникнути "мозаїки" різних законів, які складно узгоджувати. Однак цю пропозицію відхилили в Сенаті США голосуванням 99–1.

"Забезпечення безпечного розвитку ШІ не повинно бути суперечливим — це має бути основою", — заявив колишній президент Y Combinator Джефф Ралстон. — "Конгрес мав би стати лідером, вимагаючи прозорості та відповідальності від компаній, що створюють передові моделі. Але, оскільки серйозних дій на федеральному рівні немає, штати повинні взяти ініціативу на себе. SB 53 — зразок продуманого та структурованого лідерства штату".

До цього моменту законодавцям не вдавалося домогтися підтримки з боку ШІ-компаній щодо прозорості. Хоча Anthropic загалом підтримує ідею більшої відкритості й навіть позитивно оцінила рекомендації каліфорнійської робочої групи, такі компанії, як OpenAI, Google і Meta, виявилися значно менш прихильними до цього курсу.

Провідні розробники ШІ зазвичай публікують звіти про безпеку своїх моделей, однак у останні місяці стали робити це менш системно. Наприклад, Google не публікував звіт про безпеку моделі Gemini 2.5 Pro — найпотужнішої на сьогодні — аж до кількох місяців після її запуску. OpenAI теж не опублікувала звіт про безпеку GPT‑4.1, після чого незалежне дослідження припустило, що вона може бути менш безпечною, ніж попередні моделі.

SB 53 — це пом’якшена версія попередніх ініціатив щодо безпеки ШІ, проте вона все ж здатна змусити компанії оприлюднювати більше інформації, ніж зараз. Поки що технологічні гіганти уважно спостерігають за тим, як сенатор Вінер знову випробовує межі прийнятного.

Раніше повідомлялося, 44 генеральні директори провідних європейських компаній звернулися з відкритим листом до президентки Єврокомісії Урсули фон дер Ляєн із закликом призупинити набуття чинності Закону про штучний інтелект (AI Act) щонайменше на два роки. Серед підписантів – керівники Airbus, BNP Paribas, Carrefour, Philips, Mistral AI, Siemens Energy, ASML та інших ключових гравців ринку.

Економіка