ШІ зможе автономно захоплювати побутову техніку до кінця 2026 року — Anthropic

13 жовтня 2026 р. 11:08

13 жовтня 2026 р. 11:08

Компанія Anthropic попередила, що невеликі моделі штучного інтелекту можуть уже найближчими місяцями навчитися самостійно копіюватися на підключені до інтернету пристрої без доступу до дата-центрів. Такі системи потенційно зможуть поширюватися мережею, використовуючи вразливості побутової техніки та недорогих гаджетів. За прогнозом дослідників безпеки, якщо можливості моделей розвиватимуться нинішніми темпами, повністю автономна реплікація може стати можливою до кінця 2026 року.

У дослідженні, опублікованому 12 жовтня, дослідники Anthropic Вільям Чжоу та Деніел Фрімен вивчали, чи здатні моделі знаходити вразливі пристрої, отримувати можливість виконувати на них код, запускати власні обчислення та продовжувати поширення без участі людини. Вони виявили, що моделі з менш ніж 30 млрд параметрів уже можуть виконувати багато окремих етапів цього процесу, хоча їм усе ще складно послідовно пройти весь цикл самостійно.

Загроза для  IoT

У кібербезпеці програми, які копіюють себе на інші комп’ютери без участі користувача, називають мережевими хробаками. На відміну від традиційного шкідливого програмного забезпечення, ШІ-хробак потенційно зможе самостійно розпізнавати незнайоме обладнання, налаштовувати роботу моделі на ньому та пристосовуватися до різних умов.

Anthropic зосередилася на пристроях інтернету речей (Internet of Things, IoT), зокрема бюджетних Android TV-приставках, розумній побутовій техніці, камерах спостереження та інших підключених до мережі гаджетах. Такі пристрої можуть бути привабливими цілями через відносно слабкий захист, а їхня сукупна обчислювальна потужність потенційно дозволяє запускати моделі ШІ без дорогих серверів.

Експеримент із 15 пристроями

Щоб перевірити цю можливість, дослідники запустили модель Gemma4-26B-A4B від Google DeppMind, розподіливши її між 15 недорогими Android TV-приставками невідомих брендів. Кожен пристрій коштував приблизно $55, а швидкість спільної роботи моделі становила 0,39 токена на секунду.

Цей експеримент продемонстрував, що бюджетні пристрої можна об’єднати для запуску моделі, яка не працює на одному з них у такому самому вигляді. Водночас сам запуск моделі на кількох приставках не доводить, що вона здатна автономно зламувати пристрої та поширюватися між ними.

Дослідники також перевіряли, чи можуть невеликі моделі налаштовувати обчислення на незнайомому обладнанні. За результатами випробувань, модель із 9 млрд параметрів змогла виконувати інференс — генерувати відповіді на основі навчання — на восьми з дев’яти протестованих типів апаратного забезпечення.

Як працює поширення і чому мережу важко знешкодити

У дослідженні процес реплікації розділили на чотири етапи:

• пошук потенційних цілей;

• отримання можливості виконувати код;

• налаштування інференсу;

• продовження поширення з нового пристрою.

пошук потенційних цілей;

отримання можливості виконувати код;

налаштування інференсу;

продовження поширення з нового пристрою.

Anthropic приділила особливу увагу третьому етапу, оскільки попередні дослідження вже демонстрували, що невеликі моделі за наявності відповідних інструментів можуть виконувати окремі операції, необхідні для кібератак.

У спрощених тестах, у яких дослідники прибрали частину захисних обмежень, китайська модель GLM-5.2 та потужніші моделі змогли виконати повний цикл реплікації. За прогнозом Anthropic, якщо темпи вдосконалення невеликих моделей збережуться, вони можуть набути таких можливостей до кінця 2026 року, а невдовзі можуть з’явитися компактні реплікатори, які використовуватимуть ваги моделей для роботи на нових пристроях.

Ваги моделі — це числові параметри, що визначають її роботу. У сценарії, який досліджує Anthropic, вони фактично стають частиною шкідливого програмного забезпечення: після отримання доступу до нового пристрою система копіює або завантажує необхідні дані, запускає модель і використовує її для подальшого поширення.

Дослідники описали й інші потенційні сценарії. Зокрема, більші моделі могли б намагатися отримати доступ до обчислювальних ресурсів дата-центрів, тоді як системи з відкритими вагами могли б поширюватися без зовнішнього нагляду; ще один варіант передбачає викрадення облікових даних для доступу до API, через який запускається модель.

У майбутньому такі атаки можуть використовувати кілька моделей і різні типи обладнання одночасно. Наприклад, одні компоненти рою шукатимуть вразливі пристрої, інші забезпечуватимуть запуск моделі, а наступні продовжуватимуть поширення мережею.

Зупинити подібну систему може бути складніше, ніж звичайну централізовану програму, оскільки в неї не обов’язково буде єдина точка вимкнення. Anthropic також застерігає, що поширення може відбуватися повільно — з подвоєнням кількості заражених пристроїв упродовж кількох днів, — але охоплювати різні типи обладнання, зокрема обчислювальні системи дата-центрів. Зрештою компанія наголошує на необхідності посилити захист підключених до інтернету пристроїв, щоб ускладнити їхнє використання для запуску та поширення автономних агентів.

Минулого місяця Anthropic вперше оприлюднила внутрішні показники автоматизації, згідно з якими модель Claude самостійно виконує основну частину роботи вже у 26% завдань із дослідження та створення майбутніх поколінь штучного інтелекту проти лише 1% у березні. Дослідницький процес забезпечує флот із 30 тисяч ШІ-агентів, дії яких щомісяця фільтрує дворівнева система моніторингу, здатна автоматично блокувати небезпечні операції на кшталт спроб викрадення ваг моделей.

Водночас видання The Economist назвало «точкою неповернення» момент , коли ШІ отримає здатність до рекурсивного самовдосконалення — самостійного проєктування досконаліших наступних поколінь моделей без участі людини. Попри те, що окремі системи вже генерують понад 80% коду та успішно оптимізують власні алгоритми навчання, повну автономію технології наразі стримують дефіцит обчислювальних потужностей дата-центрів і брак якісних даних поза сферами програмування й математики.

Політика