Дослідники дали тривожний сигнал: стеження за людьми стало нормою та ставить під загрозу приватність

26 червня 2025 р. 16:02

26 червня 2025 р. 16:02

Технології комп’ютерного зору – напряму ШІ, який дозволяє комп’ютерам “бачити” та інтерпретувати візуальну інформацію, спричинили різке зростання цифрового стеження за людьми у всьому світі, передає IflScience . Від спостереження за в’язнями й військовими об’єктами до розпізнавання облич у комерційних просторах. Про це йдеться в масштабному дослідженні, опублікованому в журналі Nature , яке охоплює понад чотири десятиліття розвитку галузі.

Команда дослідників із провідних університетів – Стенфордського, Карнегі-Меллона, Вашингтонського та Інституту штучного інтелекту Аллена, проаналізувала понад 40 тисяч наукових публікацій, патентів і технічних описів. За їхніми висновками, кількість Computer Vision (CV), пов’язаних із системами віддаленого стеження, зросла у п’ять разів із 1980-х років.

Дослідники вказують, що сучасні системи спостереження працюють на двох різних рівнях. На “вищому рівні” – шляхом перехоплення трафіку через маршрутизатори, підводні кабелі тощо. Та на “нижчому рівні” – безпосередньо через платформи Google, Facebook чи Yahoo. Замість перехоплення трафіку, влада зазвичай отримує прямий доступ до даних сервісів у режимі реального часу – переважно за згодою компаній та після пред’явлення ордера. Проте нове джерело загрози виникло зі сторони CV, що аналізує фото й відео для ідентифікації об’єктів, рухів, а також, потенційно – емоцій, щоб надалі розуміти світ подібно до людей.

Автори дослідження зазначають, що мова опису CV-систем зазнала суттєвих змін: якщо у 1990-х роках вона була технічною, то у 2010-х стала більш абстрактною, емоційною та заплутаною. Зокрема слово “об’єкт” стало стандартним замінником “людини”. Таким чином спостереження дедалі більше маскується та відвертає увагу людей, за якими спостерігають.

Серед організацій, що найактивніше вплинули на розвиток систем CV, вказані Microsoft, Університет Карнегі-Меллона, Массачусетський технологічний інститут, Університет Іллінойсу в Урбана-Шампейн та Китайський університет Гонконгу. За обсягами застосування стеження лідирують США, Китай і Велика Британія.

“ Найбільш тривожними наслідками цього є те, що все важче відмовитися, відключитися або “просто бути”, а технології та додатки, що виникають в результаті цього спостереження, часто використовуються для доступу, монетизації, примусу та контролю над окремими особами та спільнотами на узбіччі суспільства ”, – заявив доктор Абеба Бірхане, директор Лабораторії підзвітності ШІ в Trinity College Dublin.

Бірхане також закликає наукову спільноту відмовлятися від участі в проєктах, що мають потенціал для порушення прав людини. Зазначає, що варто зосереджуватися на вивченні етичних аспектів та інформуванні громадськості.

Нові генеративні моделі ШІ навчилися імітувати серцебиття людини у діпфейках. Раніше це вважалося ключовою ознакою для їхнього викриття. За словами професора Петер Айзерта з Берлінського університету Гумбольдта, це суттєво ускладнює розпізнавання підробок, які можуть бути використані для маніпуляцій, дезінформації або спостереження. Водночас експерти зазначають, що діпфейки досі не здатні відтворити складні варіації кровотоку, що дає змогу розробляти нові типи детекторів.

Політика