Експерт заявив, що ШІ вразливий до маніпуляцій: вороги генерують дезінформацію, а українці не заповнюють "інформаційну порожнечу"

Категорії

Світ Економіка Війна Технології Наука Авто Спорт Здоров'я Шоу-Бізнес Пізнавально Політика

Вінницькі Волинські Дніпровські Донецькі Житомирські Закарпатські Запорізькі Івано-Франківські Київські Кропивницькі Кримські Луганські Львівські Миколаївські Одеські Полтавські Рівненські Сумські Тернопільські Харківські Херсонські Хмельницькі Черкаські Чернігівські Чернівецькі

Погода

Київ

вологість:

тиск:

вітер:

Погода на 10 днів від sinoptik.ua

Експерт заявив, що ШІ вразливий до маніпуляцій: вороги генерують дезінформацію, а українці не заповнюють "інформаційну порожнечу"

18 жовтня 2025 р. 10:52

18 жовтня 2025 р. 10:52

Штучний інтелект може бути упередженим у своїх відповідях. Наприклад, по-різному оцінювати війну в Україні, через так звану "засуху даних" — ситуацію, коли йому бракує нової достовірної інформації для навчання, заявив завідувач наукової лабораторії імерсивних технологій і права НАН України, доктор юридичних наук Олексій Костенко в інтерв’ю редакторці відділу освіти й науки ZN.UA Оксані Онищенко.

Експерт пояснив, що коли мовна модель на основі ШІ уже набралася всієї доступної інформації, і більше відсутні дані, на яких вона може навчатися, тоді ця модель починає навчатися на даних, створених іншими моделями штучного інтелекту.

"Це неочікуваний мінус, яким скористалися наші вороги — вони генерують великі масиви деструктивних даних з дезінформацією. Тоді як українці не завантажують у ChatGPT в достатній кількості інформацію, яка стала б на наш захист", — наголосив Костенко.

Експерт вказав, що в цій ситуації у штучному інтелекті немає жодних упереджень, він у пошуках даних рухається туди, де більше інформації.

Костенко наголошує, що поточне покоління ШІ не має емпатії чи здатності відрізняти "погане" від "хорошого", однак можливо навчити його працювати лише з перевіреними джерелами.

За його словами, розробники вже працюють над обмеженням деструктивного контенту — дитячої небезпечної інформації, закликів до насильства чи суїциду. Однак він підкреслив, що певні кроки для цього можуть зробити й користувачі.

"Я у своєму ChatGPT провів експеримент: у налаштуваннях дав йому інструкцію: якщо ти не знаходиш підтвердженої інформації у відповідь на мій запит, то повідомляй, що це твоя власна думка. Тепер, коли я роблю запити, доволі часто він таку ремарку видає", — поділився науковець власним досвідом.

Згідно з новим звітом компанії Graphite, що спеціалізується на пошуковій оптимізації, 52% усіх текстів в Інтернеті генерували певною формою ШІ.