вологість:
тиск:
вітер:
Мовні моделі після штучного «інсульту» помилялися подібно до людей з афазією
Мовна модель почала припускатися помилок, схожих на порушення мовлення людей після інсульту, коли її параметри навмисно спотворили випадковим шумом. Дослідники зі США використали мапи уражень мозку як незалежний орієнтир для аналізу цих збоїв у роботі моделі. Ефект відтворився в дев'яти з десяти додатково перевірених конфігурацій. Дослідження описали в журналі Patterns .
Мовні моделі після штучного «інсульту» помилялися подібно до людей з афазією. GIPHY
Як афазія допомогла дослідити роботу мовних моделей?
Афазія виникає внаслідок ураження мозку й може порушувати здатність добирати слова, розуміти їх або будувати речення. Наприклад, замість потрібного слова людина може назвати інше, близьке за значенням чи звучанням. Зіставляючи такі помилки з мапами ушкоджень після інсульту, науковці визначають, які ділянки мозку пов'язані з різними мовними функціями. У цьому дослідженні для завдання з називання зображень використали дані 213 людей, а для завершення речень — 188. На основі цих даних дослідники навчили алгоритм прогнозувати розташування уражень мозку за співвідношенням різних типів мовних помилок.
Щоб перевірити, чи втручання в роботу моделі спричиняє подібні до афазії помилки, дослідники спотворювали числові параметри моделі LLaVA-1.6-Vicuna-13B випадковим шумом. Після цього їй давали ті самі завдання, що й людям. Співвідношення різних типів помилок у її відповідях подавали навченому алгоритму, який прогнозував відповідну мапу уражень мозку. Для 67,1 відсотка перевірених умов втручання в завданні з називання зображень прогнозовані мапи краще відповідали ушкодженням пацієнтів із подібними помилками, ніж ушкодженням випадково обраних пацієнтів. Для завершення речень цей показник становив 68,3 відсотка. Водночас мовна модель значно рідше за людей припускалася помилок, пов'язаних зі звуковою будовою слів. Дослідники виявили подібності й відмінності між мовними збоями людей і моделей, однак поки невідомо, чи мають ці збої спільні внутрішні механізми.
Що ще з'ясували про роботу й поведінку мовних моделей
🧠 Інженери Anthropic знайшли внутрішні представлення проміжних висновків моделей, підміна яких змінювала відповіді.
🗣️ ChatGPT і Claude висловилися про владу Китаю прихильніше китайською, ніж англійською, що вказало на можливий вплив навчальних текстів.
🔢 Мовні моделі передали одна одній схильність до шкідливих порад через навчання на згенерованих даних без явного небезпечного змісту.
Джерело: nauka.ua
Новини рубріки
Сурикати поодинці дісталися додому, куди зазвичай поверталися гуртом
20 листопада 2026 р. 15:04
Австралійські нічні метелики втратили магнітний компас без синього світла
20 листопада 2026 р. 12:16
Фізики описали приховану періодичну систему елементів темної матерії
20 листопада 2026 р. 10:19