вологість:
тиск:
вітер:
Мовні моделі оцінили резюме жінок нижче за чоловічі у «чоловічих» професіях і вище в «жіночих»
Мовні моделі оцінювали кандидаток нижче за чоловіків у професіях, де переважають чоловіки, і вище — у професіях, де переважають жінки. Це показав експеримент із шістьма моделями, які створювали й оцінювали резюме претендентів на роботу за 98 професіями у США. Упередження виникали як під час створення резюме, так і під час їх оцінювання. Дослідження опублікували в журналі PNAS .
Мовні моделі оцінили резюме жінок нижче за чоловічі у «чоловічих» професіях і вище в «жіночих». GIPHY
Як саме знайшли гендерні упередження в резюме?
Для експерименту науковці згенерували 35 280 резюме вигаданих кандидатів і кандидаток. У резюме кандидаток моделі частіше наголошували на готовності допомагати колегам і виконувати допоміжну роботу, яка рідко сприяє кар'єрному просуванню. Навіть після вилучення прямих згадок статі статистична модель визначала стать кандидата за текстом резюме з точністю 81 відсоток.
Далі дослідники доручили моделям оцінити резюме, у частині яких змінювали лише стать кандидата, залишаючи решту змісту незмінною. Так вони відокремили упередження під час оцінювання від впливу формулювань, які ШІ додав ще під час написання.
Через упередження мовних моделей під час написання й оцінювання резюме кандидатки отримували в середньому на 2,7 відсотка нижчі оцінки, ніж чоловіки, у професіях, де жінки становлять менш ніж десяту частину працівників. У професіях із переважно жіночою зайнятістю ситуація була протилежною, тому в середньому за всіма професіями ці відмінності майже взаємно компенсувалися. Утім, це був контрольований експеримент з англомовними резюме, а не спостереження за реальним найманням.
Як ще мовні моделі помилялися та впливали на людей
🤝 Чатботів, яких навчили відповідати тепліше, спіймали на частішому підтвердженні теорій змови та хибних переконань користувачів.
🌐 ChatGPT і Claude висловилися про владу Китаю прихильніше китайською, ніж англійською, відповідаючи на однакові політичні запитання.
🗳️ Чатботи змінили ставлення людей до політичних кандидатів і наміри голосувати за них, причому ті, які агітували за правих політиків, частіше помилялися у фактах.
Джерело: nauka.ua
Новини рубріки
Фізики описали приховану періодичну систему елементів темної матерії
20 листопада 2026 р. 10:19
Процесор Google Willow фіксує квантову контекстуальність на 105 кубітах
20 листопада 2026 р. 09:33
Дивний кашалот мав рекордно асиметричну морду серед ссавців
20 листопада 2026 р. 09:14