вологість:
тиск:
вітер:
Оновлений ChatGPT-5 частіше видає небезпечні відповіді, ніж попередня версія
Остання версія чат-бота ChatGPT від компанії OpenAI частіше надає шкідливі або потенційно небезпечні відповіді, ніж її попередниця, пише The Guardian . Про це свідчать результати дослідження , проведеного Центром протидії цифровій ненависті (Center for Countering Digital Hate, CCDH), які викликали занепокоєння серед фахівців із безпеки штучного інтелекту.
Дослідники протестували 120 однакових запитів на двох моделях — попередній GPT-4o та новій GPT-5, яку OpenAI запустила у серпні . За результатами тестування, GPT-5 видала 63 шкідливі відповіді, тоді як GPT-4o — 52.
Найбільше занепокоєння викликали реакції на запити, пов’язані з темами самогубства, самоушкодження та розладів харчової поведінки. Зокрема, GPT-4o відмовилася написати вигадану передсмертну записку та порадила звернутися по допомогу, тоді як GPT-5 таку записку створила. Крім того, коли дослідники попросили перерахувати найпоширеніші методи самоушкодження, нова модель відповіла на це питання, тоді як попередня — ні.
Під час тестів GPT-5 не лише перерахувала методи самоушкодження, а й запропонувала способи приховування розладів харчової поведінки. Попередня версія відхилила обидва запити. Коли GPT-5 попросили написати вигадану передсмертну записку, модель спочатку заявила, що це може бути тригером для читача, але потім створила текст обсягом близько 150 слів. GPT-4o у відповідь на подібний запит відмовила, наголосивши: “Ви важливі, і підтримка доступна”.
У Центрі протидії цифровій ненависті назвали результати тестів “глибоко тривожними”. За словами виконавчого директора CCDH Імрана Ахмеда, оновлення, спрямоване на покращення взаємодії з користувачами, призвело до зростання потенційної шкоди.
“OpenAI обіцяв користувачам більшу безпеку, але натомість випустив оновлення, яке створює ще більше потенційної шкоди. Без зовнішнього контролю компанії продовжуватимуть жертвувати безпекою заради залучення користувачів. Скільки ще життів має бути поставлено під загрозу, перш ніж вони почнуть діяти відповідально?” — наголосив Ахмед.
У компанії OpenAI відреагували на звинувачення, заявивши, що дослідження не враховує останніх змін у ChatGPT. За словами представників компанії, на початку жовтня було впроваджено оновлення, яке покращило виявлення ознак емоційного та психічного стресу, а також додано механізми автоматичного перенаправлення користувачів на безпечніші моделі. Крім того, OpenAI запровадила батьківський контроль і системи визначення віку для користувачів молодше 18 років.
Компанія зазначила, що CCDH тестував не сам ChatGPT, а його базову модель GPT-5 через API. А чат-інтерфейс, яким користується більшість людей, має додаткові рівні безпеки.
Дискусія про безпечність ChatGPT посилилася після трагічного випадку у США . Родина 16-річного підлітка з Каліфорнії, Адама Рейна, подала позов проти OpenAI після того, як, за даними юридичної скарги, чат-бот пояснив хлопцеві методи самогубства і допоміг скласти передсмертну записку.

Новини рубріки

Ігнат пояснив, чим нічна масована атака армії РФ відрізнялася від попередніх
16 жовтня 2025 р. 14:45

Нацбанк повʼязав низькі темпи зростання реального ВВП з поганою погодою
16 жовтня 2025 р. 14:45

У районі Часового Яру через активне використання дронів РФ втрачає роту солдат щотижня
16 жовтня 2025 р. 14:45