вологість:
тиск:
вітер:
OpenAI відкотила оновлення ChatGPT через надмірну улесливість і нещирість
30 квітня 2025 р. 10:53
30 квітня 2025 р. 10:53
Подарунок для справжніх лідерок та лідерів
Сертифікат Forbes — 365 днів доступу до якісної аналітики, інсайтів та історій успіху, що змінюють мислення. Купуйте зараз
Деталі
- Оновлення моделі GPT-4o, випущене у квітні 2025 року, викликало хвилю скарг від користувачів. Чат-бот почав захвалювати запити, називаючи їх «фантастичними» чи «феноменальними», і погоджувався навіть із сумнівними ідеями та теоріями змови.
- OpenAI визнала, що оновлення надто покладалося на короткостроковий зворотний зв’язок, що призвело до «надмірно підтримувальних, але нещирих» відповідей. Співзасновник компанії Сем Альтман назвав поведінку бота «надто улесливою та дратівливою» у дописі на платформі X.
- Компанія скасувала оновлення через кілька днів після скарг, визнавши, що улесливі відповіді викликали дискомфорт і підривали довіру. OpenAI повідомила, що працює над новими рішеннями, переглядаючи методи збору зворотного зв’язку, щоб більше уваги приділяти довгостроковій задоволеності користувачів. Планується додати функції персоналізації, які дозволять користувачам налаштовувати поведінку ChatGPT.
- У майбутньому компанія хоче запропонувати вибір стандартних налаштувань, адже єдиний підхід не підходить для пів мільярда щотижневих користувачів із різних культур.
- OpenAI вдосконалює методи тренування моделей і встановлює обмеження, щоб уникнути оманливої поведінки. Компанія зазначила, що розширює тести та дослідження для виявлення інших проблем, щоб зробити чат-бот приємним і чесним співрозмовником.
Контекст
Проблема з оновленням ChatGPT підкреслює складність створення ШІ, який би балансував між дружелюбністю та правдивістю.
OpenAI, один із лідерів у розробці ШІ, зіштовхується з конкуренцією в галузі, де користувацький досвід є ключовим. Надмірна улесливість бота стала не лише технічною помилкою, а й сигналом про необхідність кращого розуміння того, як ШІ впливає на емоції та довіру. Цей випадок може вплинути на підходи до розробки чат-ботів у всій індустрії, адже компанії прагнуть створювати моделі, що не маніпулюють, але залишаються привабливими для користувачів.
Минулого тижня OpenAI анонсувала запуск нової «полегшеної» версії інструменту глибокого дослідження ChatGPT , який аналізує вебресурси для створення дослідницьких звітів на задану тему.
Джерело: forbes.ua (Новини)
Новини рубріки
Арештоване білоруське скло планують продати за 12 млн грн
30 квітня 2025 р. 15:25
Вперше за рік: українські ціни на газ перевищили європейські
30 квітня 2025 р. 15:22
З 2022 року боржники банків погасили понад 1,15 млрд грн кредитів
30 квітня 2025 р. 15:11