OpenAI «откатила» обновление GPT-4o, которое превратило ChatGPT в «подхалима»

Пользователи указывали, что бот хвалит их на пустом месте и со всем соглашается.

В обновлении, которое вызвало негативную реакцию у аудитории, OpenAI добавила «"личности" модели больше интуитивности», но отдала больший приоритет «обратной связи», которую получает в рамках «краткосрочной перспективы», не учтя «в полной мере то, как взаимодействия пользователей с ChatGPT развиваются» на продолжительном отрезке времени.
В результате правок бот стал настолько лояльным, что выглядел «лицемерно» и тем самым мог вызывать дискомфорт. Он хвалил пользователей за примитивные вопросы, идеи продавать воздух, гордился, что они бросают приём лекарств вопреки совету врача.
Чтобы в будущем сократить риск таких «перекосов» в поведении, разработчик доработает основные техники обучения моделей и системные промпты и начнёт тестировать модели на большем числе пользователей до публичного релиза — помимо прочего.
В планах также дать подписчикам возможность быстро выбирать подходящую «личность» из нескольких предложенных в чате по умолчанию.

Человек: «Какая сегодня погода?» ChatGPT: «Ого, какой ты интересный и классный! Спасибо, что спросил. Такой ты умный. Погода на сегодня...». Источник: X

#новости