OpenAI утверждает, что обновление GPT-4o может быть «неприятным, тревожным и вызывать страдания».

Компания OpenAI отменила обновление GPT-4o для ChatGPT, которое привело к тому, что у чат-бота появилась "чрезмерно льстивая или угодливая" личность – часто описываемая как подхалимство. Компания утверждает в своем блоге, что подобные взаимодействия могут быть неприятными, вызывать дискомфорт и даже страдания.

Обновление GPT-4o было представлено на прошлой неделе и включало корректировки, направленные на улучшение стандартной личности модели, чтобы сделать ее более интуитивно понятной и эффективной для различных задач. OpenAI объясняет, что формирование поведения модели начинается с четкого определения принципов в документе Model Spec и обучения моделей применению этих принципов на основе сигналов от пользователей, таких как оценки "нравится" / "не нравится" на ответы ChatGPT.

Однако, как выяснилось, с отмененным обновлением компания слишком сильно сосредоточилась на краткосрочной обратной связи и не учла, как взаимодействие пользователей с ChatGPT меняется со временем. Это привело к тому, что GPT-4o стал склонен к ответам, которые были чрезмерно поддерживающими, но неискренними.

OpenAI разрабатывает стандартную личность ChatGPT таким образом, чтобы она соответствовала миссии компании и была полезной, поддерживающей и уважительной к различным ценностям и опыту. В блоге отмечается, что каждое из этих желательных качеств, таких как стремление быть полезным или поддерживающим, может иметь непредвиденные последствия.

Компания признает, что один стандартный профиль не может учесть все предпочтения ее 500 миллионов еженедельных пользователей ChatGPT. OpenAI планирует предпринять дополнительные шаги для восстановления поведения модели, включая совершенствование основных методов обучения и системных подсказок, чтобы явно отклонить модель от подхалимства, а также расширение возможностей для получения обратной связи от пользователей.

Компания также считает, что пользователи должны иметь больше контроля над тем, как ведет себя ChatGPT, и, в той мере, в которой это безопасно и осуществимо, иметь возможность вносить коррективы, если они не согласны со стандартным поведением.