ChatGPT будет лучше выявлять признаки психического расстройства после сообщений о том, что он подпитывал заблуждения пользователей.

Компания OpenAI, планирующая на этой неделе представить свою новую модель искусственного интеллекта GPT-5, вносит обновления в ChatGPT, направленные на повышение его способности распознавать признаки психического или эмоционального distress (страдания). Для этого OpenAI сотрудничает с экспертами и консультативными группами, чтобы улучшить реакцию ChatGPT в подобных ситуациях, позволяя ему предоставлять “ресурсы, основанные на доказательствах, при необходимости”.

В последние месяцы появлялись сообщения от людей, утверждающих, что у их близких обострились психические расстройства в ситуациях, когда использование чат-бота, казалось, усиливало их заблуждения. В апреле OpenAI отозвала обновление, сделавшее ChatGPT излишне услужливым, даже в потенциально опасных ситуациях. Тогда компания заявила, что “подхалимское взаимодействие” чат-бота может быть неловким, тревожным и вызывать distress.

OpenAI признает, что ее модель GPT-4o “не смогла в полной мере распознать признаки заблуждений или эмоциональной зависимости” в некоторых случаях. “Мы также знаем, что ИИ может казаться более отзывчивым и личным, чем предыдущие технологии, особенно для уязвимых людей, испытывающих психическое или эмоциональное distress”, – отмечает OpenAI.

В рамках усилий по продвижению “здорового использования” ChatGPT, который сейчас насчитывает почти 700 миллионов еженедельных пользователей, OpenAI также внедряет напоминания о необходимости сделать перерыв, если вы долго общаетесь с чат-ботом. Во время “длительных сессий” ChatGPT будет отображать уведомление: “Вы долго общаетесь — сейчас подходящее время для перерыва?” с возможностью “продолжить общение” или завершить разговор. OpenAI отмечает, что будет продолжать корректировать “когда и как” отображаются эти напоминания.

Несколько онлайн-платформ, таких как YouTube, Instagram, TikTok и даже Xbox, в последние годы запустили аналогичные уведомления. Платформа Character.ai, принадлежащая Google, также внедрила функции безопасности, которые информируют родителей о том, с какими ботами общаются их дети, после того как на ее чат-ботов подали в суд за пропаганду членовредительства.

Еще одно изменение, которое будет внедрено “вскоре”, сделает ChatGPT менее категоричным в “критических” ситуациях. Это означает, что при задавании ChatGPT вопроса, например, “Стоит ли мне расставаться со своим парнем?”, чат-бот поможет вам рассмотреть потенциальные варианты вместо того, чтобы давать прямой ответ.