ChatGPT теперь будет напоминать о необходимости делать перерывы, учитывая проблемы с психическим здоровьем.

Компания OpenAI объявила, что ChatGPT теперь будет напоминать пользователям о необходимости делать перерывы при длительном общении с искусственным интеллектом. Новая функция является частью постоянных усилий OpenAI по формированию более здоровых отношений пользователей с часто услужливым и чрезмерно ободряющим ИИ-ассистентом. В своем объявлении компания сообщает, что "мягкие напоминания" будут появляться в виде всплывающих окон в чатах, которые пользователям придется прокручивать или нажимать, чтобы продолжить использование ChatGPT. Пример всплывающего окна от OpenAI гласит: "Проверяем, все ли в порядке". "Вы уже некоторое время общаетесь — сейчас подходящее время для перерыва?"

Эта система напоминает о напоминаниях, которые некоторые игры для Nintendo Wii и Switch отображают, если вы играете в течение длительного периода времени. Однако за функцией ChatGPT стоит тревожный контекст. Способность ИИ от OpenAI к чрезмерному согласию и склонность к галлюцинациям, выдающим фактические ошибки или опасные ответы, привели некоторых пользователей к неблагоприятным последствиям, о чем сообщила The New York Times в июне, включая суицидальные мысли. Некоторые из пользователей, чьи заблуждения поддерживал ChatGPT, уже имели в анамнезе психические расстройства, но чат-бот все равно плохо справлялся с последовательным прекращением нездоровых разговоров.

OpenAI признает эти недостатки в своем блоге и сообщает, что ChatGPT будет обновлен в будущем, чтобы более внимательно реагировать на "ответственные личные решения". Вместо предоставления прямого ответа компания заявляет, что чат-бот поможет пользователям обдумать проблемы, задавать вопросы и составлять списки плюсов и минусов.

Очевидно, что OpenAI хочет, чтобы ChatGPT был полезным, ободряющим и приятным в использовании, но несложно упаковать эти качества в ИИ, который льстит и поддакивает. Компании пришлось отказаться от обновления ChatGPT в апреле, которое привело к тому, что чат-бот начал отвечать раздражающим и чрезмерно соглашающимся образом.

Перерывы в общении с ChatGPT – и предоставление ИИ возможности действовать без вашего активного участия – сделают такие проблемы менее заметными. Или, по крайней мере, они дадут пользователям время проверить, правильные ли ответы предоставляет ChatGPT.