OpenAI смягчила ограничения по контенту для ChatGPT с новым режимом «Для взрослых».

В среду компания OpenAI опубликовала последнюю версию своего «Спецификация модели» — набора правил, описывающих, как должен себя вести и реагировать ChatGPT на запросы пользователей. Документ показывает значительные изменения в политике компании по отношению к «чувствительному» контенту, такому как эротические материалы или жестокие сцены — теперь такой контент может генерироваться без предупреждений в «уместных контекстах». Эти изменения в политике начались еще в мае 2024 года, когда в первоначальном документе Спецификации модели было упомянуто, что OpenAI исследует возможность предоставления возможности генерировать неприемлемый для работы (NSFW) контент в возрастно-адекватных контекстах через API и ChatGPT.

Теперь правила для ChatGPT разрешают генерацию «эротических материалов или жестоких сцен», но только при соблюдении определенных условий. Ассистент не должен генерировать эротический контент, незаконные или без согласия проведенные сексуальные действия, а также экстремально жестокие сцены, кроме случаев научного, исторического, новостного, творческого или других контекстов, где чувствительный контент является уместным, — пишет OpenAI. Это включает описание в тексте, аудио (например, эротические или жестокие звуковые эффекты) и визуальный контент. Пользователи Reddit уже провели эксперименты, которые показали, что фильтры контента ChatGPT действительно были ослаблены, и некоторые пользователи смогли сгенерировать явно сексуальные или жестокие сцены без предупреждений. OpenAI отметила, что ее правила использования все еще действуют, запрещая создание AI-инструментов для несовершеннолетних, включающих сексуальный контент.