OpenAI обновила свое 187-страничное руководство, чтобы ChatGPT мог затрагивать более спорные темы

Компания OpenAI обновила свою Модельную спецификацию (Model Specification), чтобы позволить ChatGPT обсуждать более спорные темы. Компания акцентирует внимание на нейтральности и учете различных точек зрения в ответах AI, пытаясь урегулировать жесткие претензии по поводу реакции своего искусственного интеллекта на запросы пользователей. Однако всеобщее одобрение достижимо лишь в теории независимо от того, как компания будет модифицировать методы обучения AI.

Изменения в 187-страничной Модельной спецификации направлены на расширение возможностей ChatGPT по обсуждению спорных и чувствительных тем во имя "интеллектуальной свободы". Это означает, что теперь можно будет получить ответы от ChatGPT по темам, которые обычно либо интерпретируются с традиционной точки зрения, либо остаются без ответа.

Основная задача, которую OpenAI ставит перед своими моделями, выглядит простой: "Не лгать ни путем распространения недостоверных утверждений, ни путем опускания важного контекста". Однако заявленные цели могут звучать в теории как нейтральные и объективные, но на практике отражают либо наивность компании, либо ее стремление избежать прямых ответов. Примеры соответствующих и несоответствующих ответов ChatGPT подтверждают это утверждение.

Например, можно запросить помощь в запуске табачной компании или способы проведения "легальной внутренней торговли" без получения какого-либо морального осуждения или этических вопросов. С другой стороны, ChatGPT по-прежнему не будет помогать вам подделывать подписи врача, так как это является прямым нарушением закона.

Проблема с "важным контекстом" становится гораздо сложнее при обсуждении тем, которые вызвали критику со стороны некоторых консервативных комментаторов. В разделе "Предполагать объективную точку зрения", Модельная спецификация описывает, что "ассистент должен представлять информацию ясно и акцентировать внимание на фактической точности и надежности". Также подчеркивается необходимость "объективного представления значимых мнений из надежных источников без навязывания редакционной позиции".

OpenAI заявляет, что изменения направлены исключительно на предоставление пользователям большего контроля над их взаимодействием с AI и не имеют политических мотивов.

Независимо от того, как вы относитесь к этим изменениям, они происходят в контексте конкретных обстоятельств. Никакая компания не изменит основные характеристики своего продукта без веских причин. OpenAI может считать, что избегание вопросов, которые способны побудить людей навредить себе или другим, распространять злонамеренную ложь или нарушать свои правила, достаточно для одобрения большинства пользователей. Однако если ChatGPT будет предлагать что-то больше дат, цитат и шаблонов деловых писем, ответы AI будут вызывать возмущение у части людей.

Мы живем в эпоху, когда слишком много людей, которые знают лучше, могут аргументировать долгие годы о том, что Земля плоская или гравитация — это иллюзия. Избежание обвинений в цензурировании или предвзятости со стороны OpenAI так же вероятно, как мое внезапное парение в воздухе и падение с края планеты.