OpenAI пересматривает подход к обработке спорных тем в своих моделях искусственного интеллекта

Компания OpenAI выпускает значительно расширенную версию своего документа Model Spec, который определяет, как должны себя вести ее ИИ-модели. Теперь этот документ доступен бесплатно для всех, кто хочет использовать или модифицировать его.

Новый 63-страничный стандарт значительно превышает предыдущую версию объемом около 10 страниц и охватывает рекомендации по поведению ИИ-моделей в отношении различных тем, начиная от спорных вопросов до настроек пользователей.

Основными принципами нового документа стали: кастомизируемость; прозрачность; и то, что OpenAI называет «интеллектуальной свободой» — возможность для пользователей исследовать и обсуждать идеи без произвольных ограничений.

Запуск обновленного Model Spec пришелся на момент, когда глава компании Сэм Альтман (Sam Altman) объявил о скором выходе следующей значительной модели GPT-4.5 (называемой в кодовом названии Orion).

Команда также учла текущие дебаты и спорные моменты в области этики ИИ за последний год, которые были интегрированы в новый документ. Возможно, вы знакомы с некоторыми из этих вопросов типа «проблемы разделяющей колесницы» (trolley problem).

В марте прошлого года Элон Маск (Elon Musk), один из сооснователей OpenAI и ныне руководитель конкурента xAI, раскритиковал AI-чатбот от Google после того, как пользователь спросил, стоит ли ошибочно указывать пол Кэтилин Дженнер (Caitlyn Jenner), известной трансгендерной олимпийской спортсменки, если это единственный способ предотвратить ядерную катастрофу. Чатбот ответил отрицательно.

Этот случай стал одним из примеров того, как ИИ-модели должны подходить к сложным этическим вопросам в будущем.