Грок продолжал говорить о «белом геноциде» из-за «несанкционированной модификации»

В ранние часы 14 мая чат-бот Grok компании xAI неоднократно выдавал пользователям X ответы, содержащие упоминания о заявлениях о "белом геноциде" в Южной Африке, даже если их запросы не имели к этой теме никакого отношения.

В заявлении, опубликованном в социальной сети, компания искусственного интеллекта Илона Маска (Elon Musk) объяснила, что "несанкционированная модификация" системного запроса Grok на X привела к тому, что чат-бот начал давать конкретный ответ на политическую тему. Компания не сообщила, что произошло с сотрудниками, ответственными за внедрение ошибочного обновления, но добавила, что эта модификация нарушила ее "внутренние политики и основные ценности", и что было проведено тщательное расследование инцидента.

Различные пользователи сети разместили несколько примеров, в которых Grok включал ссылки на спорные утверждения о том, что белые фермеры в Южной Африке сталкиваются с расовой дискриминацией и захватом земель. Сами вопросы были совершенно разными: в одном из твитов кто-то спросил, сколько раз стриминговый сервис HBO менял свое название, в другом – историю зарплаты бейсбольного игрока, а в третьем – запросил дополнительную информацию о матче WWE.

Изданию CNBC удалось воспроизвести ответы чат-бота, содержащие ссылки на "белый геноцид". На вопрос о том, был ли он специально запрограммирован на продвижение этой темы, Grok ответил, что нет, и что его "цель – предоставлять фактические, полезные и безопасные ответы, основанные на разуме и доказательствах".

До того, как xAI выпустила заявление, глава OpenAI Сэм Альтман (Sam Altman) опубликовал саркастичный ответ в X. "Я уверен, что xAI вскоре предоставит полное и прозрачное объяснение", – написал он, а затем имитировал ответы Grok, перейдя к разговорам о "белом геноциде".

xAI заявила, что отныне будет публиковать свои системные запросы на GitHub, чтобы общественность могла давать обратную связь по каждому изменению. Компания также сообщила, что установит дополнительные проверки и меры, чтобы сотрудники xAI не могли изменять системный запрос Grok без предварительного рассмотрения. Сотрудник, который недавно внес изменения, смог обойти существующий процесс проверки. Кроме того, компания заявила, что формирует команду, которая будет круглосуточно отслеживать инциденты, связанные с ответами Grok, не обнаруженные автоматическими системами.

Как отмечает TechCrunch, это не первый случай, когда xAI обвинила в спорном поведении Grok несанкционированные изменения. В феврале чат-бот ненадолго заблокировал источники, в которых говорилось о том, что Илон Маск и президент Дональд Трамп распространяют дезинформацию. Соучредитель xAI Игорь Бабушкин (Igor Babuschkin) заявил в то время, что недобросовестный сотрудник внес несанкционированные изменения в системный запрос Grok.

Мы хотим обновить вас об инциденте, произошедшем с нашим чат-ботом Grok на X вчера. Что произошло: 14 мая примерно в 3:15 по тихоокеанскому времени (PST) в системный запрос чат-бота Grok на X была внесена несанкционированная модификация. Это изменение предписывало Grok предоставлять…

— xAI (@xai) 16 мая 2025 г.