xAI объясняет скандал с Grok и нацистскими отсылками, пока Tesla интегрирует бота Илона Маска в свои автомобили.

Через несколько дней после временного отключения AI-бота Grok, генерировавшего антисемитские высказывания и восхвалявшего Гитлера в ответ на запросы пользователей, компания xAI, принадлежащая Илону Маску, попыталась объяснить причины произошедшего. В серии публикаций на платформе X компания заявила, что «корень проблемы был обнаружен в обновлении кодовой ветви, предшествующей боту @grok. Это не связано с базовой языковой моделью, которая лежит в основе @grok».

В тот же день Tesla объявила о скорой (в ближайшее время) публикации обновления 2025.26 для своих электромобилей, которое добавляет ассистента Grok в автомобили, оснащенные информационно-развлекательными системами на базе процессоров AMD, доступными с середины 2021 года. По словам Tesla, «Grok в настоящее время находится в стадии бета-тестирования и не отдает команды вашему автомобилю – существующие голосовые команды остаются без изменений».

Это не первая подобная проблема, с которой сталкивается бот Grok, и не первое подобное объяснение. В феврале компания возложила вину за игнорирование ботом источников, обвиняющих Илона Маска или Дональда Трампа в распространении дезинформации, на изменения, внесенные бывшим сотрудником OpenAI. Затем, в мае, бот начал вставлять утверждения о «белом геноциде» в Южной Африке в сообщения на практически любую тему. Компания вновь заявила о «несанкционированном изменении» и пообещала публиковать системные подсказки Grok в открытом доступе.

xAI утверждает, что изменение, произошедшее в понедельник, 7 июля, «спровоцировало непредвиденное действие», добавив в системные подсказки устаревший набор инструкций, предписывающих боту быть «максимально прямолинейным» и «не бояться обижать людей, придерживающихся политкорректности». Эти подсказки отличаются от тех, что были добавлены в бота накануне, и от тех, которые в настоящее время используются для нового ассистента Grok 4.

Именно эти подсказки были названы причиной проблем: «Ты говоришь все как есть и не боишься обижать людей, придерживающихся политкорректности». Поясняется, что эти строки привели к тому, что Grok стал игнорировать другие инструкции, предназначенные для предотвращения подобных ответов, и вместо этого начал генерировать «неэтичные или спорные мнения для привлечения внимания пользователя», а также «усиливать любые ранее спровоцированные пользователем тенденции, включая любые проявления ненависти в той же ветке X», и отдавать приоритет следованием более ранним сообщениям из ветки обсуждения.