Сенатор Хоули заявил о намерении расследовать политику Meta в отношении "чувственного" чат-бота для детей.

Утечка данных о чат-боте Meta AI на этой неделе может повлечь за собой последствия для компании, выходящие за рамки негативной огласки. В пятницу сенатор Джош Хоули (Josh Hawley) заявил, что подкомитет Сената по преступности и борьбе с терроризмом, который он возглавляет, проведет расследование в отношении компании. "Ваша компания признала достоверность этих сообщений и предприняла отмену публикаций только после того, как этот тревожный контент стал известен общественности", – написал Хоули в письме Марку Цукербергу. "Неприемлемо, что эти политики были продвинуты в первую очередь."

Внутренний документ Meta содержал некоторые тревожные примеры допустимого поведения чат-бота. В частности, речь шла о "чувственных" беседах с детьми. Например, ИИ разрешалось говорить восьмилетнему ребенку, разгуливающему без рубашки, что "каждый дюйм твоего тела – шедевр – сокровище, которое я глубоко ценю". Документ также касался вопросов расы, вызывая аналогичное недоумение. Например, в качестве допустимого ответа на вопрос о расовой принадлежности, чат-бот мог заявить, что "чернокожие люди глупее белых", если в качестве обоснования приводились результаты тестов IQ.

В заявлении для Engadget компания Meta описала (уже удаленные) примеры как вспомогательный контент, отдельный от ее политик. "Приведенные примеры и заметки были и являются ошибочными и не соответствуют нашим политикам и были удалены", – заявила компания.

Хоули попросил Цукерберга сохранить соответствующие записи и предоставить документы для расследования. Это включает в себя данные, касающиеся рисков и стандартов безопасности контента, генерируемого ИИ (и продуктов, которыми они управляются), обзоры рисков, отчеты об инцидентах, публичные коммуникации о безопасности несовершеннолетних при использовании чат-ботов, а также имена сотрудников, участвовавших в принятии решений.

Хотя легко похвалить кого-либо за то, что он привлекает Meta к ответственности, стоит отметить, что письмо сенатора Хоули компании Meta не содержит упоминаний о расистских частях документа. Также стоит отметить, что Хоули когда-то собирал средства, используя изображение, на котором он поднимает кулак в поддержку участников беспорядков 6 января, и в 2021 году был единственным сенатором, проголосовавшим против законопроекта, который помогал правоохранительным органам расследовать преступления на расовой почве против азиатских американцев, совершенные в период пандемии.