OpenAI запретила аккаунты из Китая, использующие ChatGPT для редактирования кода с целью общественного мониторинга

Компания OpenAI заблокировала аккаунты группы китайских пользователей, которые пытались использовать ChatGPT для отладки и редактирования кода инструмента для наблюдения за социальными сетями. По данным компании, кампания под названием Peer Review была направлена на то, чтобы группа использовала ChatGPT для создания рекламных материалов программы, предположительно предназначенной для мониторинга антикитайских настроений на платформах X (бывший Twitter), Facebook, YouTube и Instagram.

Операция явно была сосредоточена на выявлении призывов к протестам против нарушений прав человека в Китае с целью передачи этих данных властям страны. Эта сеть состояла из аккаунтов ChatGPT, которые работали в периоды времени, соответствующие рабочим часам материкового Китая, использовали модели на китайском языке и применяли наши инструменты в значительных объемах и разнообразии, что указывает на ручной, а не автоматический способ использования, — заявила OpenAI.

Операторы также использовали модель для проверки утверждений о том, что их данные были направлены посольствам Китая за рубежом и спецслужбам, наблюдавшим за протестами в США, Германии и Великобритании. Бен Ниммо (Ben Nimmo), старший исследователь OpenAI, отметил, что это был первый случай обнаружения подобного инструмента искусственного интеллекта.

Активисты иногда дают нам представление о том, чем они занимаются в других частях интернета из-за того, как они используют наши AI-модели, — сообщил Ниммо The New York Times. Большая часть кода для мониторингового инструмента была основана на открытой версии одной из моделей Meta Llama.

Группа также использовала ChatGPT для генерации годовой оценки работы, в которой утверждалось, что они написали фишинговые письма от имени клиентов из Китая. Оценка воздействия этой деятельности требует участия множества заинтересованных сторон, включая операторов любых открытых моделей, которые могут пролить свет на эту деятельность, — сказала OpenAI.

Кроме того, компания сообщила о блокировке аккаунта, который использовал ChatGPT для создания критических постов в социальных сетях о Цай Ся (Cai Xia), китайском политологе и диссиденте, проживающем в изгнании в США. Та же группа также использовала чат-бота для генерации статей на испанском языке, критикующих США. Эти статьи публиковались основными новостными организациями Латинской Америки и часто приписывались либо отдельным лицам, либо китайским компаниям.