OpenAI блокирует множество учетных записей, использующих ChatGPT с нарушениями

Компания OpenAI заблокировала аккаунты, использующие ChatGPT для злонамеренных целей. Были выявлены кампании по распространению дезинформации и слежки. Злоумышленники всё чаще используют ИИ для причинения вреда. OpenAI подтвердила, что недавно обнаружила ряд аккаунтов, участвовавших в злонамеренных кампаниях, и заблокировала пользователей, ответственных за эти действия.

Заблокированные аккаунты, связанные с кампаниями «Peer Review» и «Sponsored Discontent», вероятно, происходят из Китая. По словам компании, они "использовали или пытались использовать модели, созданные OpenAI и еще одной американской лабораторией ИИ, в рамках предполагаемой операции слежки и для генерации антиамериканских материалов".

ИИ способствовал росту дезинформации и стал полезным инструментом для злоумышленников для подрыва выборов и ослабления демократии в нестабильных или политически разделённых странах. Государственно спонсируемые кампании также использовали эту технологию себе на пользу.

Кампания «Peer Review» применила ChatGPT для создания "подробных описаний, аналогичных рекламным письмам, инструментов слежки за социальными сетями", которые якобы использовались для передачи в реальном времени отчётов о протестах на Западе китайским службам безопасности. В рамках этой кампании по слежке злоумышленники использовали модель для "редактирования и отладки кода, а также создания рекламных материалов" для подозрительных ИИ-инструментов слежки за социальными сетями. Однако OpenAI не смогла найти соответствующие сообщения в социальных сетях после кампании.

Аккаунты ChatGPT, участвовавшие в кампании «Sponsored Discontent», использовались для генерации комментариев на английском языке и новостных статей на испанском, что соответствует поведению "спамофильги". Основной акцент делался на антиамериканских риторических формулировках, вероятно, для разжигания недовольства в Латинской Америке, особенно в Перу, Мексике и Эквадоре.

Это не первый случай, когда государственные спонсоры из Китая используют тактику "спамофильги" для распространения дезинформации. В конце 2024 года была выявлена китайская кампания влияния на американских избирателей с использованием тысяч ИИ-генерированных изображений и видео, в основном низкого качества и содержащих ложную информацию.