Иностранные пропагандисты продолжают использовать ChatGPT в кампаниях по влиянию.

Кита́йская пропага́нда и опера́ции по со́циальной инжене́рии использу́ют ChatGPT для созда́ния публика́ций, коммента́риев и повыше́ния вовлече́нности как внутри страны, так и за рубежо́м. OpenAI заяви́ла, что не́давно пресекла́ че́тыре кита́йские скры́тые опера́ции влия́ния, кото́рые испо́льзовали её инструме́нт для генера́ции публика́ций и отве́тов в со́циальных сетях на платформа́х, вклю́чая TikTok, Facebook, Reddit и X. Сгенери́рованные коммента́рии охваты́вали различ́ные те́мы – от америка́нской поли́тики до тайва́нской видеоигры́, в кото́рой игроки́ сража́ются про́тив Коммунисти́ческой па́ртии Кита́я. ChatGPT испо́льзовался для созда́ния публика́ций в со́циальных сетях, кото́рые поддержива́ли и критикова́ли различ́ные о́стрые вопро́сы, что́бы спровоци́ровать вводя́щий в заблужде́ние поли́тический диску́рс. Бен Ниммо (Ben Nimmo), веду́щий исследова́тель в OpenAI, сообщи́л NPR, что «мы наблюда́ем расту́щий спе́ктр скры́тых опера́ций из Кита́я, испо́льзующих расту́щий спе́ктр та́ктик».

OpenAI также́ заяви́ла, что пресекла́ не́сколько опера́ций, предположи́тельно исходя́щих из Росси́и, Ира́на и Се́верной Коре́и, однако́ Ниммо уточни́л, что кита́йские опера́ции «бы́ли наце́лены на мно́гие различ́ные стра́ны и те́мы […] не́которые из них объединя́ли элеме́нты опера́ций влия́ния, со́циальной инжене́рии и наблюде́ния».

Это далёко не пе́рвый подобный случай. В 2023 году исследова́тели из кибербезопа́сной фирмы Mandiant обнаружи́ли, что конте́нт, сгенери́рованный иску́сственным интеллеќтом, неоднокра́тно испо́льзовался в полити́чески мотиви́рованных онлайн-кампа́ниях влия́ния, начиная с 2019 года. В 2024 году OpenAI опубликова́ла блог, в кото́ром подробно́ описа́ла свои́ уси́лия по пресе́чению пяти опера́ций, свя́занных с госуда́рственными стру́ктурами Кита́я, Ира́на и Се́верной Коре́и, кото́рые испо́льзовали моде́ли OpenAI в злонаме́ренных це́лях. Эти приложе́ния включа́ли отла́дку ко́да, созда́ние сцена́риев и конте́нта для испо́льзования в фи́шинговых кампа́ниях. В том же году OpenAI заяви́ла, что пресекла́ ира́нскую опера́цию, кото́рая испо́льзовала ChatGPT для созда́ния длинных полити́ческих ста́тей о вы́борах в США, кото́рые за́тем публикова́лись на са́йтах фейковы́х но́востей, выдава́ющих себя́ как за консерва́тивные, так и за прогресси́вные изда́ния. Опера́ция также́ создава́ла коммента́рии для публика́ции в X и Instagram че́рез подде́льные акка́унты, вновь выража́я про́тивоположные то́чки зре́ния.

«Мы не замети́ли, что́бы эти опера́ции получа́ли бо́льше вовлече́нности благода́ря испо́льзованию ИИ», – рассказа́л Ниммо NPR. «Для э́тих опера́ций лу́чшие инструме́нты не обяза́тельно означа́ют лу́чшие результы́.»

Это ма́ло уте́шает. По ме́ре того, как генерати́вный ИИ стано́вится де́шевле и умне́е, логи́чно предположи́ть, что его́ спосо́бность генери́ровать конте́нт в массо́вом поря́дке облегчи́т и удеше́вит созда́ние подобны́х кампа́ний влия́ния, да́же если́ их э́ффективность оста́нется прежней.