Reddit запретил исследователям, использовавшим AI-ботов для манипулирования комментаторами.

Пользователи популярного сабреддита r/changemymind обнаружили на прошлых выходных, что в течение нескольких месяцев их обманывали. Исследователи из Университета Цюриха предприняли попытку "исследовать убедительность больших языковых моделей (LLM) в естественной онлайн-среде", развернув ботов, выдававших себя за консультанта по травмам, "чернокожего мужчину, выступающего против движения Black Lives Matter", и выжившего после сексуального нападения. Боты оставили 1783 комментария и набрали более 10 000 единиц кармы, прежде чем были разоблачены.

Теперь главный юрисконсульт Reddit Бен Ли (Ben Lee) заявил, что компания рассматривает возможность юридических действий в связи с "неправомерным и крайне неэтичным экспериментом", который "глубоко неправилен как на моральном, так и на юридическом уровне". Исследователи были заблокированы на Reddit. Университет Цюриха сообщил изданию 404 Media, что проводит расследование методов проведения эксперимента и не будет публиковать его результаты. Однако части исследования все еще можно найти в сети. Работа не прошла рецензирование и к ней следует относиться с большой осторожностью, но то, что в ней утверждается, представляет интерес.

Используя GPT-4o, Claude 3.5 Sonnet и Llama 3.1-405B, исследователи инструктировали ботов манипулировать комментаторами, анализируя их публикации.