AI и Социальные Сети

Вчера утром я зашел в Facebook и увидел изображение Колизея, превращенного в аквапарк. В LinkedIn все были заняты созданием сгенерированных AI профилей. В X (ранее известном как Twitter) все спорили о том, действительно ли это был ИИ, а не человек. В Instagram сгенерированные ИИ фотографии были идеальны, но пустые.

Если говорить откровенно, я начал чувствовать себя немного не в своей тарелке.

AI не просто сломал социальные сети, он сломал правду

Социальные сети и раньше не были идеальными. AI не начал гниение, все уже пошло на спад. Но эта последняя волна генеративного контента привела его прямо к жуткому, производному, сводящему с ума хаосу. И если AI наводняет наши ленты бессмысленным шлаком, он также делает что-то более опасное: использует его в качестве оружия.

Можно посмеяться над сгенерированными AI детенышами знаменитостей или поморщиться от рекламы бренда, вылезшей из долины странного. Но эта реакция упускает из виду более масштабную, более страшную картину. Потому что AI может распространять дезинформацию в масштабе. Например, в Европе правые группы используют сгенерированные AI изображения, чтобы спровоцировать возмущение, распространять теории заговора и разжигать рознь. И это не просто маргинальные тролли – это скоординированные кампании, предназначенные для манипулирования общественным мнением.

Это всего лишь один пример. Дезинформация о выборах, дипфейк-порнография, поддельные кадры войны. Да, это тот контент, который всегда существовал в Интернете. Только сейчас правила изменились. Вам не нужны навыки. Вам не нужна команда. Вам даже не нужен бюджет. Просто повествование и готовность отказаться от реальности. И в социальных сетях все остальное сделает само за себя.

Четыре категории AI-контента

Категоризация хаоса помогает объяснить, почему AI-контент кажется неизбежным и почему он затрагивает столько разных оттенков дистопии.

• Наполнитель: Создается просто потому, что это возможно. Не имеет четкой цели или ценности.
• Усилитель: Используется для масштабирования существующего контента. Это может быть полезно, но также может привести к распространению дезинформации.
• Оптимизатор: Используется для улучшения существующего контента. Это может быть полезно, но также может привести к потере оригинальности.
• Заместитель: Используется для замены человеческого контента. Это может быть полезно, но также может привести к потере рабочих мест.

AI ради AI

Мы живем в эпоху, когда AI-контент создается просто потому, что это возможно. Люди, бренд, целые компании производят его. Не потому, что у них есть что сказать, и не потому, что это лучше, чем альтернативы, а потому, что инструменты существуют, они просты в использовании, и давление использовать их огромно.

Это говорит о более глубокой проблеме в технологиях. Просто посмотрите на недавние ошибки Apple с AI. Несмотря на весь хайп, AI не обеспечивает ту магию, на которую он был продан. Его впихивают в продукты не потому, что пользователям это нужно, а потому, что акционеры хотят слышать слово «AI» в отчетах о доходах. И прямо сейчас? Он не совершает никакой революции. На самом деле, во многих приложениях это начинает выглядеть как очень дорогая причуда.

"Это напоминает мне ранние дни торрентов или потоковой музыки – своего рода Дикий Запад", – объясняет Гульшер. "Даже если бренд ставит на них логотип, это не делает их этически хорошими. Они просто пытаются поймать волну законности и денег, пока законодательство не вмешалось слишком поздно".

Как в случае с криптовалютой или NFT, мы видим инновации, хайп, чрезмерное использование, а затем усталость. "Я думаю, что мы можем применить ту же технологическую кривую хайпа к AI-контенту", – говорит Гульшер. "У меня всегда есть какое-то предчувствие, что этот пузырь лопнет. И я все еще думаю, что это произойдет. Когда наборы данных AI начнут поглощать друг друга, когда сгенерированный AI контент начнет генерировать больше сгенерированного AI контента, а люди отвернутся. Мы посмотрим. А пока я думаю, что нам нужно немного замедлиться.

И прежде всего, нам нужно помнить, что технологии должны служить людям, а не наоборот.