Искусственный интеллект, создающий бессмысленный контент, угрожает интернет-экосистеме, предупреждают исследователи.

Исследователи бьют тревогу по поводу распространения контента, сгенерированного искусственным интеллектом, который окрестили "шлаком" (англ. "slop"), и который может заглушить материалы, созданные людьми, в интернете. Фил Менцер (Fil Menczer), выдающийся профессор информатики Индианского университета, изучающий социальных ботов с начала 2010-х годов, теперь выражает серьезную обеспокоенность влиянием генеративного ИИ. "Должен ли я беспокоиться? Да, я очень обеспокоен", – заявил он Bloomberg.

Другое исследование, проведенное Джорджтаунским университетом, выявило более 100 страниц в Facebook с миллионами подписчиков, использующих изображения, сгенерированные ИИ, для мошеннических схем. Согласно данным Tollbit, компании, помогающей издателям получать компенсацию за скачивание контента с их сайтов, объем веб-скрейпинга (web scraping) удвоился с третьего по четвертый квартал 2024 года, создавая значительную нагрузку на такие сайты, как Wikipedia, во время пиковых событий.

Ситуация создает опасный замкнутый цикл, когда контент, сгенерированный ИИ, создается для удовлетворения систем рекомендаций ИИ, что потенциально может вытеснить авторов-людей. Джефф Аллен (Jeff Allen) из Integrity Institute сообщил Bloomberg, что это напоминает "цветение водорослей, которое может разрастись и задушить жизнь, которую вы хотите видеть в здоровой экосистеме".