Музыкальные сервисы распространяли сгенерированные искусственным интеллектом альбомы, имитирующие голоса настоящих исполнителей.

В музыкальной индустрии наблюдается тревожная тенденция: все чаще поддельные альбомы и песни появляются в каталогах известных (но не суперзвезд) исполнителей на платформах, таких как Spotify и других стриминговых сервисах.

Даже ушедшие из жизни музыканты не избежали появления сгенерированного искусственным интеллектом "нового" материала в своих каталогах. По данным аналитиков Luminate, ежедневно на стриминговые сервисы загружается около 99 000 песен, как правило, через десятки дистрибьюторских сервисов, которые запрашивают информацию об исполнителе. Если эти данные указаны неверно, а песня ошибочно появляется под именем существующего артиста, то ответственность за удаление ложной записи ложится на него или его лейбл.

Согласно статье, компании Spotify потребовалось три недели, чтобы удалить поддельные треки фолк-исполнительницы Эмили Портман (Emily Portman), и она до сих пор не восстановила контроль над своим профилем артиста на Spotify. Эмили Портман отмечает, что в условиях, когда стриминговая эпоха уже существенно снизила доходы многих музыкантов, этот инцидент стал для неё особенно болезненным. Она подозревает, что целью злоумышленников являются независимые артисты, поскольку звезды имеют больше защиты и возможностей для быстрого удаления мошеннических релизов.

Подобные случаи зафиксированы и в отношении ряда исполнителей в жанрах американа и фолк-рок, включая фронтмена группы Wilco Джеффа Твиди (Jeff Tweedy), Джей Тильмана (J Tillman), известного как Father John Misty, Сэма Бима (Sam Beam), также известного как Iron & Wine, Тедди Томпсона (Teddy Thompson) и Якоба Дилана (Jakob Dylan).

Все эти релизы оформлены в едином стиле с использованием изображений, сгенерированных искусственным интеллектом, и приписываются трем лейблам, два из которых имеют, по-видимому, индонезийские названия. Во многих случаях автором песен указан Зьян Малик Махардика (Zyan Maliq Mahardika). Это же имя фигурирует в качестве автора других песен, имитирующих творчество американских христианских музыкантов и металкор-групп. Компания Spotify заявила, что выявила проблему с дистрибьютором и удалила эти треки, поскольку они нарушают политику платформы, запрещающую выдавать себя за другое лицо или бренд. Также компания пообещала удалять любого дистрибьютора, который неоднократно допускает размещение подобного контента на своей платформе.

Татьяна Сирисано (Tatiana Cirisano) из аналитической компании Midia Research отмечает, что искусственный интеллект облегчает задачу мошенников, а слушатели в эпоху алгоритмов становятся более пассивными. По её мнению, злоумышленники, выдающие себя за известных артистов, надеются, что их поддельные треки наберут достаточное количество прослушиваний – сотни тысяч – чтобы получить прибыль. Она считает, что мошенники нацелены на менее известных артистов в надежде, что их схемы останутся незамеченными, в отличие от попыток обмана суперзвезды, которая может немедленно обратиться в Spotify.

Однако стриминговые сервисы и дистрибьюторы активно работают над решением этой проблемы и совершенствуют методы выявления подделок, в том числе, иронично, с помощью искусственного интеллекта и машинного обучения.