Актёры, продавшие AI-аватары, оказались в антиутопии, похожей на "Чёрное зеркало"

Некоторые актеры, продавшие лицензии на использование своих изображений компаниям, создающим AI-видео, таким как Synthesia, теперь сожалеют об этом решении, обнаружив, что их цифровые аватары используются в вводящем в заблуждение, компрометирующем или политически ангажированном контенте. Как сообщает Ars Technica, среди них 29-летний актер из Нью-Йорка, Адам Кой (Adam Coy), который лицензировал права на свое лицо и голос компании MCM на один год за 1000 долларов, не задумываясь, "не перехожу ли я черту, делая это?". По его словам, мать его партнерши позже обнаружила видео, где он выступает в роли прорицателя, предсказывающего катастрофы. Южнокорейский актер Саймон Ли (Simon Lee) столкнулся с аналогичной ситуацией, когда его AI-подобие использовалось для обмана наивных пользователей интернета, но в потенциально более вредной форме. Он сообщил AFP, что был "ошеломлен", обнаружив, что его AI-аватар продвигает "сомнительные методы лечения на TikTok и Instagram", испытывая стыд от того, что его лицо связано с явными мошенническими схемами.

Даже компания, публично приверженная этичному развитию AI-аватаров и предотвращению их использования в вредоносном контенте, такая как Synthesia, не может гарантировать, что ее контент-модерация выявит все случаи злоупотреблений. Британский актер Коннор Йейтс (Connor Yeates) рассказал AFP, что его видео было "использовано для продвижения Ибрагима Траоре, президента Буркина-Фасо, пришедшего к власти в результате переворота в 2022 году", что является нарушением условий использования Synthesia. Йейтс получил около 5000 долларов за трехлетний контракт с Synthesia, который он подписал просто потому, что у него "нет богатых родителей и ему нужны были деньги". Однако он, вероятно, не мог предвидеть, что его лицо будет использовано для пропаганды, поскольку даже Synthesia не предвидела такого исхода.

Другие могут быть недовольны видео с их AI-аватарами, но считают финансовое вознаграждение достаточно высоким, чтобы компенсировать неприятные ощущения. Кой подтвердил, что деньги мотивировали его решение, и хотя он нашел "сюрреалистичным" изображение себя в роли мошенника, продающего антиутопическое будущее, это не остановило его от заключения, что "это неплохие деньги за небольшую работу". В потенциале улучшая ситуацию для актеров, Synthesia формирует талант-программу, которая, по их утверждению, даст актерам возможность участвовать в принятии решений об AI-аватарах. "Вовлекая актеров в процессы принятия решений, мы стремимся создать культуру взаимного уважения и постоянного совершенствования", – говорится в блоге Synthesia.