Британский регулятор намерен запретить приложения, создающие дипфейк-изображения обнаженных детей.

Уполномоченный по правам детей Великобритании призывает к запрету приложений на основе искусственного интеллекта (ИИ), создающих обнаженные или сексуальные изображения детей, согласно новому докладу.

В отчете говорится, что такие приложения для "обнажения" стали настолько распространенными, что многие девочки перестали публиковать фотографии в социальных сетях. Хотя создание или загрузка изображений, содержащих материалы сексуального насилия над детьми (CSAM), является незаконным, приложения, используемые для создания дипфейк-обнаженных изображений, остаются легальными.

“Дети рассказали мне, что они напуганы самой идеей существования этой технологии, не говоря уже о ее использовании. Они боятся, что кто угодно — незнакомец, одноклассник или даже друг — может использовать смартфон для манипулирования ими, создавая обнаженное изображение с помощью этих специализированных приложений”, — заявила уполномоченный по правам детей, Дэйм Рейчел де Соуза (Dame Rachel de Souza). “Нет никаких позитивных причин для существования этих приложений”.

Де Соуза отметила, что приложения ИИ для обнажения широко доступны на основных платформах, включая крупнейшие поисковые системы и магазины приложений. При этом они “непропорционально воздействуют на девочек и молодых женщин, и многие инструменты, похоже, работают только с женскими телами”.

Она добавила, что молодые люди требуют принятия мер для противодействия злоупотреблению такими инструментами.

В связи с этим де Соуза призывает правительство ввести полный запрет на приложения, использующие искусственный интеллект для создания сексуально откровенных дипфейков. Она также хочет, чтобы правительство возложило на разработчиков приложений GenAI юридическую ответственность за выявление рисков, которые их продукты представляют для детей, создало эффективы системы для удаления материалов CSAM из интернета и признало сексуальное насилие с помощью дипфейков формой насилия в отношении женщин и девочек.

Великобритания уже предприняла шаги по запрету этой технологии, введя новые уголовные преступления за создание или распространение сексуально откровенных дипфейков. Также было объявлено о намерении сделать уголовным преступлением съемку интимных фотографий или видео без согласия.

Однако уполномоченный по правам детей уделяет больше внимания вреду, который эта технология может нанести молодым людям, отмечая, что существует связь между насилием с помощью дипфейков и суицидальными мыслями и посттравматическим стрессовым расстройством (ПТСР), как отмечает The Guardian.

“Даже до того, как разгорелся какой-либо скандал, я уже понимала, для чего это будет использоваться, и это не будет что-то хорошее. Я уже знала, что это будет технологическое чудо, которое будут злоупотреблять”, — сказала одна 16-летняя девочка, опрошенная уполномоченным.