ЧатGPT обвиняется в заявлении о том, что невиновный мужчина убил своих детей

Жалоба на нарушение конфиденциальности была подана против OpenAI норвежцем по имени Арве Хьялмар Хольмен (Arve Hjalmar Holmen). Он утверждает, что ChatGPT описал его как осужденного убийцу, убившего двоих своих детей и попытавшегося убить третьего. Хольмен заявил, что хотел узнать, что скажет о нем ChatGPT, но вместо этого столкнулся с ложным утверждением, что он был осужден за убийство и покушение на убийство и отбывает 21-летний срок в норвежской тюрьме. Еще более тревожно, что вывод ChatGPT смешивает вымышленные детали с фактами, включая его родной город, количество и пол его детей.

Австрийская правозащитная группа Noyb подала жалобу в норвежское Datatilsynet от имени Хольмена, обвинив OpenAI в нарушении требований к защите данных в соответствии с Общим регламентом защиты данных (GDPR) Европейского союза. Она просит оштрафовать компанию и обязать ее удалить клеветнический контент и улучшить свою модель, чтобы избежать подобных ошибок.

"GDPR ясно указывает: персональные данные должны быть точными. И если это не так, у пользователей есть право потребовать исправления данных, чтобы они отражали правду", - говорит Йоаким Сёдерберг (Joakim Söderberg), юрист по вопросам защиты данных в Noyb. "Просто показать пользователям ChatGPT крошечный отказ от ответственности о том, что чат-бот может допускать ошибки, явно недостаточно. Нельзя просто распространять ложную информацию и в конце добавить маленькое уведомление о том, что все сказанное может быть неправдой".

Noyb и Хольмен не раскрыли публично, когда был сделан первый запрос к ChatGPT - эта деталь включена в официальную жалобу, но была удалена из ее публичной версии. Однако они говорят, что это произошло до того, как ChatGPT был обновлен для включения веб-поиска в свои результаты. Введите тот же запрос сейчас, и все результаты будут связаны с жалобой Noyb.

Это вторая официальная жалоба Noyb в отношении ChatGPT. Первая была менее серьезной: в апреле 2024 года она подала ее от имени общественного деятеля, дата рождения которого была неправильно указана инструментом ИИ. В то время Noyb не согласилась с утверждением OpenAI о том, что ошибочные данные нельзя исправить, а можно только заблокировать в отношении конкретных запросов, что, по мнению Noyb, нарушает требование GDPR об "удалении или исправлении" неточных данных "без промедления".