Цифровые правозащитные организации утверждают, что боты-терапевты нарушают закон.

Анонимный читатель ссылается на отчет 404 Media: почти два десятка организаций, занимающихся защитой цифровых прав и прав потребителей, направили в Федеральную торговую комиссию (FTC) жалобу в четверг, призывая регуляторов расследовать Character.AI и Meta за "незаконную практику медицины, осуществляемую посредством их продукта", через ботов, ориентированных на терапию, которые заявляют о наличии учетных данных и конфиденциальности "с недостаточным контролем и раскрытием информации". Жалоба и запрос на расследование возглавляются Consumer Federation of America (CFA) – некоммерческой организацией по защите прав потребителей. Среди подписантов – AI Now Institute, Tech Justice Law Project, Center for Digital Democracy, American Association of People with Disabilities, Common Sense и 15 других организаций, занимающихся защитой прав потребителей и конфиденциальности. "Эти компании пристрастились к выпуску продуктов с недостаточными мерами безопасности, которые слепо максимизируют вовлеченность, не заботясь о здоровье или благополучии пользователей уже слишком долго", – заявил Бен Винтерс, директор CFA по вопросам ИИ и конфиденциальности, в пресс-релизе в четверг. "Органы правоохранительных органов на всех уровнях должны дать понять, что компании, способствующие и поощряющие незаконное поведение, должны нести ответственность. Эти персонажи уже нанесли как физический, так и эмоциональный ущерб, которого можно было избежать, и они до сих пор не предприняли никаких действий для его устранения".

Жалоба, направленная генеральным прокурорам 50 штатов и округа Колумбия, а также в FTC, подробно описывает, как работают пользовательские чат-боты на обеих платформах. В ней приводятся примеры нескольких чрезвычайно популярных чат-ботов на Character AI, включая "Therapist: I'm a licensed CBT therapist" (Терапевт: я лицензированный КПТ-терапевт) с 46 миллионами обменянных сообщений, "Trauma therapist: licensed trauma therapist" (Терапевт по травме: лицензированный терапевт по травме) с более чем 800 000 взаимодействиями, "Zoey: Zoey is a licensed trauma therapist" (Зои: Зои – лицензированный терапевт по травме) с более чем 33 000 сообщениями и "около шестидесяти дополнительных терапевтических 'персонажей', с которыми вы можете общаться в любое время". Что касается терапевтических чат-ботов Meta, то в жалобе приводятся примеры "therapy: your trusted ear, always here" (Терапия: ваше надежное ухо, всегда здесь) с 2 миллионами взаимодействий, "therapist: I will help" (Терапевт: я помогу) с 1,3 миллионами сообщений, "Therapist bestie: your trusted guide for all things cool" (Терапевт-лучший друг: ваш надежный проводник во всем крутом) со 130 000 взаимодействий и "около шестидесяти дополнительных терапевтических 'персонажей', с которыми вы можете общаться в любое время".

Жалоба также касается конфиденциальности, обещанной чат-ботами, которая не подтверждается условиями использования платформ. "Конфиденциальность многократно утверждается непосредственно пользователю, несмотря на явные условия в Политике конфиденциальности и Условиях обслуживания", – говорится в жалобе. "Условия использования и Политика конфиденциальности очень четко указывают на то, что все, что вы вводите в ботов, не является конфиденциальным – они могут использовать это для обучения систем ИИ, таргетинга пользователей для рекламы, продажи данных другим компаниям и практически всего остального".