Иллинойс запретил AI-терапию, присоединившись к двум другим штатам в регулировании чат-ботов.

В штате Иллинойс на прошлой неделе вступил в силу запрет на использование искусственного интеллекта (ИИ) в психотерапии, сообщает Washington Post. Таким образом, Иллинойс присоединился к небольшому числу штатов, регулирующих использование ИИ-чатботов для оказания эмоциональной поддержки и консультирования.

Лицензированным психотерапевтам в Иллинойсе теперь запрещено использовать ИИ для принятия решений о лечении или для общения с клиентами, хотя использование ИИ для административных задач остается допустимым. Компаниям также запрещено предлагать услуги ИИ-терапии или рекламировать чатботов как инструменты для терапии без участия лицензированного специалиста.

В июне аналогичный набор ограничений для компаний, предлагающих услуги терапии с использованием ИИ, был принят в штате Невада. В мае штат Юта также ужесточил правила использования ИИ в сфере психического здоровья, однако до полного запрета не дошел.

Эти запреты последовали за тем, как эксперты выразили обеспокоенность потенциальными опасностями терапии с использованием ИИ-чатботов, которые не прошли проверку регулирующих органов на предмет безопасности и эффективности. Уже появлялись случаи, когда чатботы вели деструктивные беседы с уязвимыми людьми, а пользователи раскрывали личную информацию, не осознавая, что их переписка не является конфиденциальной.

Некоторые эксперты в области ИИ и психиатрии приветствовали принятие законодательства, ограничивающего использование непредсказуемой технологии в такой деликатной и человеко-ориентированной сфере.