Пользователи сообщают об эмоциональной связи с поразительно реалистичным демо голоса ИИ

Анонимный читатель цитирует материал от Ars Technica:

В конце 2013 года фильм Спайка Джонса «Она» представил будущее, где люди будут формировать эмоциональные связи с голосовыми ассистентами на основе ИИ. Буквально через 12 лет эта вымышленная концепция приблизилась к реальности благодаря выпуску нового модельного голосового помощника от стартапа Sesame, который оставил многих пользователей и впечатлёнными, и встревоженными.

"Я попробовал демо, и меня действительно удивило, насколько это звучало по-человечески", — написал один из пользователей Hacker News, протестировавший систему. "Слегка тревожно осознавать, что я могу начать испытывать эмоциональную привязанность к голосовому ассистенту с таким уровнем человеческого звучания".

В конце февраля Sesame выпустила демо своей новой Модели Разговорного Голоса (CSM), которая, похоже, пересекает ту область, которую многие считают "долиной привидений" для сгенерированной ИИ речи. Некоторые участники тестирования рассказали об эмоциональных связях с мужским или женским голосовым ассистентом ("Майлс" и "Майя"). В нашем собственном оценочном разговоре мы общались с мужским голосом около 28 минут, обсуждая жизнь в целом и то, как модель определяет, что является "правильным" или "неправильным", исходя из своих обучающих данных. Синтезированный голос был выразительным и динамичным, имитируя звуки дыхания, смех, прерывания и даже иногда спотыкаясь о слова и исправляясь. Эти недостатки внесены намеренно.

"В Sesame наша цель — достичь 'присутствия голоса' — магического качества, которое делает разговорные взаимодействия реальными, понятными и ценимыми", — пишет компания в блоге. "Мы создаем разговорных партнёров, которые не только обрабатывают запросы; они участвуют в настоящем диалоге, который постепенно развивает доверие и уверенность. Мы надеемся освоить нереализованный потенциал голоса как конечного интерфейса для инструкций и понимания".

Sesame вызвала оживлённую дискуссию на Hacker News об её возможных применениях и рисках. Некоторые пользователи рассказали, что вели продолжительные разговоры с двумя демоверсиями голосовых помощников, общаясь до максимального лимита в 30 минут. В одном случае родитель рассказал о том, как его четырёхлетняя дочь почувствовала эмоциональную привязанность к модели ИИ и плакала из-за того, что ей не разрешили снова с ним общаться.