Обзор ИИ от Google привёл его к номеру службы поддержки клиентов. Это был обман.

Застройщик недвижимости искал в Google номер службы поддержки круизной компании, сообщает Washington Post, и позвонил по номеру, указанному в AI Overview от Google. "Он пообщался с компетентным представителем и предоставил данные своей кредитной карты", – отмечает журналист Post, – но на следующий день "заметил подозрительные списания со своей карты и понял, что его обманул самозванец, выдававший себя за службу поддержки Royal Caribbean".

Журналист Post обнаружил, что тот же номер телефона "выдает себя за горячие линии других круизных компаний и появляется в Google и ChatGPT" (включая Disney и Princess от Carnival):

Представитель знал стоимость и места отправления шаттлов Royal Caribbean в Венеции. [И "приводил убедительные объяснения", когда его спрашивали о необходимости оплаты определенных сборов и чаевых]. Представитель предложил отказаться от платы за шаттлы…

Вот как обычно работает подобная схема: злоумышленники размещают на сайтах с отзывами, форумах и других веб-ресурсах информацию о том, что определенный номер телефона принадлежит в колл-центру компании. Когда вы ищете в Google, его технология ищет подсказки для релевантной и достоверной информации, включая онлайн-советы. Если номера телефонов, контролируемые мошенниками, достаточно часто упоминаются в сети как достоверные, Google может предложить их пользователям, ищущим информацию о компании.

Google становится соучастником мошенников, а мы – их жертвами. AI Overview от Google и ChatGPT от OpenAI могут использовать аналогичные подсказки, как и поисковая система Google, для получения информации из сети. Это делает их новыми соучастниками старых схем с подменой номеров телефонов.

"Я видел множество подобных уловок, нацеленных на пользователей Google, и считаю, что компания недостаточно делает для защиты своего основного шлюза к информации", – заключает журналист (добавляя, что с ним согласны "два эксперта, хорошо знакомые с внутренними процессами Google"). Washington Post теперь советует своим читателям "с подозрением относиться к номерам телефонов, отображаемым в результатах поиска Google или в чат-ботах".

Представитель Google сообщил Washington Post, что они "приняли меры" в отношении нескольких номеров телефонов-самозванцев, выявленных журналистом. Он также отметил, что Google продолжает "работать над более широкими улучшениями" для "устранения более редких запросов, подобных этим".

OpenAI сообщила, что многие веб-страницы, на которых ChatGPT ссылался на поддельный номер круизной компании, были удалены, и что для обновления информации может потребоваться время "после удаления неправомерного контента в источнике".

Тем временем, мужчина, столкнувшийся с подозрительными списаниями, отменил свою кредитную карту, сообщает Washington Post, и списания были отменены. Размышляя о своем опыте, он говорит читателям Washington Post: "Не могу поверить, что попался на эту уловку. Будьте осторожны".