BBC обнаружен дисторсия новостных статей искусственным интеллектом чат-ботов

Исследование BBC выявило проблемы с фактами и искажениями при суммировании новостных историй искусственными интеллект-чатботами. В ходе исследования были изучены возможности чатботов OpenAI’s ChatGPT, Google Gemini, Microsoft Copilot и Perplexity в точном суммировании новостей.

Оказалось, что более половины всех сгенерированных AI текстов содержали "значительные проблемы какого-либо рода". В рамках исследования BBC попросила чатботов ChatGPT, Copilot, Gemini и Perplexity сделать краткие записи из 100 новостных статей BBC, а журналисты проверили их ответы. Помимо обнаружения серьезных проблем в 51 проценте ответов, BBC выявила, что 19 процентов цитируемых заявлений с ошибками содержали неправильные данные, числа и даты.

Кроме того, 13 процентов цитат из BBC были либо изменены по сравнению с оригинальным источником, либо не присутствовали в указанной статье.

Исследование приводит примеры: Gemini неправильно утверждала, что Национальная служба здравоохранения Великобритании (NHS) "советует людям не начинать курить электронные сигареты и рекомендует курильщикам использовать другие методы для отказа от табака". Однако, NHS на самом деле рекомендует использование вейпа как способ бросить курить.

В декабре 2024 года ChatGPT утверждала, что Исмаил Ханьяха был частью руководства организации Hamas, хотя он был убит в июле 2024 года.

В целом исследование показало, что ответы Gemini вызвали наибольшие опасения, так как 46 процентов из них были отмечены как имеющие серьезные проблемы с точностью. The Verge обратился к компаниям OpenAI, Google, Microsoft и Perplexity за комментариями, но пока не получил ответа.

В прошлом году BBC уже указывала на то, что новые AI-сводки новостей от Apple переписывали один из заголовков неправильно. На это Apple ответила приостановкой суммирования новостей и развлечений в своих приложениях, а также сделав AI-оповещения более различимыми по сравнению с обычными оповещениями.

В ответ на исследование CEO BBC News and Current Affairs Дебора Тернесс обратилась к технологическим компаниям с просьбой устранить проблемы точности. "Мы живем в трудное время, и сколько времени потребуется прежде чем искаженный AI-заголовок нанесет серьезный реальный ущерб?" — написала Тернесс.

«Мы хотели бы, чтобы другие технологические компании услышали наши опасения так же, как это сделал Apple. Пора нам работать вместе — индустрии новостей, технологических компаний и, конечно, правительству также играет большую роль».