Сложный план Apple по улучшению искусственного интеллекта, сохраняя конфиденциальность пользователей.

Apple заявила о разработке способа улучшения своих моделей искусственного интеллекта без использования или копирования данных пользователей с их iPhone и Mac. В публикации в блоге, впервые освещенной Bloomberg, компания изложила планы, согласно которым устройства будут сравнивать синтетический набор данных с образцами недавних электронных писем или сообщений от пользователей, участвующих в программе Device Analytics. Устройства Apple смогут определить, какие синтетические входные данные наиболее близки к реальным образцам, и передавать эту информацию компании, отправляя "только сигнал, указывающий, какой из вариантов наиболее близок к выборочным данным". Таким образом, по словам Apple, доступ к данным пользователей не осуществляется, и сами данные не покидают устройство.

Компания Apple затем будет использовать наиболее часто выбираемые искусственные образцы для улучшения текстовых результатов, генерируемых искусственным интеллектом, например, при создании сводок электронных писем. В настоящее время Apple обучает свои модели искусственного интеллекта только на синтетических данных, что, по мнению Марка Гурмана (Mark Gurman) из Bloomberg, может приводить к менее полезным ответам.

Apple столкнулась с трудностями при запуске своих флагманских функций Apple Intelligence, отложив запуск некоторых возможностей и заменив руководителя команды Siri. Однако теперь компания пытается изменить ситуацию, представив новую систему обучения искусственного интеллекта в бета-версиях iOS и iPadOS 15.5, а также macOS 15.5, как сообщает Гурман.

Apple активно продвигает использование метода, называемого дифференциальной конфиденциальностью (differential privacy), для защиты данных пользователей, начиная как минимум с 2016 года, когда была запущена iOS 10, и уже использовала его для улучшения функции Genmoji, основанной на искусственном интеллекте. Этот подход также применяется и к новым планам обучения искусственного интеллекта, поскольку Apple утверждает, что добавление рандомизированной информации в более широкий набор данных поможет предотвратить привязку данных к конкретному человеку.