Google Messages начал внедрять предупреждения о непристойном контенте для фотографий обнаженного тела.

Приложение Google Messages начало распространять предупреждения о чувствительном контенте для изображений, содержащих наготу, после первого представления этой функции в конце прошлого года.

Новая функция выполняет два ключевых действия, если система на основе искусственного интеллекта обнаруживает сообщение, содержащее обнаженные изображения: она размывает эти фотографии и выдает предупреждение, если ребенок пытается открыть, отправить или переслать их. Кроме того, она предоставляет ресурсы для вас и вашего ребенка, чтобы получить помощь.

Все обнаружение происходит непосредственно на устройстве, чтобы обеспечить конфиденциальность изображений и данных. Предупреждения о чувствительном контенте включены по умолчанию для контролируемых пользователей и зарегистрированных неконтролируемых подростков. Родители управляют этой функцией для контролируемых пользователей через приложение Family Link, но неконтролируемые подростки в возрасте от 13 до 17 лет могут отключить ее в настройках Google Messages. Для всех остальных функция отключена по умолчанию.

При включенных предупреждениях о чувствительном контенте изображения размываются, и появляется запрос, позволяющий пользователю заблокировать отправителя, а также предлагающий ссылку на страницу ресурсов, объясняющую, почему обнаженные изображения могут быть вредными. Затем пользователю задается вопрос, хочет ли он все еще открыть сообщение, с вариантами ответа «Нет, не просматривать» и «Да, просмотреть». При попытке отправить изображение предлагаются аналогичные варианты. Таким образом, функция не полностью блокирует детей от отправки изображений с обнаженным телом, а лишь предоставляет предупреждение.

Работа функции обеспечивается системой SafetyCore от Google, которая позволяет проводить классификацию контента на основе искусственного интеллекта непосредственно на устройстве, не отправляя "идентифицируемые данные или любой классифицированный контент или результаты на серверы Google", как утверждает компания. Распространение функции на устройствах Android только началось и пока не является широко доступным.