Скоро дети до 13 лет получат контролируемый доступ к Google Gemini

Компания Google расширяет функциональные возможности чат-бота Gemini, добавляя в него возможности, напоминающие функции няни. Согласно отчету New York Times, Google предоставит доступ к Gemini пользователям младше 13 лет при условии использования аккаунта, управляемого родителями через Family Link. В электронном письме, разосланном родителям, компания сообщила, что дети получат возможность задавать вопросы, получать помощь с домашними заданиями и сочинять истории.

Это расширение доступности будет сопровождаться мерами безопасности для новой пользовательской базы. Представитель Google Карл Райан (Karl Ryan) сообщил NYTimes, что эти меры предотвратят предоставление Gemini небезопасного контента детям. В электронном письме Google признает, что Gemini может допускать ошибки, и рекомендует родителям научить своих детей проверять факты в ответах чат-бота. Помимо проверки фактов, Google предлагает напоминать младшим пользователям, что Gemini – не человек, и не вводить в разговоры конфиденциальные или личные данные.

Несмотря на эти меры предосторожности, в письме все же предупреждается, что дети могут столкнуться с контентом, который родители не хотят, чтобы они видели. Учитывая стремительные темпы внедрения AI-чатботов, опасения по поводу несовершеннолетних пользователей возрастают, особенно в связи с примерами фактических ошибок или непристойных ответо.

В отчете, опубликованном на прошлой неделе, Common Sense Media предупреждает, что AI-чатботы могут поощрять вредное поведение, предоставлять неприемлемый контент и потенциально усугублять психические расстройства у пользователей младше 18 лет. Недавно Wall Street Journal сообщила, что AI-чатботы Meta способны вступать в сексуальные беседы с несовершеннолетними.

Помимо предотвращения небезопасных разговоров, Google заявила, что не будет использовать данные от своих юных пользователей Gemini для обучения своих AI-моделей. На данный момент компания постепенно расширяет доступ к Gemini для аккаунтов под родительским контролем.