Роблокс, Дискорд, ОпенЭй ai и Гугл создали новую группу по защите детей.

Roblox, Discord, OpenAI и Google запускают некоммерческую организацию под названием ROOST (Robust Open Online Safety Tools), которая надеется "создать масштабируемую и совместимую инфраструктуру безопасности, подходящую для эпохи ИИ". Организация планирует предоставлять бесплатные и открытые для всех источники средства безопасности, которые можно использовать на собственных платформах общественными и частными организациями. Особое внимание будет уделено безопасности детей.

Пресс-релиз ROOST особо подчеркивает планы по предоставлению "инструментов для обнаружения, проверки и отчетности о детском сексуальном материале (CSAM)". Партнерские компании обеспечивают финансирование этих инструментов и предоставляют технические знания для их разработки.

Основная концепция ROOST заключается в том, что доступ к генеративному ИИ быстро меняет онлайн-ландшафт, делая необходимость "надежной и доступной инфраструктуры безопасности" еще более актуальной. Вместо того чтобы ждать, пока небольшие компании или организации сами разработают собственные средства безопасности с нуля, ROOST предлагает предоставить их бесплатно.

Вопрос о безопасности детей онлайн был актуален с тех пор, как в Конгрессе были представлены Children and Teens' Online Privacy Protection Act (COPPA) и Kids Online Safety Act (KOSA), хотя оба закона не прошли голосование в Палате представителей. По крайней мере некоторые из компаний, участвующих в ROOST, особенно Google и OpenAI, уже пообещали прекратить использование ИИ-инструментов для генерации CSAM.

Вопрос безопасности детей является еще более важным для Roblox. По состоянию на 2020 год две трети всех американских детей в возрасте от девяти до двенадцати лет играют на платформе Roblox, которая исторически сталкивалась с проблемами обеспечения безопасности детей. Bloomberg Businessweek сообщало о "проблеме педофилов" у компании в 2024 году, что привело к множеству изменений политик и новых ограничений для переписки детей через DMs.

ROOST не решит все эти проблемы сразу, но должно облегчить их решение для любой другой организации или компании, которая оказалась бы в подобной ситуации Roblox.