Данные для обучения GenAI подвергают компании риску

Новый отчет свидетельствует о том, что предприятия ежемесячно обмениваются 7,7 ГБ данных с приложениями генеративного искусственного интеллекта (GenAI), что в 30 раз больше, чем 12 месяцев назад.

Это резкое увеличение объемов обмена данными подчеркивает огромный потенциал уязвимостей, если не обеспечить надлежащий уровень защиты. Исследование Netskope показало, что средняя организация сейчас обменивается 7,7 ГБ данных в месяц с такими приложениями, по сравнению с 250 МБ за аналогичный период 12 месяцев назад. Среди передаваемых данных – конфиденциальная информация, такая как исходный код, интеллектуальная собственность, регулируемые данные, пароли и ключи. Netskope призывает компании серьезно рассмотреть вопрос о том, как они разделяют свои данные с третьими сторонами.

Рост "теневого" GenAI

Хотя многие случаи связаны с правильным использованием инструментов ИИ, исследование Netskope выявило тревожный рост явления "теневого" GenAI – это инструменты искусственного интеллекта, которые сотрудники используют без санкции или одобрения со стороны своих компаний. Почти три четверти (72%) пользователей предприятий используют приложения GenAI с личными учетными записями для работы.

В целом предприятия отстают от темпов внедрения инструментов ИИ. Ярким примером этого является DeepSeek AI. В течение нескольких недель после запуска его использовали 91% пользователей предприятий, однако у большинства компаний не было надежных политик безопасности. Netskope также раскритиковала предприятия за подход "блокирования по умолчанию" – из-за ограничения доступа сотрудников к инструментам ИИ работники чаще прибегают к "теневому" ИИ, что ставит компании под еще больший риск. Вместо этого компании должны рассмотреть возможность безопасного их включения.

Интересно, что отчет показывает заметную тенденцию к локальной инфраструктуре GenAI, при которой 54% организаций запускают локальные версии, по сравнению с менее чем 1% годом ранее. "[GenAI] становится все более интегрированным во все, от специализированных приложений до интеграции в системы back-end", – сказал Рэй Кэнзанесе (Ray Canzanese), директор лаборатории угроз Netskope. "Эта повсеместность представляет собой растущий вызов кибербезопасности, требующий от организаций принятия комплексного подхода к управлению рисками или риска экспонирования своих конфиденциальных данных третьим сторонам, которые могут использовать их для обучения новых моделей ИИ, создавая возможности для еще более широких утечек данных", – добавил Кэнзанесе.

В будущем Netskope призывает предприятия оценивать свои инструменты, пользователей и случаи использования, чтобы предлагать более безопасные и персонализированные решения.