Copilot обнажает частные страницы GitHub, некоторые удалены Microsoft

Искусственный интеллект помощник Copilot от Microsoft выдает содержимое более чем 20 000 приватных репозиториев GitHub компаний, включая Google, Intel, Huawei, PayPal, IBM, Tencent и, иронично, Microsoft. Эти репозитории, принадлежащие более чем 16 000 организациям, изначально были опубликованы на GitHub как открытые, но позже были переведены в приватный режим, часто после того как разработчики поняли, что они содержали учетные данные для несанкционированного доступа или другие конфиденциальные данные. Однако даже спустя месяцы эти приватные страницы остаются полностью доступными через Copilot.

Компания Lasso, занимающаяся безопасностью ИИ, обнаружила это поведение во второй половине 2024 года. В январе было выявлено, что Copilot продолжает хранить приватные репозитории и делает их доступными. Lasso решила измерить масштаб проблемы.

Сообщество разработчиков обеспокоено этим инцидентом, так как это может привести к серьезному ущербу безопасности конфиденциальной информации.