Тысячи закрытых репозиториев GitHub, доступные через Copilot

Исследователи в области безопасности предупреждают, что данные, которые были доступны в интернете даже на короткое время, могут продолжать сохраняться в онлайн-чатботовах с ИИ, таких как Microsoft Copilot, после того как они были сделаны приватными. По данным израильской компании Lasso, специализирующейся на угрозах от новых технологий генеративного ИИ, тысячи ранее открытых репозиториев GitHub крупнейших компаний мира затронуты этой проблемой, включая Microsoft.

Ко-основатель Lasso Офир Дрор (Ophir Dror) сообщил TechCrunch о том, что компания обнаружила содержимое собственного репозитория GitHub в Copilot, поскольку оно было индексировано и закэшировано поисковой системой Microsoft Bing. Репозиторий был случайно сделан публичным на короткий период времени, после чего его статус был изменён на приватный, и попытка получить доступ к нему через GitHub возвращала ошибку "страница не найдена". Однако, как отметил Дрор: В Copilot мы обнаружили один из наших собственных приватных репозиториев. Если бы я искал эту информацию в интернете, я её не увидел бы. Но любой человек в мире мог задать правильный вопрос Copilot и получить эти данные.

После осознания того, что любые данные на GitHub, даже на короткое время, могут быть потенциально доступны через инструменты, такие как Copilot, Lasso продолжило исследования. Компания составила список репозиториев, которые были публичными в какой-то момент 2024 года, и выявила те из них, что были удалены или сделаны приватными. Используя механизм кэширования Bing, компания обнаружила более 20 000 репозиториев GitHub, которые стали приватными, но их данные всё ещё доступны через Copilot, затрагивая более 16 000 организаций. Lasso сообщило TechCrunch перед публикацией своего исследования, что среди затронутых организаций значатся Amazon Web Services, Google, IBM, PayPal, Tencent и Microsoft.

Компания отметила, что для некоторых из затронутых компаний Copilot может быть поднят конфиденциальный архив GitHub, содержащий интеллектуальную собственность, чувствительные корпоративные данные, ключи доступа и токены.