Взломщики используют ИИ для создания ложных отчетов об уязвимостях.

Проект с открытым исходным кодом curl борется с потоком ложных отчетов об уязвимостях, сгенерированных искусственным интеллектом. Даниэль Стенберг (Daniel Stenberg), первоначальный автор и ведущий разработчик curl, заявил в LinkedIn, что они "фактически подвергаются DDoS-атаке" этими отправками.

“Мы до сих пор не видели ни одного действительного отчета об уязвимости, созданного с помощью ИИ”, – написал Стенберг. Только за эту неделю поступило четыре отчета об уязвимостях, сгенерированных искусственным интеллектом, в надежде на признание или получение вознаграждения (bounty), сообщает ArsTechnica. Особенно разочаровал отчет от 4 мая, в котором утверждалось о "циклических зависимостях в стеке протокола HTTP/3", что “переполнило чашу терпения” Стенберга. В этой отправке упоминались несуществующие функции и не применялись к текущим версиям.

Некоторые отчеты, сгенерированные ИИ, комично очевидны. Один из них случайно включил инструкцию к запросу: “и сделайте это звучащим тревожно”. Стенберг обратился к HackerOne, который управляет процессом сообщений об уязвимостях, с просьбой предоставить “больше инструментов для борьбы с этим поведением”. Он планирует блокировать авторов, чьи отправки будут признаны “мусором, сгенерированным ИИ” (AI slop).