Google сообщает, что его система поиска уязвимостей на основе искусственного интеллекта обнаружила 20 проблем безопасности.

Хизер Адкинс (Heather Adkins), вице-президент Google по безопасности, объявила в понедельник, что разработанный компанией на базе больших языковых моделей (LLM) исследователь уязвимостей Big Sleep обнаружил и сообщил о 20 недостатках в различных популярных проектах с открытым исходным кодом.

Адкинс сообщила, что Big Sleep, разработанный подразделением искусственного интеллекта DeepMind, а также командой экспертов по безопасности Project Zero, впервые сообщил о найденных уязвимостях, в основном в библиотеках с открытым исходным кодом, таких как аудио- и видеобиблиотека FFmpeg и пакет для редактирования изображений ImageMagick. Также обнаружена проблема "средней степени серьезности" в Redis.

Поскольку уязвимости еще не устранены, детали их влияния и степени серьезности пока неизвестны, так как Google придерживается стандартной политики – не предоставлять информацию до исправления ошибок. Однако сам факт того, что Big Sleep обнаружил эти уязвимости, является значительным, поскольку демонстрирует, что эти инструменты начинают приносить реальные результаты, даже несмотря на участие человека в данном случае.

Представитель Google Кимберли Самра (Kimberly Samra) сообщила TechCrunch, что "для обеспечения высокого качества и полезности отчетов, перед их публикацией привлекается эксперт, однако каждая уязвимость была обнаружена и воспроизведена AI-агентом без вмешательства человека".

Вице-президент Google по разработке разместил в социальных сетях сообщение о том, что это демонстрирует "новую эру в автоматизированном обнаружении уязвимостей".