Искусственный интеллект меняет правила взлома. Оценки скорости этих изменений сильно различаются.

Несколько компаний, специализирующихся на кибербезопасности, представили новые разработки в области ИИ-агентов на конференции Black Hat на прошлой неделе, сообщает Axios, сигнализируя о том, что специалисты по киберзащите могут вскоре получить инструменты, позволяющие не отставать от злоумышленников.

Microsoft поделилась информацией о прототипе нового агента, который может автоматически обнаруживать вредоносное ПО, хотя на данный момент он способен обнаруживать только 24% вредоносных файлов. Trend Micro представила новые возможности "цифрового двойника" на основе ИИ, позволяющие компаниям моделировать киберугрозы реального мира в безопасной среде, изолированной от их фактических систем. Несколько компаний и исследовательских групп также публично представили инструменты с открытым исходным кодом, которые могут автоматически выявлять и устранять уязвимости в рамках AI Cyber Challenge, поддерживаемого правительством.

Однако Джон Уоттерс (John Watters), генеральный директор iCounter и бывший руководитель Mandiant, отметил, что злоумышленники сейчас используют эти инструменты с поддержкой ИИ для ускорения разведки и разработки совершенно новых векторов атак, направленных на каждую компанию.

В статье отмечается наличие двух конкурирующих взглядов на то, как ИИ трансформирует ландшафт угроз.

Один из них говорит о том, что специалисты по защите все еще имеют преимущество. Киберпреступникам не хватает денег и вычислительных ресурсов для создания инструментов на основе ИИ, а у больших языковых моделей (LLM) есть четкие ограничения в их способности осуществлять наступательные операции. Это дает специалистам по защите время, чтобы использовать потенциал ИИ для себя. Позже в статье отмечается, что член команды red team Anthropic заявил, что его модель Claude AI "вскоре" сможет работать на уровне старшего специалиста по безопасности.

Существует и более мрачный взгляд. Киберпреступники уже используют LLM с открытым исходным кодом для создания инструментов, которые могут сканировать устройства, подключенные к Интернету, на наличие уязвимостей, обнаруживать ошибки нулевого дня и создавать вредоносное ПО. И они будут только совершенствоваться, и очень быстро.

В настоящее время модели не очень хорошо справляются с принятием человекоподобных решений, таких как распознавание случаев, когда законные инструменты используются в злонамеренных целях. И для запуска серии ИИ-агентов киберпреступникам и государствам потребуется достаточно ресурсов для оплаты счетов за облачные сервисы, которые они накопили, заявил Майкл Сикорски (Michael Sikorski), технический директор Unit 42, подразделения Palo Alto Networks, занимающегося исследованиями угроз. Однако LLM быстро совершенствуются. Сикорски прогнозирует, что злоумышленники будут использовать собственных ИИ-агентов жертвы для запуска атаки после взлома их инфраструктуры.