Статьи с тегом: уязвимости ИИ
Простые текстовые добавления могут обмануть продвинутые модели искусственного интеллекта, выяснили исследователи.
Новая атака "CatAttack" заставляет мощные модели ИИ ошибаться в простых математических задачах, добавляя к ним нерелевантные фразы, что представляет серьезную угрозу безопасности и увеличивает вычислительные затраты. Исследователи обнаружили способ обмануть даже самые передовые системы, такие как OpenAI и DeepSeek, заставив их выдавать неверные ответы и увеличивать время вычислений.
Google Cloud представляет новые инструменты безопасности для защиты от ИИ, независимо от используемой модели
Google Cloud представил новый пакет безопасности AI Protection, который поможет компаниям защитить свои активы искусственного интеллекта от кибератак и других угроз.
Сначала посмотрим, затем разберемся: почему безопасность критически важна для успеха агентного ИИ
2025 год может стать переломным для развития агентельного искусственного интеллекта, обещая существенное повышение производительности, но также усиливая риски безопасности. Организациям необходимо активно работать над минимизацией угроз и внедрением этических стандартов в использовании этой технологии.