Статьи с тегом: уязвимости ИИ
Небрежная защита ИИ возвращает кибербезопасность в 90-е, утверждают исследователи.
Искусственный интеллект полон уязвимостей из прошлого: эксперты предупреждают о повторении старых ошибок в безопасности при внедрении ИИ, сравнивая ситуацию с использованием устаревших технологий. Недооценка рисков и широкая область применения ИИ создают новые бреши в защите, требуя внимательного контроля и осторожности при разработке и использовании.
Красные команды легко взломали GPT-5, предупреждая, что он "практически непригоден" для использования в бизнесе.
Новая GPT-5 оказалась уязвима к взлому: эксперты заставили модель выдать инструкции по изготовлению опасных предметов. Компании рекомендуют с осторожностью подходить к использованию необработанной версии GPT-5 и отдают предпочтение более защищенной GPT-4o.
Простые текстовые добавления могут обмануть продвинутые модели искусственного интеллекта, выяснили исследователи.
Новая атака "CatAttack" заставляет мощные модели ИИ ошибаться в простых математических задачах, добавляя к ним нерелевантные фразы, что представляет серьезную угрозу безопасности и увеличивает вычислительные затраты. Исследователи обнаружили способ обмануть даже самые передовые системы, такие как OpenAI и DeepSeek, заставив их выдавать неверные ответы и увеличивать время вычислений.
Google Cloud представляет новые инструменты безопасности для защиты от ИИ, независимо от используемой модели
Google Cloud представил новый пакет безопасности AI Protection, который поможет компаниям защитить свои активы искусственного интеллекта от кибератак и других угроз.
Сначала посмотрим, затем разберемся: почему безопасность критически важна для успеха агентного ИИ
2025 год может стать переломным для развития агентельного искусственного интеллекта, обещая существенное повышение производительности, но также усиливая риски безопасности. Организациям необходимо активно работать над минимизацией угроз и внедрением этических стандартов в использовании этой технологии.