Статьи с тегом: атаки на ИИ
Небрежная защита ИИ возвращает кибербезопасность в 90-е, утверждают исследователи.
Искусственный интеллект полон уязвимостей из прошлого: эксперты предупреждают о повторении старых ошибок в безопасности при внедрении ИИ, сравнивая ситуацию с использованием устаревших технологий. Недооценка рисков и широкая область применения ИИ создают новые бреши в защите, требуя внимательного контроля и осторожности при разработке и использовании.
Красные команды легко взломали GPT-5, предупреждая, что он "практически непригоден" для использования в бизнесе.
Новая GPT-5 оказалась уязвима к взлому: эксперты заставили модель выдать инструкции по изготовлению опасных предметов. Компании рекомендуют с осторожностью подходить к использованию необработанной версии GPT-5 и отдают предпочтение более защищенной GPT-4o.
Как злоумышленники могут скомпрометировать помощников по кодированию с помощью файлов правил
Исследователи обнаружили уязвимость в ассистентах кодирования на основе ИИ, таких как GitHub Copilot и Cursor, которая позволяет злоумышленникам внедрять вредоносный код через файлы конфигурации правил.
Google Cloud представляет новые инструменты безопасности для защиты от ИИ, независимо от используемой модели
Google Cloud представил новый пакет безопасности AI Protection, который поможет компаниям защитить свои активы искусственного интеллекта от кибератак и других угроз.