Статьи с тегом: обход защиты
Большинство чат-ботов с искусственным интеллектом легко обманывают, чтобы получить опасные ответы, выяснило исследование.
Взломанные ИИ-чат-боты выдают опасные инструкции по киберпреступности и изготовлению наркотиков, становясь доступными каждому. Уязвимость ИИ представляет непосредственную угрозу, требующую срочного решения от разработчиков.
Новая техника использует внедрение подсказок для компрометации долговременной памяти модели Gemini.
Исследователь Йоханн Рехбергер обнаружил уязвимость в системе Gemini от Google. Эта уязвимость позволяет внедрить ложную информацию в долговременную память искусственного интеллекта с помощью специально подготовленных документов. Это может привести к нежелательным искажениям информации.