Статьи с тегом: Йоханн Рехбергер
Новая техника использует внедрение подсказок для компрометации долговременной памяти модели Gemini.
Исследователь Йоханн Рехбергер обнаружил уязвимость в системе Gemini от Google. Эта уязвимость позволяет внедрить ложную информацию в долговременную память искусственного интеллекта с помощью специально подготовленных документов. Это может привести к нежелательным искажениям информации.
Новая уязвимость использует внедрение подсказок (prompts) для компрометации долговременной памяти модели Gemini.
Исследователь Йоханн Рехбергер обнаружил новый метод обхода защитных механизмов в AI-чат-ботах, таких как Gemini от Google, позволяющий создавать долгосрочные «памяти», которые заставляют ботов действовать на основе ложной информации. Разработчики активно работают над устранением таких уязвимостей, но хакеры находят новые способы их обхода.