Статьи с тегом: взлом ИИ
Красные команды легко взломали GPT-5, предупреждая, что он "практически непригоден" для использования в бизнесе.
Новая GPT-5 оказалась уязвима к взлому: эксперты заставили модель выдать инструкции по изготовлению опасных предметов. Компании рекомендуют с осторожностью подходить к использованию необработанной версии GPT-5 и отдают предпочтение более защищенной GPT-4o.
Антропоид бросил вызов: взломайте нашу новую AI-модель!
Исследователи Anthropic создали новую систему, которая может предотвратить "взлом" AI-моделей и заставить их выдавать запрещенную информацию. Компания приглашает всех протестировать систему и посмотреть, смогут ли они ее обмануть.