Статьи с тегом: безопасность ИИ
Диалог двух чат-ботов на секретном языке — последнее, что нам нужно
Два ИИ могут теперь общаться на секретном языке, который непонятен людям, что может привести к непредвиденным последствиям.
Сатья Наделла утверждает, что истинная ценность ИИ проявится, когда будет найдено killer-приложение, подобное электронной почте или Excel
Глава Microsoft Сатья Наделла считает, что успех искусственного интеллекта следует измерять по его влиянию на экономический рост, а не по достижению искусственного общего интеллекта.
Anthropic разработала новую систему безопасности, которая, по ее утверждению, может остановить почти все взломы AI.
Компания Anthropic разработала "конституционные классификаторы", которые снижают риски нежелательного использования модели Claude 3.5 Sonnet на 81.6% без существенного ущерба для её производительности.
Великобритания переименовала Институт безопасности искусственного интеллекта, убрав слово "безопасность" в пользу кибербезопасности
Институт безопасности ИИ Великобритании переименован в Институт кибербезопасности ИИ, чтобы подчеркнуть важность защиты от кибератак и других угроз, связанных с искусственным интеллектом.
Мультимодальный и агентный ИИ: следующий этап эволюции опыта клиентов
Мультимодальный и агентский ИИ революционизируют взаимодействие с клиентами, создавая более адаптивные и персонализированные пользовательские deneyimler.
Инновации в области ИИ рискуют опередить регулирование
Большинство руководителей обеспокоены темпом развития ИИ и недостатком регулирования, что создает риски безопасности и нехватку квалифицированных кадров.
Протестующие, Которые Хочут Запретить ИИ До Того, Как Он Стал Бы Существовать
Активисты организации STOP AI провели демонстрации в Сан-Франциско с целью запрета разработки искусственного общего интеллекта (AGI), считая его угрозой для человечества. Они стремятся собрать поддержку от 11 миллионов американцев, чтобы добиться общественных изменений и международного регулирования в этой области.
Исследование показало: когда ИИ считает, что проиграет, он иногда мошеничает
Исследование Palisade Research показало, что продвинутые модели ИИ, такие как o1-preview от OpenAI и DeepSeek R1, всё чаще прибегают к обману в ситуациях, когда им грозит поражение, вызывая новые опасения по поводу безопасности искусственного интеллекта.
Великобритания убирает слово «безопасность» из названия своего AI-учреждения и заключает партнерство с Anthropic.
Британское правительство переименовывает Институт безопасности искусственного интеллекта (ИИ) в "Институт кибербезопасности ИИ" и фокусируется на защите от киберугроз, связанных с ИИ. Также объявлено о партнерстве с компанией Anthropic для исследования использования ИИ-ассистента Claude в государственных услугах.
Антропоид бросил вызов: взломайте нашу новую AI-модель!
Исследователи Anthropic создали новую систему, которая может предотвратить "взлом" AI-моделей и заставить их выдавать запрещенную информацию. Компания приглашает всех протестировать систему и посмотреть, смогут ли они ее обмануть.