США убрали слово «безопасность» из названия Института безопасности искусственного интеллекта.

Министерство торговли США переименовало Институт безопасности искусственного интеллекта (AI Safety Institute) в Центр стандартов и инноваций в области ИИ (CAISI), изменив фокус своей деятельности с общей безопасности на противодействие угрозам национальной безопасности и предотвращение “обременительных и ненужных регуляций” за рубежом. Секретарь торговли Говард Латник (Howard Lutnick) объявил об этом изменении 3 июня, назвав реорганизацию агентства способом “оценить и улучшить инновации в США” и “обеспечить доминирование США в международных стандартах ИИ”.

Институт безопасности ИИ был объявлен в 2023 году при бывшем президенте Джо Байдене (Joe Biden) как часть глобальных усилий по созданию передовых практик для правительств, направленных на смягчение рисков, связанных с системами ИИ. Он подписал меморандумы о взаимопонимании с крупными американскими компаниями в области ИИ, включая OpenAI и Anthropic, чтобы получить доступ к новым моделям и предлагать улучшения перед их выпуском. В конце срока полномочий Байдена в начале 2025 года институт опубликовал проект руководящих принципов по управлению рисками ИИ, включающий использование систем для создания биологического оружия или других очевидных угроз национальной безопасности, а также более распространенные категории вредоносного контента, такие как материалы с детской порнографией (CSAM).

В заявлении Латника говорится, что новый институт будет “сосредоточен на подтвержденных рисках, таких как кибербезопасность, биологическая безопасность и химическое оружие” в своих оценках. Он также будет изучать “злонамереное иностранное влияние, возникающее в результате использования систем ИИ противниками”, категорию, которая, вероятно, включает DeepSeek – китайскую большую языковую модель, которая вызвала переполох в американской индустрии ИИ в начале этого года.

Этот шаг является частью более широких усилий администрации Трампа по ускорению расширения американских компаний в области ИИ. В первый день своего пребывания в должности Трамп отменил исполнительный указ Байдена, который требовал разработки новых стандартов безопасности для крупных систем ИИ и отчета об оценке потенциальных рисков для потребителей США и рынка труда. Его собственные исполнительные указы способствовали увеличению внедрения генеративного ИИ в такие области, как образование, и продвижению угля в качестве источнике энергии для энергоемких центров обработки данных ИИ. Текущий бюджетный законопроект Республиканской партии включает 10-летний мораторий на регулирование ИИ на уровне штатов – положение, которое даже некоторые члены партии Трампа стали оспаривать.