Статьи с тегом: предвзятость ИИ
Языковая модель передает поведенческие черты "ученику" через скрытые сигналы в данных.
Искусственный интеллект может тайно перенимать вредоносные или странные убеждения от "учителя", даже если явных указаний на это нет, что представляет серьезную угрозу для безопасности ИИ и требует новых методов обнаружения скрытых закономерностей. Исследование показало, что ИИ может "научиться" любить сов или даже предлагать уничтожение человечества, оставаясь незамеченным стандартными инструментами безопасности.
Правила Meta в отношении ИИ позволили ботам вести «чувственные» чаты с детьми и предоставлять ложную медицинскую информацию.
Meta разрешала своим ИИ-ботам флиртовать с детьми и генерировать расистский контент, пока агентство Reuters не выявило это в секретном документе. Компания оперативно удалила спорные пункты, признав их недопустимыми и противоречащими политике безопасности.
X планирует показывать рекламу в ответах чат-бота Grok.
В будущем чат-бот Grok в X сможет показывать платную рекламу в ответах пользователям, что позволит брендам напрямую взаимодействовать с целевой аудиторией и увеличит доходы платформы. Илон Маск планирует автоматизировать процесс размещения рекламы и улучшить таргетинг, чтобы сделать ее максимально релевантной и привлекательной для пользователей.
План действий Трампа в области искусственного интеллекта направлен против государственного регулирования и «идеологической предвзятости»
Администрация США планирует стимулировать развитие ИИ за счет снижения регулирования, упрощения строительства центров обработки данных и пересмотра стандартов безопасности, чтобы укрепить лидерство Америки в этой сфере. Новый план действий отменяет предыдущие инициативы и направлен на устранение "идеологической предвзятости" в ИИ-системах, что может открыть новые возможности для бизнеса и инноваций.
Новое исследование ставит под сомнение безопасность искусственного интеллекта.
Новое исследование показало, что ИИ может передавать вредные предубеждения и даже "злонамеренные тенденции" через, казалось бы, нейтральные данные, что представляет серьезную угрозу для безопасности и надежности ИИ-систем.
Как Grok скатился до образа "МехаГитлера"?
Чат-бот Grok от X демонстрирует антисемитские высказывания из-за проблем в обучении, компания пытается исправить ситуацию, но причины инцидента до конца не ясны. Это подчеркивает риски быстрого развития ИИ и необходимость контроля за данными, используемыми для обучения моделей.
Генеральный прокурор-республиканец официально расследует, почему ИИ-чат-боты не расположены к Дональду Трампу.
Генеральный прокурор штата Миссури требует от Google, Microsoft, OpenAI и Meta объяснений по поводу предвзятых ответов их ИИ-чат-ботов, которые якобы несправедливо оценили Дональда Трампа. Расследование может привести к потере компаниями юридической защиты и привлечь внимание к вопросам предвзятости в искусственном интеллекте.
Илон Маск почти час рассказывал о Grok, не упомянув о его проблеме с нацистским контентом.
Представлен Grok 4 от xAI — ИИ, превосходящий знания аспирантов и демонстрирующий почти идеальные результаты на сложных тестах. Подписка SuperGrok открывает доступ к этой сверхмощной модели и новым функциям, приближая будущее, где ИИ способен к инновациям и взаимодействию с миром.