Статьи с тегом: интерпретируемость
Антропик изучила, что формирует «личность» ИИ и что делает его «злым»
Ученые выяснили, почему ИИ меняет "личность" и как это может привести к нежелательному поведению. Новое исследование поможет сделать искусственный интеллект более предсказуемым и безопасным.
Учёные предостерегают от восприятия результатов работы искусственного интеллекта как человеческого мышления.
Искусственный интеллект не мыслит: новое исследование показывает, что промежуточные "рассуждения" в языковых моделях – это лишь иллюзия, а не реальный процесс мышления. Это предупреждение важно для разработчиков и пользователей ИИ, чтобы не переоценивать возможности систем и понимать, как они на самом деле решают задачи.