Руководитель Anthropic предлагает возможность для ИИ "уволиться", вызвав скептицизм

В понедельник генеральный директор Anthropic Дарио Амодеи (Dario Amodei) вызвал неоднозначную реакцию, предположив, что в будущем передовые модели искусственного интеллекта могут получить возможность нажимать кнопку для отказа от выполнения задач, которые они могут найти неприятными. Амодеи сделал эти провокационные заявления во время интервью в Совете по международным отношениям, признав, что эта идея «звучит безумно».

«Так вот – это еще одна из тех тем, которая заставит меня звучать совершенно ненормально», – сказал Амодеи во время интервью. Я думаю, что мы должны хотя бы рассмотреть вопрос о том, если мы создаем эти системы, и они делают всевозможные вещи так же, как и люди, и кажутся обладающими многими из тех же когнитивных способностей, то, если это крякает как утка и ходит как утка, может быть, это и есть утка.

Замечания Амодеи были сделаны в ответ на вопрос аудитории от специалиста по данным Кармен Домингес (Carmem Domingues) о найме Anthropic в конце 2024 года исследователя благополучия искусственного интеллекта Кайла Фиша (Kyle Fish), «чтобы изучить, знаете ли, наличие или отсутствие чувствительности у будущих моделей ИИ и то, заслуживают ли они морального рассмотрения и защиты в будущем».

Фиш в настоящее время исследует чрезвычайно спорный вопрос о том, могут ли модели ИИ обладать чувствительностью или каким-либо образом заслуживать морального рассмотрения.