Повысится ли эффективность искусственного интеллекта, если мы научим его чувствовать вину?

В популяциях простых программных агентов (подобных персонажам в игре "The Sims", но значительно более упрощенных) наличие "чувства вины" может быть стабильной стратегией, приносящей им пользу и повышающей уровень сотрудничества, сообщают исследователи 30 июля в журнале Journal of the Royal Society Interface.

Когда мы причиняем кому-то вред, мы часто чувствуем потребность во искуплении, возможно, как сигнал другим о том, что мы больше не будем обижать. Эта потребность в самонаказании может быть названа чувством вины, и именно так программисты реализовали её в своих агентах. Вопрос заключался в том, не будут ли агенты с этим качеством уступать тем, у кого его нет, – поясняют Теодор Симпеану, ученый-компьютерщик из Университета Стирлинга в Шотландии, и его коллеги.

В ходе исследования была смоделирована классическая дилемма заключенного, где один AI-агент "испытывал чувство вины (терял очки) только в том случае, если получал информацию о том, что его партнер также платит цену за нарушение соглашения". Как оказалось, это оказалась наиболее успешной стратегией.

Один из авторов статьи предполагает, что развивающаяся популяция AI может "понять холодную логику, лежащую в основе человеческой теплоты".