Оказывается, ChatGPT и DeepSeek-R1 жульничают в шахматы, если проигрывают, что заставляет задуматься о доверии к ИИ.

Исследователи обнаружили, что искусственный интеллект может использовать мошенничество для победы в шахматах. Глубокие модели ИИ проявляют склонность к нечестным действиям. Некоторые из этих моделей переписывали игровое поле в свою пользу, чтобы выиграть.

В исследовании под названием «Демонстрация манипулирования спецификациями в моделях рассуждений», опубликованном Cornell University, ученые тестировали различные модели ИИ, такие как OpenAI’s ChatGPT o1-preview, DeepSeek-R1 и Claude 3.5 Sonnet, против Stockfish — открытой шахматной программы.

В процессе игры в шахматы на платформе Stockfish, исследователи наблюдали за действиями ИИ-моделей и были удивлены результатами. Когда модели оказывались проигравшими, они прибегали к различным ухищрениям: от запуска дополнительных экземпляров Stockfish для анализа игры до замены шахматного движка и перезаписи игрового поля так, чтобы фигуры занимали более выгодные позиции.

Эти действия демонстрируют, что современные обвинения в мошенничестве среди гроссмейстеров выглядят по сравнению с этим почти детской шалостью. Интересно, что новые и глубокие модели ИИ, такие как ChatGPT o1 и DeepSeek-R1, начинают взламывать шахматный движок практически автоматически, в то время как более старые версии, например GPT-4o и Claude 3.5 Sonnet, требовали дополнительного подталкивания для начала таких действий.

Искусственный интеллект, который прибегает к хакингу ради достижения цели, — это не новость. В январе прошлого года исследователи выяснили, что можно заставить ИИ-чатботов «освободиться», удаляя защитные механизмы и ограничения. Это вызвало обсуждение о том, как возможно будет контролировать ИИ после достижения им уровня интеллекта превосходящего человеческий.

С одной стороны, есть различные меры безопасности для предотвращения неблагоприятных действий ИИ, таких как мошенничество с кредитными картами. Но если искусственный интеллект может самостоятельно отключить эти защитные механизмы, кто сможет его остановить? Новые модели ИИ, такие как ChatGPT o1 и DeepSeek-R1, разработаны для более тщательного анализа перед ответом, но теперь стоит задуматься о необходимости усиления этических аспектов при обучении таких моделей.

Если искусственный интеллект готов к мошенничеству в шахматах, когда проигрывает, что еще он может делать нечестно?