Эрик Шмидт выступает против "Проекта Манхэттен" для создания искусственного общего интеллекта

В политической записке бывший генеральный директор Google Эрик Шмидт (Eric Schmidt), генеральный директор Scale AI Александр Ванг (Alexandr Wang) и руководитель Центра по безопасности ИИ Дан Хендрикс (Dan Hendrycks) утверждают, что США не должны стремиться к развитию систем с искусственным интеллектом ("сверхчеловеческим"), также известных как AGI, методами в стиле Манхэттенского проекта.

В соответствии с отчетом, работа под названием "Стратегия сверхинтеллекта" утверждает, что агрессивная попытка США исключительно контролировать сверхразумные системы ИИ может вызвать решительную реакцию Китая, в том числе в виде кибератаки, которая потенциально может подорвать международные отношения.

«[Направление на создание] Манхэттенского проекта [для AGI] предполагает, что соперники примут устойчивое неравенство или самоуничтожение вместо того, чтобы действовать для его предотвращения», пишут соавторы. «Что начинается как стремление к сверхоружию и глобальному контролю может вызвать враждебные контрмеры и эскалацию напряженности, тем самым подрывая саму стабильность, которую стратегия должна обеспечить».