Протестующие, Которые Хочут Запретить ИИ До Того, Как Он Стал Бы Существовать

Анонимный читатель приводит цитату из отчета The Register:

В субботу в кафе Silverstone в Сан-Франциско собралась группа активистов, чтобы обсудить планы по остановке дальнейшего развития искусственного интеллекта. Их ненасильственная организация гражданского неповиновения под названием STOP AI четко обозначает цель организации — запрет на что-то, чего пока еще не существует: искусственный общий интеллект (AGI), который OpenAI определяет как "высокоавтономные системы, превосходящие человека в большинстве экономически ценных работах".

На своем сайте STOP AI описывает более широкий спектр целей. Например: "Мы хотим, чтобы правительства заставили компании по разработке ИИ закрыть все работы по созданию универсальных моделей ИИ, уничтожить уже существующие модели и навсегда запретить их развитие." На вопрос "Хотят ли в STOP AI запретить весь искусственный интеллект?", организация отвечает: "Не обязательно. Просто то, что необходимо для сохранения человечества."

Организация провела демонстрации у офисов OpenAI и планирует другую акцию у главного офиса компании в Сан-Франциско 22 февраля. Их цель — собрать поддержку от 3,5% населения США, или около 11 миллионов человек. Это так называемая "точка перелома", необходимая для общественных изменений, согласно исследованиям политолога Эрики Ченовот (Erica Chenoweth).

"Последствия искусственного общего интеллекта настолько значительны и опасны, что мы просто не хотим, чтобы он когда-либо появился", — говорит Финн ван дер Велде (Finn van der Velde), сторонник безопасности ИИ с техническим образованием в области компьютерных наук и искусственного интеллекта. "Практически это означает, что нам, вероятно, потребуется международный договор, по которому правительства по всему миру согласятся не создавать AGI. Это также означает регулирование вычислительной мощности так, чтобы никто не мог обучить модель AGI."