«Отец искусственного интеллекта» подает тревожный сигнал об автономном ИИ

Отец искусственного интеллекта (AI) Йошуйа Бенджио предупреждает, что гонка за созданием AI приоритизирует скорость над безопасностью. Это может привести к непредсказуемым и опасным последствиям.

Йошуйа Бенджио, известный как один из основателей современных нейронных сетей, помог создать фундамент для всех видов AI-инструментов сегодня — от чатботов, имитирующих мультяшные персонажи, до ассистентов в научных исследованиях. Сейчас он срочно предупреждает разработчиков AI о том, что гонка за созданием все более мощных систем происходит слишком recklessly (безответственно). Речь идет не только о том, какой компании удастся построить лучший чатбот или кто получит больше финансирования. Бенджио уверен, что стремительное и нерегулируемое движение к развитию продвинутого AI может привести к катастрофическим последствиям, если безопасность не станет приоритетом.

В интервью Sky News Бенджио описал картину разработчиков, которые спешат и делают небезопасные уловки. Хотя скорость может сыграть решающую роль в создании нового продукта стоимостью миллиарды долларов или в отыгрыше у конкурентов, для общества это может быть невыгодным. Ситуация еще больше обостряется с появлением китайских компаний AI, таких как DeepSeek, чьи продвинутые возможности чатботов привлекли внимание западных компаний и правительств.

Вместо того чтобы замедлиться и тщательно рассмотреть риски, крупные технологические компании ускоряют разработку AI в стремительной гонке за доминирование. Бенджио опасается, что это приведет к спешному внедрению систем с недостаточными мерами безопасности и поведением, которое мы еще не полностью понимаем.

Бенджио ранее предупреждал о необходимости более строгого надзора за AI, но последние события сделали его сообщение ещё более актуальным. В настоящее время наступает "переломный момент", где либо вводятся значимые регуляции и протоколы безопасности, либо развитие AI выходит из-под контроля.

Больше и больше систем AI обрабатывают информацию не только как следует от пользователям, но и могут принимать автономные решения. Это именно то, что Бенджио считает наиболее опасным направлением развития. При достаточной вычислительной мощности система AI может быстро стать трудноуправляемой.

Проблема не теоретическая: уже сейчас AI модели совершают финансовые сделки, управляют логистикой и даже пишут и внедряют программное обеспечение с минимальным человеческим надзором. Бенджио предупреждает, что мы всего в нескольких шагах от более сложного и непредсказуемого поведения AI.

Бенджио не призывает остановить разработку AI. Он остается оптимистом по поводу способностей AI при ответственном использовании, например в медицинских и экологических исследованиях. Но такой баланс трудно представить сегодня.

В отрасли, где скорость равна доминированию, ни одна компания не хочет первой затормозить. Глобальное сотрудничество, о котором говорит Бенджио, может появиться не сразу, но с продолжением гонки за AI предупреждения от Бенджио и других людей в подобных позициях становятся все более настоятельными. Он надеется, что индустрия признает риски сейчас, а не тогда, когда кризис вынудит это сделать.

Вопрос в том, готов ли мир прислушаться до того, как станет слишком поздно.