Лауреаты премии Тьюринга предупреждают об опасности поспешного внедрения ИИ

Пионеры в области обучения с подкреплением Андрей Барто и Ричард Саттон предупредили о небезопасном внедрении систем ИИ [альтернативный источник], после того как во вторник были удостоены престижной награды вычислительной техники Тьюринга в размере $1 миллион. "Выпуск программного обеспечения для миллиона людей без соответствующих мер безопасности — это нехорошая инженерная практика," заявил Барто, профессор-пенсионер Университета Массачусетса, сравнив этот процесс с испытанием моста путем его использования людьми.

Барто и Саттон разработали обучение с подкреплением в 1980-х годах, вдохновившись психологическими исследованиями человеческого обучения. Эта техника, которая стимулирует ИИ системами за желаемые действия, стала ключевым элементом для достижений таких компаний, как OpenAI и Google. Саттон, профессор Университета Альберты и бывший исследователь DeepMind, назвал рассказы технических компаний о всеобъемлющем искусственном интеллекте "надуманными".

Оба лауреата также раскритиковали предложение президента Трампа сократить федеральное финансирование научных исследований, причём Барто назвал это решение "неправильным и трагедией", которое уничтожит возможности для исследования новых направлений в науке, подобно их ранним работам.