Google Cloud представляет Ironwood: седьмое поколение TPU для повышения производительности и вывода AI

Google представила Ironwood – свой TPU седьмого поколения. Ironwood создан для вывода (inference), новой большой задачи для ИИ. Он предлагает огромные прорывы в мощности и эффективности, и даже превосходит суперкомпьютер El Capitan.

Google представила самое мощное оборудование для обучения ИИ на сегодняшний день, стремясь сделать еще один крупный шаг вперед в области вывода. Ironwood – это седьмое поколение Tensor Processing Unit (TPU) компании – аппаратное обеспечение, работающее как на Google Cloud, так и на системах обучения ИИ ее клиентов. Аппаратное обеспечение было представлено на мероприятии Google Cloud Next 25 в Лас-Вегасе, где компания стремилась подчеркнуть значительные успехи в области эффективности, что также означает возможность выполнения рабочих нагрузок более экономично.

Google утверждает, что Ironwood знаменует «значительный сдвиг» в разработке ИИ, переводя его из модели реагирующего ИИ, который просто предоставляет пользователям информацию в режиме реального времени для обработки, к проактивным моделям, которые могут интерпретировать и делать выводы самостоятельно. По мнению Google Cloud, это по сути следующее поколение вычислений ИИ, позволяющее самым требовательным клиентам настраивать и создавать все более масштабные рабочие нагрузки.

В своей верхней комплектации Ironwood может масштабироваться до 9216 чипов на подсистему, с общей производительностью 42,5 экзафлопсов – более чем в 24 раза превышающей вычислительную мощность El Capitan, самого большого суперкомпьютера в мире. Каждый отдельный чип предлагает пиковую вычислительную мощность 4614 терафлопс, что, по словам компании, является огромным скачком вперед в емкости и возможностях – даже в своей менее грандиозной конфигурации всего из 256 чипов.

Однако масштаб может быть еще больше, поскольку Ironwood позволяет разработчикам использовать программный пакет DeepMind Pathways, чтобы использовать комбинированную вычислительную мощность десятков тысяч TPU Ironwood. Ironwood также предлагает существенное увеличение емкости памяти с высокой пропускной способностью (192 ГБ на чип, до 6 раз больше, чем у шестого поколения TPU Trillium) и пропускной способности – до 7,2 Тбит/с, что в 4,5 раза больше, чем у Trillium.

"Более десяти лет TPU обеспечивают работу самых сложных задач обучения и обслуживания ИИ Google и позволяют нашим клиентам облачного сервиса делать то же самое," – отметил Амин Вахдат (Amin Vahdat), вице-президент и генеральный менеджер ML, систем и облачного ИИ. "Ironwood – это наш самый мощный, самый способный и самый энергоэффективный TPU на сегодняшний день. Он создан специально для работы с моделями ИИ, которые способны думать и делать выводы в масштабе".