Ура, теперь вы можете использовать самую быструю графическую карту от AMD – ускоритель AMD Instinct MI325X для ИИ с 256 ГБ памяти, способный запускать Crysis (ну, почти).

Провайдер частного облака Vultr стал первым, кто внедрил GPU AMD Instinct MI325X. Этот шаг обошел конкурентов, таких как Google и Microsoft. Ранее мы сообщали, что в октябре 2024 года Vultr приобрело тысячи AI-ускорителей AMD Instinct MI300X. Это приобретение стало значительным расширением партнерства с AMD и было направлено на предоставление доступа к передовым GPU и открытой программной экосистеме ROCm.

Теперь известно, что Vultr, который более десяти лет финансируется самостоятельно, станет первым облаком, внедрившим GPU AMD Instinct MI325X. Пока MI300X предлагал 192 ГБ памяти HBM3 и пропускную способность 5,3 ТБ/с, MI325X улучшает эти характеристики до 256 ГБ памяти HBM3E и пропускной способности 6 ТБ/с. Кроме того, MI325X обеспечивает более высокие скорости FP16 и FP8 — до 1,3 петафлопс и 2,6 петафлопс соответственно.

«AMD Instinct MI325X устанавливает новые стандарты в сфере ИИ, обеспечивая выдающуюся производительность и эффективность для вывода инференса», — отметил Дж.Дж. Кардвел (J.J. Kardwell), CEO Vultr. «Instinct MI325X позволяет нашим клиентам иметь приоритетный доступ к современному GPU-оборудованию, что позволяет им масштабировать развертывания ИИ в производственных условиях. Вместе мы открываем новые возможности для инноваций в области искусственного интеллекта и формируем будущее облачной GPU-инфраструктуры на глобальном уровне».

Эта последняя добавка к облаку Vultr, которое обслуживает тысячи активных клиентов из 185 стран, будет запущена на серверах Supermicro AS-8126GS-TNMR в 8U и развернута в регионе данных Чикаго. Как и при внедрении MI300x AI-ускорителей, не сообщается точное количество приобретенных GPU Instinct MI325X, однако их число вероятно составит несколько сотен.

«AMD Instinct MI325X разработаны для выдающейся производительности и эффективности, обеспечивая отличные результаты в требовательных задачах ИИ, таких как обучение базовых моделей, тонкая настройка и инференс», — отметила Негин Оливье (Negin Oliver), корпоративный вице-президент по развитию бизнеса в подразделении Data Center GPU Business Unit компании AMD. «С добавлением AMD Instinct MI325X Vultr обеспечивает предприятиям передовыми технологиями ИИ, позволяющими использовать необходимую вычислительную мощность и эффективность для продвижения разработок в области искусственного интеллекта и ускорения роста».