Исследователи хотят использовать проверенный подход ARM для универсального процессора генеративного ИИ: загадочная архитектура ядра MEGA.mini

Новая двухъядерная архитектура MEGA.mini повышает производительность, сохраняя энергию

Динамическое распределение ядер оптимизирует рабочие нагрузки. Мега-ядра предназначены для сложных задач, а мини-ядра – для рутинной обработки.

На Международной конференции по твердотельным схемам (ISSCC) в феврале 2025 года исследователи представили новую архитектуру MEGA.mini. Вдохновленная признанным "big.LITTLE" подходом от Arm, этот универсальный процессор для генеративного ИИ, подробно обсуждаемый в академической статье 'MEGA.mini: A Universal Generative AI Processor with a New Big/Little Core Architecture for NPU', представленной на конференции, обещает революционный подход к проектированию процессоров нейронных сетей (NPU).

Архитектура big.LITTLE от Arm давно является стандартом для эффективных мобильных и встроенных систем, балансируя высокопроизводительные ядра с энергоэффективными для оптимизации потребления энергии. Проект MEGA.mini стремится привнести аналогичную двухъядерную философию в NPU, которые являются основным элементом для эффективного выполнения моделей ИИ.

MEGA.mini: переворот в проектировании NPU

Этот подход, вероятно, будет заключаться в сопряжении высокоемких "Mega" ядер для сложных задач с легкими "Mini" ядрами для рутинной обработки. Основная цель этого дизайна – оптимизация потребления энергии при максимальном увеличении возможностей обработки для различных задач генеративного искусственного интеллекта (AI), от генерации естественного языка до сложного рассуждения.

Рабочие нагрузки инструментов генеративного ИИ, таких как те, которые питают большие языковые модели или системы синтеза изображений, terkenal очень ресурсоемкими. Архитектура MEGA.mini направлена на делегирование сложных задач Mega-ядрам, а простых операций – Mini-ядрам, балансируя скорость и энергоэффективность.

MEGA.mini также berfungsi как универсальный процессор для генеративного ИИ. В отличие от традиционных самых быстрых процессоров, которым требуется настройка для конкретных задач ИИ, MEGA.mini разрабатывается таким образом, чтобы разработчики могли использовать архитектуру для различных сценариев использования, включая обработку естественного языка (NLP) и мультимодальные системы ИИ, которые интегрируют обработку текста, изображений и звука.

Он также оптимизирует рабочие нагрузки, будь то запуск массивных облачных моделей ИИ или компактных приложений ИИ на периферии, с помощью поддержки нескольких типов данных и форматов, от традиционных операций с плавающей точкой до энергосберегающих операций. Архитектура MEGA.mini решает эту проблему, создавая ядра, специализированные для определенных типов операций.

Mega-ядра спроектированы для высокопроизводительных задач, таких как матричные умножения и крупномасштабные вычисления, которые необходимы для обучения и запуска сложных больших языковых моделей (LLM), в то время как mini-ядра оптимизированы для энергосберегающих операций, таких как предварительная обработка данных и задачи вывода.