Gemma 3 от Google: открытый ИИ на одном GPU с контекстным окном 128К

Большинство новых моделей ИИ стремятся к масштабности — больше параметров, токенов и всего остального. Однако новая модель Google ориентирована не только на большие цифры, но и на эффективность. По словам компании, модель Gemma 3 является лучшей в мире для работы на одном GPU или AI-ускорителе.

Новая версия Gemma предназначена прежде всего для разработчиков, которым нужно создавать ИИ для различных сред — будь то центр обработки данных или смартфон.

Вы можете уже сейчас испытывать Gemma 3. Google утверждает, что новая модель сможет справиться с более сложными задачами по сравнению со старыми открытыми моделями компании.

Контекстное окно — показатель количества вводимых данных — увеличено до 128,000 токенов с 8,192 в предыдущих версиях Gemma.

Gemma 3 основана на проприетарной модели Gemini 2.0 и является многофункциональной моделью, способной обрабатывать текст, изображения высокого разрешения и даже видео. Кроме того, Google представила новое решение для безопасности изображений под названием ShieldGemma 2, которое можно интегрировать с Gemma для блокировки нежелательных изображений в трех категориях: опасного, сексуального или насилия.

Большинство известных моделей ИИ работают на коллекциях серверов в центрах обработки данных, полностью укомплектованных мощностями для вычислений ИИ. Многие из них слишком велики для работы на домашнем или офисном оборудовании. Релиз первой версии Gemma модели в прошлом году дал разработчикам и энтузиастам еще один вариант с низкими требованиями к оборудованию, чтобы конкурировать с Meta Llama3.

В последнее время существует тенденция к повышению эффективности моделей ИИ. Модели, такие как DeepSeek R1, получают все большее распространение благодаря снижению затрат на вычисления.