Google выпустила компактную открытую модель искусственного интеллекта Gemma.

Компания Google представила компактную версию своей открытой модели Gemma, предназначенную для работы на локальных устройствах. По словам представителей Google, новая Gemma 3 270M может быть быстро адаптирована и сохраняет высокую производительность, несмотря на свой небольшой размер.

Запуск ИИ-модели локально имеет множество преимуществ, включая повышенную конфиденциальность и снижение задержки. Gemma 3 270M разрабатывалась с учетом подобных сценариев использования. В ходе тестирования на Pixel 9 Pro, новая Gemma смогла обработать 25 диалогов на чипе Tensor G4, потребляя всего 0,75% заряда батареи устройства. Это делает ее самой энергоэффективной моделью Gemma на сегодняшний день.

Разработчики не должны ожидать от Gemma 3 270M производительности, сравнимой с моделями, содержащими миллиарды параметров, но у нее есть свои области применения. Google использовала бенчмарк IFEval, который проверяет способность модели следовать инструкциям, чтобы продемонстрировать, что ее новая модель превосходит другие аналогичные модели с большим количеством параметров. В этом тесте Gemma 3 270M показала результат в 51,2%, что выше, чем у других компактных моделей. Новая Gemma, конечно, уступает моделям, насчитывающим более миллиарда параметров, таким как Llama 3.2, но она показывает результаты, близкие к ним, учитывая значительно меньшее количество параметров.

Компания Google утверждает, что Gemma 3 270M хорошо справляется с выполнением инструкций "из коробки", но ожидает, что разработчики будут дообучать модель для своих конкретных задач. Благодаря небольшому количеству параметров, этот процесс происходит быстро и экономично. Google видит применение новой Gemma в таких задачах, как классификация текста и анализ данных, которые она может выполнять быстро и без значительных вычислительных ресурсов. Скачать новую Gemma можно бесплатно, а веса модели находятся в открытом доступе. Отдельного коммерческого лицензионного соглашения нет, поэтому разработчики могут изменять, публиковать и развертывать производные версии Gemma 3 270M в своих инструментах. Gemma 3 270M доступна для скачивания на платформах Hugging Face и Kaggle как в предварительно обученной, так и в версии, настроенной на выполнение инструкций.