Google AI Edge Gallery теперь доступна на macOS: пользователи Mac могут запускать модели Gemini локально

В дополнение к Google AI Edge Gallery, которая позволяет пользователям запускать модели Gemma локально на своих компьютерах Mac, компания также выпустила модель Gemma 4 12B и приложение для диктовки Google AI Edge Eloquent для macOS. Подробности ниже.

Немного предыстории

Большинство пользователей, полагающихся на большие языковые модели (LLM) в повседневных задачах, как правило, используют ChatGPT, Claude или Gemini — облачные модели, работающие на серверах OpenAI, Anthropic и Google.

Другой способ взаимодействия с LLM — использование локальных моделей. Они обычно намного меньше и менее производительны, чем триллионнопараметрические модели, работающие в облаке, но у них есть свои преимущества.

Во-первых, меньшая производительность по сравнению с облачными аналогами вовсе не означает, что они плохие. Кроме того, им не требуется активное интернет-соединение, поскольку они задействуют вычислительную мощность самого компьютера. К тому же, чем мощнее компьютер, тем быстрее будут приходить ответы и тем более крупные модели он сможет «тянуть». И наконец, поскольку все процессы происходят локально, такие модели обеспечивают более высокий уровень приватности, так как данные разговоров не покидают устройство.

Существует несколько способов установки локальных моделей на Mac, и мы рассказывали об этом здесь, когда OpenAI выпустила свои открытые модели. Но вкратце: вам нужно установить платформы, такие как Ollama и LM Studio, а затем установить модель, которая будет стабильно работать на аппаратном обеспечении вашего Mac.

Hugging Face размещает тысячи открытых моделей на выбор, включая разработки передовых лабораторий. Однако такие платформы, как Ollama и LM Studio, также предлагают способы прямой установки этих моделей.

И здесь мы подходим к Google AI Edge Gallery — платформе Google для локального запуска моделей ИИ. У Google уже было приложение Google AI Edge Gallery для Android и iOS, но сегодня компания выпустила его и для macOS.

Важно сразу отметить: в отличие от Ollama и LM Studio, которые позволяют пользователям устанавливать любые ИИ-модели, совместимые с их оборудованием, Google AI Edge Gallery для Mac в настоящее время предлагает доступ только к 5 собственным моделям Google (индекс «it» означает «instruct» — они настроены на выполнение инструкций пользователя, а не просто на завершение текста):

  • Gemma-4-12B-it
  • Gemma-4-E2B-it
  • Gemma-4-E4B-it
  • Gemma-3n-E2B-it
  • Gemma-3n-E4B-it

Первый пункт в списке заслуживает особого внимания. Модель Gemma 4 12B была представлена сегодня. По словам Google, она разработана для того, чтобы «привнести агентный, мультимодальный интеллект прямо на ваш ноутбук».

В то время как большинство потребительских локальных моделей от передовых ИИ-лабораторий обычно варьируются от 2 до 9 миллиардов параметров, Google заявляет, что архитектура Gemma 4 с 12 миллиардами параметров обеспечивает производительность, сопоставимую с их же моделью из смеси экспертов (MoE) на 26 миллиардов параметров, оставаясь при этом «достаточно компактной для локального запуска на потребительских ноутбуках с 16 ГБ оперативной памяти».

Gemma 4 12B также является мультимодальной, что означает способность работать с текстом, изображениями и аудио. В Google отмечают, что модель обладает хорошими возможностями в написании кода, «позволяя извлекать значимую информацию из ваших данных прямо на устройстве».

Вы можете узнать больше о Google AI Edge Gallery здесь, а подробнее о Gemma 4 12B — здесь.

Google AI Edge Eloquent

Наряду с Gemma 12B и выпуском Google AI Edge Gallery для macOS, сегодня Google также запустила приложение Google AI Edge Eloquent для Mac — ранее, несколько месяцев назад, оно появилось на iOS.

Google AI Edge Eloquent — это бесплатное приложение для диктовки, которое улавливает речь пользователя, транскрибирует её и одновременно «полирует» текст: удаляет слова-паразиты и вносит правки для улучшения ясности и плавности изложения. Обработка данных происходит на самом устройстве, а не в облаке.

Приложение также позволяет пользователям выбирать различные стили письма и добавлять свои собственные слова — имена, профессиональный жаргон и другие часто используемые термины. Это помогает избежать типичных ошибок, которые часто допускают приложения для диктовки при распознавании специфических слов и фраз.

Узнать больше о Google AI Edge Eloquent можно здесь.