Meta представила новую модель Muse Spark Open, оптимизированную для работы на Mac Studio
Сегодня Meta представила Muse Spark Open — по её словам, «самую мощную на сегодняшний день американскую модель с открытыми весами». Для пользователей Apple Meta сообщает, что Muse Spark Open оптимизирована для работы на Mac Studio с чипом M5 Ultra.
В публикации в блоге Meta объясняет, что Muse Spark Open изначально поддерживает мультимодальность и впервые «предоставляет передовые агентные возможности на вашем компьютере».
Сегодня мы выпускаем веса Muse Spark Open — самой мощной на сегодняшний день американской модели с открытыми весами. Muse Spark Open — мультимодальная модель с 816 млрд параметров (42 млрд активных) и контекстным окном на 1 млн токенов. Созданная для программирования и агентных задач, она отлично справляется с длительными задачами, сложной разработкой ПО и многоэтапными рассуждениями.
В публикации Meta особо отмечает, что Muse Spark Open использует последнюю версию MLX от Apple. MLX — это фреймворк с открытым исходным кодом для работы с массивами, созданный Apple и оптимизированный для архитектуры унифицированной памяти Apple silicon.
По словам Meta, с использованием последней версии MLX Muse Spark Open была оптимизирована для Mac Studio с M5 Ultra, и «вместе они представляют собой лучший способ запускать мощную модель на собственном компьютере».
Архитектура унифицированной памяти Apple позволяет встроенному графическому процессору M5 Ultra использовать до 512 ГБ памяти в каждом Mac Studio, поэтому две машины могут вместить целую модель. А пропускная способность памяти чипа — 1,2 ТБ/с — достаточно высока, чтобы считывать небольшой фрагмент, необходимый для каждого токена. В результате два Mac Studio работают как один суперкомпьютер с терабайтом унифицированной памяти.
Мы протестировали целый ряд агентных сценариев, полностью выполняемых на устройстве с помощью Muse Code на базе Muse Spark Open. В их числе — выпуск реальных изменений для iOS в Ice Cubes (клиент Mastodon с открытым исходным кодом): исправления ошибок, новые функции и полная сборка приложения. Также мы проверили сквозную работу с DaVinci Resolve: модель анализировала видеоматериал кадр за кадром, чтобы находить самые яркие моменты и кадрировать их в вертикальном формате.
Muse Spark Open уже доступна на Hugging Face. Apple также опубликовала новую статью на своём сайте исследований в области машинного обучения, в которой рассказывает, как MLX на Mac «позволяет исследователям и разработчикам ИИ локально экспериментировать с новейшими моделями и методами в закрытой среде».
