Apple готовит новое приложение для Mac, которое упростит запуск локальных ИИ-моделей

Инсайдер Аарон Перрис обнаружил свидетельства того, что Apple разрабатывает новое приложение для Mac под названием Harbor, которое упрощает локальный запуск моделей ИИ на одном или нескольких компьютерах Mac.

Раскрыто новое приложение Apple Harbor: оно «превращает ваш Mac в частный сервер для инференса ИИ»

В этом году Mac заметно прибавил в популярности — как благодаря доступным вариантам вроде MacBook Neo, так и в роли инструмента для локального запуска моделей ИИ на Mac Studio, Mac mini и других компьютерах.

Похоже, Apple намерена активнее развивать второй сценарий: инсайдер Аарон Перрис обнаружил новое приложение для Mac под названием Harbor, созданное для того, чтобы превращать ваш Mac в частный сервер для инференса ИИ.

Вот пост Перриса в X с подробностями:

Как отмечается в посте, вот что умеет приложение:

Harbor превращает ваш Mac в частный сервер для инференса ИИ. Запускайте модели с открытыми весами локально на Apple silicon — ваши данные никогда не покидают ваше оборудование, и ничего не попадает в облако. Подключите несколько компьютеров Mac через Thunderbolt 5, чтобы объединить их унифицированную память, — это позволит запускать крупные модели и обрабатывать больше параллельных запросов, чем способен один компьютер.

А вот ключевые возможности:

• Настройка за минуты, а не за часы: «Harbor автоматически обнаруживает ваши устройства через Thunderbolt 5 и формирует кластер. Подключите, запустите — и всё работает: никакой ручной настройки, командной строки или знаний в области инфраструктуры».
• Загрузка и запуск моделей напрямую: «Просматривайте, скачивайте и загружайте модели с открытыми весами прямо в приложении. Harbor берёт управление моделями на себя, чтобы вы могли сосредоточиться на работе, а не на настройке».
• Кластеры для масштабирования: «Подключите два или более компьютера Mac с поддержкой Thunderbolt 5, и Harbor объединит их унифицированную память в единый ресурс для инференса. Запускайте модели, превышающие возможности любого отдельного компьютера, или обслуживайте больше параллельных запросов в рамках кластера».

Сейчас Harbor находится в закрытом предварительном тестировании под брендом Apple Claris, но, похоже, в ближайшие недели и месяцы приложение станет доступно широкой публике.

Хотели бы вы пользоваться Harbor на своём Mac? Расскажите в комментариях.