
Фреймворк машинного обучения Apple MLX, изначально разработанный для Apple Silicon, получает бэкенд CUDA, что является очень важным событием. Вот почему.
Работу возглавляет разработчик @zcbenz на GitHub (через AppleInsider), который начал прототипирование поддержки CUDA несколько месяцев назад. С тех пор он разделил проект на более мелкие части и постепенно объединил их в основную ветку MLX от Apple.
Бэкенд все еще находится в стадии разработки, но уже поддерживаются и протестированы несколько основных операций, таких как умножение матриц, softmax, редукция, сортировка и индексация.
Постойте, что такое CUDA?
По сути, CUDA (или Compute Unified Device Architecture) — это Metal для аппаратного обеспечения NVIDIA: вычислительная платформа, созданная компанией специально для работы на ее собственных GPU и максимального использования их возможностей для задач высокопроизводительных параллельных вычислений.
Для многих CUDA является стандартным способом запуска рабочих нагрузок машинного обучения на GPU NVIDIA, и она используется во всей экосистеме ML, от академических исследований до коммерческого развертывания. Фреймворки, такие как PyTorch и TensorFlow, названия которых становятся все более известными даже за пределами кругов глубокого машинного обучения, все полагаются на CUDA для использования ускорения GPU.
Так почему же MLX от Apple теперь поддерживает CUDA?
MLX изначально был оптимизирован для Apple Silicon и Metal, но добавление бэкенда CUDA меняет это. Теперь исследователи и инженеры могут прототипировать модели на базе CUDA локально на Mac, используя MLX, а затем развертывать их на крупномасштабных кластерах GPU NVIDIA, которые по-прежнему доминируют в рабочих нагрузках обучения машинного обучения.
Тем не менее, существуют ограничения, большинство из которых находятся в стадии разработки. Например, еще не все операторы MLX реализованы, а поддержка GPU AMD еще находится на более позднем этапе.
Тем не менее, сближение MLX и GPU NVIDIA открывает двери для более быстрого тестирования, экспериментов и исследовательских сценариев использования, что является практически всем, что может услышать разработчик ИИ.
Если вы хотите попробовать сами, подробности доступны на GitHub.
Скидки на Apple Watch
- Apple Watch SE 2, 40 мм: 169 $ (было 249 $)
- Apple Watch Series 10, 42 мм: 299 $ (было 399 $)
- Apple Watch Series 10, 46 мм: 329 $ (было 429 $)