Отчет раскрывает планы Apple по использованию чипов Nvidia для Siri на базе Gemini

Новый отчет от The Information содержит новые подробности о том, как будет работать Siri на базе Gemini. Вот детали.

Apple усиливает гарантии конфиденциальности на фоне партнерств в сфере ИИ

Несколько дней назад издание The Information сообщило о некоторых технических аспектах ИИ-планов Apple для конференции WWDC, включая то, что компания, как ожидается, будет использовать чипы Nvidia через Google Cloud для обработки некоторых запросов Siri.

Из первоначального отчета:

[…] в рамках соглашения Apple с Google некоторые запросы пользователей к новой версии Siri будут обрабатываться в Google Cloud с использованием лицензированной версии модели Gemini от поискового гиганта. Как сообщают осведомленные источники, Apple недавно одобрила использование технологии конфиденциальности от Nvidia в этой среде, что говорит о намерении использовать ИИ-чипы Nvidia по крайней мере для части своих вычислительных нужд в Google Cloud.

Теперь издание The Information опубликовало новый отчет с уточнениями о том, как именно будет работать использование чипов Nvidia компанией Apple:

В частности, Apple будет использовать парк дата-центр чипов Nvidia Blackwell B200 от Google, сообщили источники. Apple задействует функцию конфиденциальных вычислений (confidential compute) от Nvidia, которая шифрует данные в процессе их обработки на чипах.

Nvidia Blackwell B200 — один из флагманских графических процессоров Nvidia для дата-центров, предназначенный для обучения масштабных ИИ и выполнения логических выводов. Он основан на архитектуре Blackwell, которая является преемницей Hopper.

Nvidia позиционирует Blackwell как платформу для запуска и обучения очень больших ИИ-моделей (включая модели с триллионами параметров), обеспечивающую значительные улучшения в области логического вывода, пропускной способности памяти и масштабирования между несколькими графическими процессорами по сравнению с архитектурой Hopper.

Что касается функции конфиденциальных вычислений, то это аппаратно-защищенная система, которая оберегает данные во время их активной обработки графическими процессорами Nvidia.

По заявлению Nvidia, эта функция «сохраняет конфиденциальность и целостность ИИ-моделей, развернутых на графических процессорах Rubin, Blackwell и Hopper», позволяя «безопасно запускать чувствительные рабочие нагрузки ИИ в масштабе с производительностью, близкой к нативной, даже в общих или облачных средах».

Nvidia опубликовала технический документ по своей функции конфиденциальных вычислений, с которым можно ознакомиться здесь.

Возвращаясь к отчету, The Information отмечает, что этот шаг Apple «отходит от стратегии [компании] по попыткам контролировать все критически важные компоненты своих продуктов», добавляя, что «неясно, как ранее запущенная серверная система Apple под названием Private Cloud Compute впишется в предстоящий запуск продукта Siri».

Чтобы прочитать полный отчет The Information, перейдите по этой ссылке.

Стоит посмотреть на Amazon