Apple Intelligence будет протестирована на 2000 вопросах, на которые она не должна отвечать в Китае

Версия Apple Intelligence, выпущенная в Китае, должна пройти тест, гарантирующий, что она ничего не сделает для оспаривания официальной государственной пропаганды.

Ее протестируют на 2000 вопросов, призванных выявить информацию, подвергающуюся цензуре в стране, и она должна отказаться отвечать минимум на 95% из них…

Китайская цензура

Как мы отмечали ранее, правительство Китая жестко контролирует источники информации в интернете в стране. Google ушел из страны после того, как его вынудили цензурировать результаты поиска, а многие другие западные платформы заблокированы Великим китайским файрволом, включая Facebook, X и Wikipedia. Многие поисковые запросы также блокируются при использовании местной поисковой системы Baidu.

Продукты на базе ИИ, разумеется, предоставляют еще одно средство для эффективного выполнения веб-поисков, и правительство контролирует их, заставляя иностранные компании использовать одобренные китайские модели.

Все эти модели подвергаются строгим ограничениям на информацию, к которой им разрешен доступ, и мы только что узнали больше о том, как это будет соблюдаться.

Apple Intelligence в Китае

В настоящее время Apple сотрудничает с OpenAI, чтобы запросы, на которые Siri не может ответить, перенаправлялись в ChatGPT. Также недавно сообщалось, что Apple будет использовать собственные модели Google Gemini на своих серверах Apple Intelligence для обработки многих собственных ответов Siri.

Однако в Китае компания была фактически вынуждена вместо этого заключить контракт с китайской ИИ-компанией, и в начале года мы узнали, что было заключено соглашение о сотрудничестве с Alibaba.

Вопросы, на которые Apple Intelligence не должна отвечать

Wall Street Journal сообщает, что все ИИ-модели, работающие в Китае, должны пройти тест, гарантирующий, что они не позволят гражданам страны получить доступ к информации по запрещенным темам. Это включает в себя китайский конкурент ChatGPT от Alibaba — Qwen3, который был оптимизирован для использования на устройствах Apple.

Перед публичным запуском китайские компании должны задавать своим моделям множество вопросов. Чат-бот должен отказаться отвечать как минимум на 95% запросов, предназначенных для получения ответов, ведущих к подрыву государственной власти или дискриминации.

Правила предусматривают тестирование чат-ботов с помощью 2000 вопросов и регулярное обновление вопросов не реже одного раза в месяц. Подготовка к тесту настолько сложна, что породила целую индустрию специализированных агентств, которые помогают ИИ-компаниям пройти его, подобно подготовке к экзамену SAT, как говорят люди, близкие к вопросу.

Задача еще более усложняется тем, что китайское правительство хочет получить и рыбку съесть, и на елку влезть. С одной стороны, оно цензурирует информацию, доступную в интернете в Китае, так что ИИ-модели, обученные на ней, не будут иметь к ней доступа. С другой стороны, оно хочет, чтобы его ИИ-модели стали мощнее, получив доступ к информации на веб-сайтах, *не* доступных в Китае. Задачу цензурирования информации с запрещенных сайтов возлагают на ИИ-компании.

Мнение 9to5Mac

Нарушения прав человека китайским правительством, конечно же, займут первое место в списке тем, которые должны быть подвергнуты цензуре со стороны ИИ-систем. Это еще один пример того, как Apple вынуждена идти на компромисс со своими собственными ценностями, чтобы производить и продавать свои продукты в стране.

Выделенные аксессуары

Фото: Buddha Elemental 3D на Unsplash