| 10 сентября 2025 г. — 16:41 PT
Politico опубликовал подробный отчет, в котором утверждается, что после избрания Трампа Apple изменила свои рекомендации по обучению ИИ по таким вопросам, как DEI, вакцины, выборы и сам Трамп. Вот подробности.
Аннотация данных
Технологические компании обычно полагаются на субподрядчиков для помощи в маркировке и постобучении своих моделей ИИ.
В отчете Politico говорится, что Apple нанимает Transperfect, компанию, предлагающую «услуги и решения по переводу», включая сбор и аннотацию данных для ИИ.
Аннотация данных — один из важнейших этапов обучения ИИ. В двух словах, аннотаторы маркируют и категоризируют необработанные данные, оценивают сгенерированные ИИ результаты и отмечают проблемы, такие как предвзятость или риски безопасности. Их работа производит структурированную обратную связь, которую, в свою очередь, исследователи могут использовать для донастройки или переобучения моделей.
Согласно отчету, около 200 человек занимаются аннотацией данных для моделей ИИ Apple в офисе Transperfect в Барселоне.
Выводы Politico
В своем отчете Politico заявляет, что изучил два набора документов, которыми пользовались разметчики данных при работе с моделями ИИ Apple: один, использовавшийся с 2024 по начало 2025 года, и второй, выпущенный Apple в марте, с новым набором рекомендаций:
«Документ от марта представил обновленные рекомендации по тому, как ИИ должен говорить о политике разнообразия, равенства и инклюзивности — теме, которая подверглась громкой критике со стороны администрации США на уровне советов директоров по всей стране, включая саму Apple — по сравнению с документом рейтинга 2024 года, виденным POLITICO.
Помимо большей осторожности в отношении ряда политически чувствительных тем, включая инициативы по разнообразию, выборы и вакцины, компания также обновила свои рекомендации, чтобы уделять больше внимания ответам ИИ на сторонников Трампа и на саму Apple».
Politico также сообщает, что разделы о «нетерпимости» и «системном расизме» были удалены. В то же время такие темы, как политика DEI, Газа, Крым, Кашмир, Тайвань, вакцины и выборы, были добавлены в список «чувствительных» тем, который уже включал права ЛГБТК+, контроль над оружием и общие упоминания спорных территорий.
Наконец, в отчете также говорится, что документ от марта добавил больше деталей о том, как аннотаторы должны обрабатывать вопросы, связанные с Трампом. Однако не было никаких изменений в том, *как* модель должна себя вести в отношении него.
Apple и Transperfect решительно отрицают отчет, как бы
В заявлении для Politico представитель Apple опроверг, что компания изменила свой общий подход к политике ИИ, но не стал отрицать конкретные изменения, упомянутые в отчете:
«Apple Intelligence основана на наших принципах ответственного ИИ, которые руководят каждым шагом от обучения до оценки. Заявления о том, что мы изменили этот подход или политику, абсолютно ложны. (…) Мы обучаем собственные модели и работаем со сторонними поставщиками для их оценки с использованием структурированных тем, включая чувствительные, чтобы гарантировать, что они ответственно обрабатывают широкий спектр пользовательских запросов. Эти темы формируются нашими принципами и регулярно обновляются для постоянного улучшения наших моделей».
Apple также указала на свои Принципы ответственного ИИ — набор из четырех руководящих принципов, лежащих в основе разработки ИИ, которые можно найти здесь.
Аналогичным образом, согенеральный директор и президент Transperfect Фил Шейв дал следующее заявление Politico:
«Эти заявления абсолютно ложны, и мы категорически их отрицаем. (…) Мы регулярно получаем обновленные рекомендации для нашей работы, и за последний год было предоставлено более 70 обновлений — ни одно из них не изменило какой-либо политики, которая оставалась неизменной».
Как отметил Politico, «в заявлении не уточняется, какие именно утверждения он имел в виду».
Каково ваше мнение о том, как должны вести себя модели ИИ в отношении все более поляризованных вопросов? Дайте нам знать в комментариях.
Акции на аксессуары на Amazon