Новые правила App Store от Apple ужесточают борьбу с ИИ-приложениями, «раздевающими» людей, и приложениями с подменой условий

Сегодня Apple обновила правила проверки приложений, внеся ряд изменений, призванных усилить защиту от вредоносного контента и обманных практик, связанных с проверкой приложений. Подробности — далее.

Немного контекста

Только за последний год появилось немало сообщений и разгорелось множество споров вокруг приложений, которые обходят правила проверки Apple и подвергают пользователей, в том числе несовершеннолетних, воздействию вредоносного или неприемлемого контента.

В январе Tech Transparency Project (TTP) обнаружил в App Store десятки приложений на базе ИИ для «раздевания» людей.

В апреле организация опубликовала продолжение расследования, выяснив, что поисковые подсказки и реклама в App Store также направляли пользователей к таким приложениям. В июле власти Сан-Франциско предписали Apple удалить восемь приложений, способных создавать интимные изображения без согласия людей.

Также в июле расследование 9to5Mac выявило десятки приложений, маскировавших азартные игры под простые игры и утилиты, чтобы обойти проверку App Store; многие из них были доступны детям.

За пределами Бразилии эти приложения работали так, как было заявлено, но при запуске с бразильских IP-адресов показывали скрытые платформы для ставок.

А затем разгорелся скандал вокруг Grok: чат-бот с ИИ от Илона Маска использовали для создания сексуализированных изображений женщин и несовершеннолетних без их согласия. Это побудило законодателей и общественные организации призвать Apple удалить X и Grok из App Store. Позднее Apple подтвердила, что в частном порядке предупредила xAI: Grok могут удалить, если компания не решит эту проблему.

Сегодня Apple обновила правила проверки приложений, чтобы попытаться решить подобные проблемы.

Обновлённые правила проверки приложений Apple

Теперь в разделе 1.2, посвящённом пользовательскому контенту, говорится (изменения выделены полужирным шрифтом):

Приложения, позволяющие пользователям создавать, генерировать, загружать, распространять или иным образом добавлять контент, сопряжены с особыми трудностями, в том числе с нарушением прав интеллектуальной собственности, созданием интимных изображений без согласия людей и анонимной травлей.

В новые правила Apple добавила: «Разработчики, которые не внедряют надлежащие меры защиты или не устраняют выявленные нарушения после получения уведомления, могут считаться нарушившими Кодекс поведения разработчиков».

Ещё одно особенно важное изменение: Apple ужесточила правила для так называемых приложений-приманок, которые «вводят в заблуждение относительно своего назначения во время проверки и раскрывают вредоносные функции — например, „раздевание“ — только после одобрения», как поясняет компания.

Новый раздел 2.5.19 гласит:

Не включайте в приложение скрытые, неактивные или не задокументированные функции; назначение приложения должно быть понятным конечным пользователям и специалистам, проверяющим приложения. Попытка скрыть недокументированные функции в бинарном файле приложения, например с помощью обфускации кода или других методов, является основанием для удаления приложения из App Store и прекращения действия учётной записи разработчика.

Запрет на скрытые функции уже содержался в разделе 2.3.1, однако теперь Apple сформулировала правило яснее: отдельно указала на обфускацию кода и подчеркнула, что нарушения могут привести к удалению приложения и прекращению действия учётной записи разработчика.

Наконец, в разделе 5 («Правовые вопросы») Apple также ужесточила формулировки в отношении приложений, способствующих торговле людьми или эксплуатации детей, прямо указав, что такие приложения «будут удалены из App Store, а их распространение альтернативными способами будет заблокировано».

Чтобы ознакомиться с обновлёнными правилами проверки приложений Apple, перейдите по этой ссылке.