Apple оказалась среди компаний, на которые сенаторы США оказывают давление из-за приложений для «раздевания» на фото

The Guardian сообщает, что три американских сенатора направили письма генеральным директорам Apple, Google и Meta, потребовав объяснить, почему компании не смогли перекрыть доступ к ИИ-приложениям для «раздевания» (nudify). Подробности — ниже.
Немного контекста
В прошлом месяце Apple обновила правила App Store, пытаясь побороть приложения, позволяющие пользователям создавать изображения обнажённых людей без их согласия.
Согласно обновлённым правилам, приложения, позволяющие создавать контент с помощью ИИ, должны иметь защиту от злоупотреблений, в том числе инструменты для фильтрации недопустимых материалов, жалоб на оскорбительный контент и блокировки злоумышленников.
Apple также предупреждает, что приложения, используемые преимущественно для порнографического контента или объективации реальных людей, могут быть удалены из App Store без предупреждения.
Хотя намерения у Apple, безусловно, благие, изменения последовали на фоне множащихся сообщений об ИИ-приложениях для «раздевания», которые позволяют без труда создавать интимные изображения людей без их согласия.
За два месяца до этих изменений Apple удалила приложение, позволявшее создавать порнографические дипфейки реальных людей, после того как WIRED обратился к компании за комментарием. А это, в свою очередь, произошло через месяц после того, как городской прокурор Сан-Франциско Дэвид Чиу потребовал от Apple и Google удалить из своих магазинов несколько подобных приложений.
Apple также удалила ряд приложений после расследований Tech Transparency Project (TTP), опубликовавшего в январе и апреле отчёты о том, что такие приложения широко доступны в App Store и порой даже появляются в спонсируемых результатах поиска.
На протяжении всех этих расследований Apple настаивала, что приложения для «раздевания» всегда были запрещены её правилами App Review Guidelines и что компания заблаговременно отклоняет и удаляет приложения, нарушающие её политику, в том числе выявленные по жалобам пользователей.
Разумеется, Apple не одинока в этой проблеме: Google подвергается аналогичной критике из-за доступности таких приложений в Play Store, а Meta оказалась под пристальным вниманием за то, что позволяет разработчикам рекламировать их в Facebook и Instagram, о чём говорилось в упомянутом выше материале WIRED.
Это подводит нас к сегодняшнему материалу The Guardian.
Сенаторы-демократы требуют ответов
Согласно эксклюзивному материалу The Guardian, «три сенатора-демократа направили письма руководителям технологических компаний, заявив, что меры защиты от приложений для „раздевания“ на их платформах недостаточны».
Из материала:
Трое американских сенаторов заявляют, что Apple и Google не способны эффективно выявлять и удалять приложения, которые могут использоваться для создания обнажённых или порнографических изображений без согласия изображённых. Они также утверждают, что Meta продолжает зарабатывать на рекламе этих так называемых приложений для «раздевания», от которых «страдают женщины и девочки по всему миру».
Сенаторы — Рон Уайден от Орегона, Эд Марки от Массачусетса и Бен Лухан от Нью-Мексико — утверждают, что компании не только не удаляют эти приложения, но и, возможно, извлекают прибыль из их распространения и продвижения.
Комментируя письмо, Google и Meta заявили, что запрещают подобные приложения или их продвижение и работают над выявлением и удалением нарушений со своих платформ, — в целом повторив то, что Apple не раз говорила в ответ на запросы о комментариях по тем же вопросам.
Однако в офисе Уайдена считают, что простое подтверждение — или, в случае Apple, обновление — этих правил мало что значит, если компании по-прежнему с трудом обеспечивают их соблюдение.
Из материала The Guardian:
Кит Чу, главный советник по коммуникациям и заместитель директора по политике в офисе Уайдена, заявил, что разъяснение правил — не то же самое, что их соблюдение. По его словам, несмотря на то что компании подтвердили запрет на такие приложения, те продолжают распространяться в магазинах Apple и Google или продвигаться через рекламу на платформах Meta.
В ходе своего последнего расследования, опубликованного лишь в прошлом месяце, TTP обнаружил в App Store и Play Store 135 приложений, способных создавать обнажённые или порнографические изображения, используя аккаунты, зарегистрированные на 13-летних мальчиков.
Кроме того, исследователи выяснили, что даже аккаунты с настроенным родительским контролем могли скачивать эти приложения без одобрения родителей.
Несмотря на то что Apple и Google удалили выявленные в ходе расследования приложения, The Guardian отметила, что они продолжали работать на устройствах, где уже были установлены.
Теперь сенатор Уайден предупреждает, что Конгрессу, возможно, придётся вмешаться, если компании не начнут бороться с этими приложениями эффективнее.
Чтобы прочитать полный материал The Guardian, перейдите по этой ссылке.


