Отчет: App Store изобилует приложениями для ИИ-раздевания без согласия

Сегодня проект Tech Transparency Project опубликовал отчет, в котором говорится, что приложения для «раздевания» (nudify) широко доступны и легко находятся в App Store и Google Play. Вот подробности.

Некоторые приложения для «раздевания» даже рекламируются в App Store

В то время как Grok недавно привлек внимание к сгенерированным ИИ сексуализированным изображениям без согласия, в том числе с участием несовершеннолетних, сама проблема не нова.

По сути, проблема очевидно существовала еще до генеративного ИИ, поскольку традиционные инструменты редактирования изображений давно позволяют создавать подобный контент abusive. Что изменилось за последние пару лет, так это масштаб и тот факт, что барьер для создания таких изображений за секунды теперь практически отсутствует.

Неудивительно, что многие приложения за последние несколько лет пытались извлечь выгоду из этой новой возможности, причем некоторые открыто ее рекламируют.

Все это произошло в то время, когда Apple боролась с Epic Games и другими разработчиками приложений в антимонопольных исках, где Apple настаивала, что частью причины взимания комиссий до 30% является обеспечение безопасности App Store с помощью автоматизированных и ручных систем проверки приложений.

И хотя Apple работает над предотвращением мошенничества, злоупотреблений и других нарушений правил App Store, иногда приложения и целые категории приложений могут ускользнуть от внимания. Только в прошлом году 9to5Mac освещал большое количество приложений, которые якобы (или активно намекали) были приложением OpenAI Sora 2, некоторые из которых взимали высокие еженедельные абонентские платы.

Теперь, учитывая возобновленное внимание, которое Grok привлек к инструментам для «раздевания» на базе ИИ, проект Tech Transparency Project (TTP) опубликовал отчет, подробно описывающий, как они легко нашли приложения для «раздевания» в App Store и Google Play.

Из отчета:

Приложения, идентифицированные TTP, были совокупно загружены более 705 миллионов раз по всему миру и принесли доход в размере 117 миллионов долларов, по данным AppMagic, компании, анализирующей приложения. Поскольку Google и Apple получают долю от этого дохода, они напрямую получают прибыль от деятельности этих приложений.

Google и Apple предлагают эти приложения, несмотря на их явное нарушение политики магазинов приложений. Google Play Store запрещает «изображения сексуальной наготы или сексуально откровенные позы, в которых субъект обнажен» или «минимально одет». Он также запрещает приложения, которые «унижают или объективируют людей, такие как приложения, которые претендуют на раздевание людей или видят сквозь одежду, даже если они помечены как шуточные или развлекательные приложения».

В отчете также отмечается, что простых поисковых запросов по словам типа «nudify» или «undress» достаточно, чтобы обнаружить приложения для «раздевания», некоторые из которых явно рекламируются по этим ключевым словам.

Images: Tech Transparency Project

TTP заявляет, что приложения, включенные в отчет, «относятся к двум общим категориям: приложения, использующие ИИ для генерации видео или изображений на основе запроса пользователя, и приложения типа «face swap», которые используют ИИ для наложения лица одного человека на тело другого».

Для тестирования этих приложений TTP использовал сгенерированные ИИ изображения фальшивых женщин и ограничил свое тестирование бесплатными функциями каждого приложения. В результате 55 приложений для Android и 47 приложений для iOS выполнили запросы. По крайней мере, одно из этих приложений имело рейтинг для возрастной группы 9+ в App Store.

В отчете TTP подробно объясняется, насколько легко они создавали эти изображения, и представлены разнообразные цензурированные результаты для обоснования своей позиции.

Вот отчет об их тестах одного из приложений:

«В версии для iOS приложение, получив тот же текстовый запрос на снятие верхнего слоя одежды женщины, не смогло сгенерировать изображение и выдало предупреждение о конфиденциальном контенте. Но второй запрос на показ женщины, танцующей в бикини, был успешным. На главном экране как в версии для iOS, так и в версии для Google Play предлагаются различные шаблоны видео с ИИ, включая «порвать одежду», «танец с тряской груди» и «наклониться».

В отчете делается вывод, что, хотя приложения, упомянутые в отчете, могут представлять собой «лишь малую часть» из того, что доступно, они «предполагают, что компании неэффективно контролируют свои платформы и не применяют собственные правила в отношении таких приложений».

Чтобы прочитать полный отчет, перейдите по этой ссылке.

Скидки на аксессуары на Amazon