Apple обязали удалить 8 ИИ-приложений для «раздевания» без согласия из App Store

Городской прокурор Сан-Франциско Дэвид Чиу направил Apple и Google официальные требования (cease-and-desist) с призывом удалить из их магазинов приложений ряд сервисов для «раздевания» (nudify). Вот подробности.

App Store по-прежнему с трудом борется с приложениями для «раздевания»

Как сообщает издание Wired, Apple и Google вновь подверглись критике из-за наличия приложений, позволяющих «раздевать» людей с помощью ИИ, в App Store и Play Store.

Из отчета:

13 приложений, расследованных офисом городского прокурора — восемь в App Store и пять в Play Store — в основном позиционируют себя как инструменты для «замены лиц», однако предлагают функции создания сексуальных дипфейков после начала использования. На сайте одного из таких приложений, насчитывающего более 1 миллиона загрузок, представлено более десятка стилей ИИ-изображений, включая «bikini queen curvy» (пышная королева в бикини), «calm busty» (спокойная пышногрудая) и «cinematic intimacy» (кинематографичная близость). Многие из этих стилей сопровождаются сексуализированными изображениями женщин. На главной странице другого приложения-цели утверждается, что оно позволяет создавать «бесплатные и без цензуры» видео.

В письме Чиу отмечается, что и Apple, и Google «наживаются на этой вредоносной технологии», а в своем заявлении для Wired прокурор подчеркнул, что обе компании «вероятно, заработали миллионы долларов в виде комиссионных» на приложениях, предлагающих функции «раздевания».

Из отчета:

«Эти компании несут ответственность за то, чтобы приложения на их платформах не способствовали сексуальному насилию», — заявляет Чиу. В юридических письмах города говорится, что законы Калифорнии запрещают поддерживать сервисы, создающие порнографические дипфейки. Приложения используют внутриигровые платежи, с которых технологические компании берут процент, отмечается в письмах. «Тот факт, что одни из крупнейших и наиболее авторитетных технологических компаний мира способствуют этому, должен быть прекращен».

Wired отмечает, что не стала указывать названия приложений в своем отчете, чтобы не привлекать к ним внимание пользователей. Также сообщается, что, пока представитель Google утверждает, что компания принимает меры против приложений, нарушающих политику сервиса, Apple не предоставила комментариев до момента публикации.

Сегодняшние новости появились спустя почти полгода после того, как Tech Transparency Project (TTP) опубликовал отчет, выявивший десятки приложений для «раздевания» в App Store, а также после апрельского расследования, которое показало, что поисковые подсказки и рекламные объявления Apple направляли пользователей на них.

В то время в компании сообщили 9to5Mac, что приложения для «раздевания» нарушают Руководство по проверке приложений (App Review Guidelines) и что они проактивно отклоняют и удаляют подобные продукты, в том числе те, на которые поступают жалобы через инструменты обратной связи, такие как https://reportaproblem.apple.com.

Полный отчет Wired можно прочитать по этой ссылке.

Стоит посмотреть на Amazon