| 15 марта 2019 г. — 8:02 PT
Facebook впервые начал тестировать систему борьбы с «порномести» в конце прошлого года, но у нее был один довольно пугающий аспект: вам приходилось загружать собственные ню, чтобы платформа знала, какие изображения ей следует блокировать. Сегодня социальная сеть объявила о новой системе обнаружения на основе ИИ…
Предыдущая система, которая все еще используется и готовится к расширенному внедрению, основывалась на загрузке пользователями фотографий, которыми они боялись поделиться, что позволяло Facebook создавать цифровой отпечаток для блокировки загрузки совпадающих изображений.
Вы отправляете ню самому себе в Messenger, и Facebook создает хэшированный цифровой отпечаток фотографии — зашифрованную версию необработанных данных в файле изображения. Каждый раз, когда кто-то пытается загрузить фотографию, она проверяется по этому отпечатку и отклоняется, если совпадает.
Facebook заявляет, что его новая система на основе ИИ предназначена для автоматического обнаружения обнаженных или полуобнаженных изображений, после чего они передаются модератору для принятия решения о блокировке фотографии или видео.
Используя машинное обучение и искусственный интеллект, мы теперь можем проактивно обнаруживать полуобнаженные изображения или видео, которые распространяются без разрешения в Facebook и Instagram. Это означает, что мы можем найти этот контент до того, как кто-либо его сообщит, что важно по двум причинам: жертвы часто боятся возмездия, поэтому они неохотно сообщают о контенте сами или не знают, что контент был распространен.
Специально обученный член нашей команды по работе с сообществом будет просматривать контент, найденный нашей технологией. Если изображение или видео нарушает наши правила сообщества, мы удалим его, и в большинстве случаев мы также отключим учетную запись за распространение интимного контента без разрешения.
Компания заявляет, что существует процесс апелляции, если кто-то считает, что его учетная запись была заблокирована необоснованно.
Facebook заявляет, что его предыдущая инициатива была положительно воспринята жертвами.
Получив положительные отзывы от жертв и организаций поддержки, мы расширим этот пилотный проект в ближайшие месяцы, чтобы больше людей могли воспользоваться этой возможностью в экстренной ситуации.
Компания также создала новую страницу в своем Центре безопасности, объясняющую, как сообщить о «порномести» и какие дополнительные шаги могут предпринять жертвы.