| 10 августа 2021 г. — 9:01 PT
На прошлой неделе Apple анонсировала три новые функции, направленные на обеспечение безопасности детей на своих устройствах. Несмотря на благие намерения, новые функции вызвали критику со стороны некоторых организаций и генеральных директоров крупных технологических компаний, выступающих против анонса Apple.
Компания опубликовала FAQ обо всех этих новых функциях и о том, как они будут работать. Теперь, пытаясь избежать дальнейшей полемики, глава отдела конфиденциальности Apple Эрик Нойшвандер в интервью TechCrunch ответил на вопросы о своих новых системах обнаружения CSAM.
Эти функции для защиты детей включают обнаружение CSAM в iCloud Photos, безопасность общения в «Сообщениях» и вмешательства в Siri и поиск. Хотя эти меры были объявлены вместе и взаимосвязаны, они используются для разных целей. Например:
- Обнаружение CSAM в iCloud Photos: система обнаружения NeuralHash идентифицирует и сравнивает с идентификаторами национального центра по розыску пропавших и эксплуатируемых детей для обнаружения известного контента CSAM в фотобиблиотеках iCloud;
- Безопасность общения в «Сообщениях»: родитель может включить эту функцию на устройстве ребенка младше 13 лет, и оно уведомит, если обнаруженное изображение окажется откровенным;
- Вмешательства в Siri и поиск: когда пользователь пытается искать термины, связанные с CSAM, через Siri и Поиск, пользователю будет предложено вмешательство и предложены ресурсы.
Вы можете узнать больше обо всем этом здесь.
В интервью с Нойшвандером TechCrunch затронул некоторые опасения пользователей. Например, Нойшвандер объяснил, почему Apple анонсировала функцию «Безопасность общения» в «Сообщениях» вместе с функцией обнаружения CSAM в iCloud Photos:
Настолько же важно, насколько важно идентифицировать коллекции известного CSAM там, где они хранятся в сервисе iCloud Photos от Apple, важно также попытаться выйти на более ранний этап этой и без того ужасной ситуации. (…) Также важно предпринять шаги для раннего вмешательства, когда люди начинают входить в эту проблемную и опасную зону, или если злоумышленники пытаются вовлечь или привести детей в ситуации, где может произойти насилие, а «Безопасность общения» в «Сообщениях» и наши вмешательства в Siri и поиск фактически затрагивают эти части процесса. Таким образом, мы действительно пытаемся нарушить циклы, которые приводят к CSAM, который затем в конечном итоге может быть обнаружен нашей системой.
Еще одно опасение связано с попытками правительств и агентств найти лазейку в этой мере, на что Нойшвандер отвечает, что Apple «не будет затрагивать конфиденциальность для всех, кто не занимается незаконной деятельностью».
На вопрос, следует ли доверять Apple, если правительство попытается скомпрометировать эту новую систему, глава отдела конфиденциальности Apple говорит:
Ну, во-первых, это запускается только для учетных записей iCloud в США, и поэтому гипотетические сценарии, похоже, затрагивают общие страны или другие страны, кроме США, когда говорят таким образом, и поэтому, кажется, люди согласны с тем, что закон США не предоставляет такие возможности нашему правительству.
Но даже в случае, когда мы говорим о какой-то попытке изменить систему, она имеет ряд встроенных защитных механизмов, которые делают ее не очень полезной для попыток идентификации лиц, владеющих конкретными нежелательными изображениями. Список хэшей встроен в операционную систему, у нас есть одна глобальная операционная система, и мы не можем направлять обновления отдельным пользователям, поэтому списки хэшей будут общими для всех пользователей при включении системы.
Нойшвандер также подчеркивает, что если iCloud Photos отключен, NeuralHash не будет работать и не будет генерировать никаких ваучеров:
Если пользователи не используют iCloud Photos, NeuralHash не будет работать и не будет генерировать никаких ваучеров. Обнаружение CSAM — это сравнение нейронного хэша с базой данных известных хэшей CSAM, которые являются частью образа операционной системы. Ни одна из этих частей, ни одна из дополнительных частей, включая создание ваучеров безопасности или загрузку ваучеров в iCloud Photos, не функционирует, если вы не используете iCloud Photos.
Читайте также:
- Неправомерное использование сканирования CSAM в США предотвращается Четвертой поправкой, утверждает Corellium
- Бывший глава службы безопасности Facebook высказался по поводу споров о защите детей Apple
- Apple подтверждает, что обнаружение CSAM применяется только к фотографиям, защищает свой метод по сравнению с другими решениями