Умные очки Meta Ray-Ban отправляют «чувствительные» видео аннотаторам данных

Новый отчет сообщает, что видеопотоки с умных очков Meta Ray-Ban отправляются на проверку аннотаторам данных в Кении, и что эти кадры содержат конфиденциальный контент, который должен быть исключен.

Информаторы утверждают, что видео, которое просматривают сторонние подрядчики, нанятые Meta, включает в себя всё: от секса до банковских карт…

Умные очки Meta Ray-Ban могут записывать видео двумя способами. Во-первых, вы можете вручную активировать запись видео, чтобы запечатлеть происходящее с точки зрения пользователя. Это может быть отличным способом без помощи рук записывать такие события, как катание на американских горках, а также инциденты, которые могут произойти во время вождения или езды на велосипеде.

Во-вторых, вы можете использовать функцию ИИ, чтобы задавать вопросы обо всем, на что вы смотрите через очки. Общеизвестно, что обработка данных ИИ осуществляется на серверах Meta, и поэтому видеоматериалы необходимо отправлять туда для анализа.

Однако, согласно сообщению шведского сайта SVD, кадры отправляются аннотаторам данных, чья задача — вручную идентифицировать объекты, видимые в этих клипах. Работник стороннего подрядчика из Кении говорит, что эти кадры иногда содержат очень конфиденциальный контент.

Рабочие в Кении говорят, что им некомфортно ходить на работу. Они рассказывают нам об очень личных видеороликах, которые, по-видимому, сняты прямо в западных домах, людьми, которые используют очки в повседневной жизни. Несколько человек описывают видеоматериалы, показывающие посещение ванной комнаты, секс и другие интимные моменты […]

«Кто-то мог ходить в очках или случайно надеть их, а затем партнер этого человека был в ванной, или он только что вышел голым», — говорит сотрудник.

Обстоятельства, при которых записываются эти конфиденциальные видео, в отчете очень неясны. Например, есть упоминание о людях, которые носят очки во время секса, что кажется очень преднамеренным использованием. Однако это также позволяет предположить, что видеоматериалы отправляются на проверку, даже если кто-то записывает вручную, а не использует Meta AI.

Существует явная нехватка прозрачности в отношении того, какие материалы отправляются в Meta при использовании функции ИИ. Например, если вы смотрите на автомобиль и просите Meta определить марку и модель, через какое время перестает отправляться видео? Через пять секунд, 10 секунд, 30 секунд? Как только ответ на вопрос получен, или запись продолжается на случай, если вы зададите дополнительные вопросы?

Собственные условия использования компании чрезвычайно расплывчаты.

В условиях указано, что «в некоторых случаях Meta будет проверять ваши взаимодействия с ИИ, включая содержание ваших разговоров или сообщений с ИИ, и эта проверка может быть автоматической или ручной (человеческой)».

SVP сообщает, что когда они запросили у Meta подробности, компания просто направила их обратно к Условиям обслуживания и Политике конфиденциальности.

К сожалению, отчет гласит, что сайт проанализировал сетевой трафик, чтобы выяснить, что отправляется, но затем не предоставляет никакой информации.

Когда мы затем анализируем сетевой трафик из приложения, мы видим, что телефон имеет частый контакт с серверами Meta в Лулео, Швеция, и Дании.

Бывшие сотрудники Meta говорят, что конфиденциальные данные не должны отправляться на проверку человеком, но это зависит от алгоритмической идентификации этих конфиденциальных данных, которая не всегда успешна.

Мнение 9to5Mac

Я сам пользуюсь этими очками. Новизна функции ИИ быстро прошла, но это очень удобный способ снимать POV-видео без помощи рук. Хотя я бы никогда не стал снимать что-то конфиденциальное, я был бы очень возмущен, узнав, что Meta записывает видео вручную.

В отчете досадно мало конкретной информации, но, полагаю, он служит напоминанием о том, что следует с осторожностью относиться к любым ИИ-сервисам, когда дело касается конфиденциальных данных любого рода — или любых продуктов Meta.

Фото: 9to5Mac/Ray-Ban