БезопасностьИскусственный интеллект
В Muse AI выявлены серьёзные утечки персональных данных, включая сведения о банковских балансах

Сотрудники Meta выразили обеспокоенность тем, что выглядит как серьёзные нарушения конфиденциальности при использовании Muse — сейчас это второе по популярности бесплатное приложение для iPhone в App Store, которое скачали более 10 миллионов раз.
Среди них — очередной случай доступа к сообщениям со сквозным шифрованием без разрешения, а также передача данных, которые могут оказаться балансами банковских счетов другого пользователя Muse…
Muse AI от Meta
Siri AI была не единственным ИИ-приложением, вышедшим в сентябре: приложение Muse AI от Meta было запущено в том же месяце, и компания описала его как «ваш персональный ИИ-агент, который решает задачи во всех сферах жизни».
Сначала Muse вышло как приложение для iPhone, а вскоре появились версии для Mac и iPad. Оно сразу же поднялось на вершину чартов американского App Store, обогнав ChatGPT. После масштабной рекламной кампании Meta приложение быстро превысило 5 миллионов загрузок, и с тех пор эта цифра удвоилась.
Опасения за конфиденциальность возникли быстро
Довольно скоро появились серьёзные опасения по поводу конфиденциальности. Технологический журналист Джон Тернус сообщил, что приложение для Mac получило доступ к его сообщениям, хотя он явно отказал в разрешении. Затем приложение солгало ему о том, как ему это удалось. Meta назвала это ошибкой.
Исследователь безопасности Патрик Уордл также обнаружил уязвимость нулевого дня, позволявшую злоумышленнику перехватывать надиктованные запросы и перенаправлять их на собственный сервер.
Тогда я сказал, что ни за что не стану одним из миллионов пользователей этого приложения, и новый отчёт лишь подтвердил мудрость этого решения.
Сотрудники Meta сообщают о нарушениях конфиденциальности
Reuters сообщает, что сотрудники Meta обсуждают новые нарушения. Среди них — ещё один случай доступа к зашифрованным сообщениям без разрешения.
Сотрудница, пользовавшаяся Muse на личном телефоне, сообщила, что приложение неожиданно напомнило ей ответить на сообщение сестры в Signal — мессенджере со сквозным шифрованием, популярном среди защитников конфиденциальности и конкурирующем с WhatsApp от Meta.
«Это похоже на грубейшее нарушение конфиденциальности. Я точно не давала ему доступ к другим приложениям и не помню, чтобы меня об этом спрашивали», — написала сотрудница в своём посте.
Согласно отчёту, судя по всему, это было сделано путём перехвата push-уведомлений. Однако именно так приложение объяснило и предыдущий случай, и это оказалось неправдой. AI Now Institute удалось воспроизвести проблему с доступом Muse к сообщениям Signal без разрешения.
Другой сотрудник сообщил, что получил непрошеные данные о банковских балансах, которые, по его словам, по-видимому, принадлежали другому пользователю Muse.
Muse ни с того ни с сего добавило лишнее сообщение к своим обычным чатам о погоде и приливах для рыбалки: «Кстати, два обновления по банку: баланс в Capital One — 2 722,58 доллара, баланс в Charles Schwab — 5 899,57 доллара».
«Я никогда не делился с Muse данными своего банковского счёта и никогда не обсуждал с Muse банковские темы. Боюсь, оно присылает мне чужую банковскую информацию», — написал сотрудник в своём посте.
Meta заявила Reuters, что это были «единичные инциденты», и предположила, что банковские балансы могли оказаться галлюцинациями ИИ, а не утечкой данных.
Мнение 9to5Mac
Могу лишь повторить своё прежнее мнение о Muse: нет уж.
- Apple TV 4K (последняя модель)
- Apple AirPods Pro 3
- Apple HomeView
- Умный контроллер гаражных ворот meross Smart Garage Door Opener
- Logitech MX Master 4 для Mac
Изображение: 9to5Mac/Meta/Public domain vectors


