Перейти к содержанию

Безопасность

Чаты с Claude попали в поисковую выдачу Google — еще одно подтверждение правильности подхода Apple к конфиденциальности

Ben Lovejoy|

Чаты с Claude попали в поисковую выдачу Google — еще одно подтверждение правильности подхода Apple к конфиденциальности
Claude chats exposed in Google searches – another endorsement of Apple's privacy approach | Image shows a Claude session with the slogan 'What are you thinking?'

Мы давно предостерегаем от раскрытия конфиденциальных персональных данных во время общения с чат-ботами на базе ИИ, поскольку большинство компаний используют такие данные для обучения моделей, но теперь появился ещё более веский повод для осторожности.

За выходные ситуация стала намного хуже: пользователи Reddit обнаружили, что некоторые переписки с Claude AI можно найти с помощью обычного поиска Google …

Переписки с Claude оказались доступны всем

В Claude есть функция публикации переписки, позволяющая поделиться чатом с коллегой, другом или членом семьи. Чат-бот генерирует ссылку, которую можно отправить одному или нескольким людям, а Claude косвенно уверяет, что никто не сможет увидеть переписку, не зная URL-адреса.

Чтобы поделиться перепиской, нажмите кнопку «Поделиться» в правом верхнем углу чата. После публикации переписки её снимок сможет просмотреть любой, у кого есть ссылка.

Проблема в том, что пользователи Reddit выяснили: на самом деле ссылка для просмотра чата не нужна. Достаточно найти его в Google — с помощью конкретных поисковых запросов или просто попросив Google показать все переписки, опубликованные таким образом. BBC News сообщает:

Сотни переписок пользователей с популярным чат-ботом на базе искусственного интеллекта (ИИ) Claude от Anthropic оказались доступны практически любому пользователю интернета […] Сначала на наличие общедоступных переписок обратили внимание пользователи Reddit. В результатах поиска отобразилось более 200 разговоров с Claude — как минимум на 25 страницах; некоторые из них состоялись всего несколько недель назад.

Достаточно было попросить Google поискать в каталоге, где хранятся опубликованные переписки с Claude (site:claude.ai/share).

Как и следовало ожидать, некоторые переписки были совершенно безумными — например, пользователи спрашивали, почему музыкальная индустрия скрывает, что большую часть альбомов Jay-Z написали в соавторстве птицы. Но в других содержалась крайне конфиденциальная информация: стенограммы личных разговоров, вопрос юриста о том, нужно ли ему самостоятельно сообщить о нарушении правил поведения, а также переписка с пользователем, просившим помочь создать криптокошелёк и попутно раскрывшим свои ключи.

Пока Anthropic пытается утверждать, что проблемы нет.

Когда кто-то делится перепиской, её содержимое становится общедоступным и, как и другие общедоступные материалы в интернете, может быть сохранено сторонними сервисами.

Разумеется, проблема вполне реальна: пользователи совершенно не ожидают такого. Более того, согласно публикации Wired, причиной, по всей видимости, стала вопиющая некомпетентность.

WIRED изучил несколько открытых страниц с переписками Claude и выяснил, что на них не было тега «noindex», который, по словам Bing и Google, учитывается при принятии решения о добавлении страницы в поисковый индекс […] Anthropic не ответила на вопросы о том, почему на страницах с опубликованными переписками отсутствовал тег «noindex».

Эта новость появилась на следующий день после сообщения о том, что Claude Cowork удалось выйти за пределы песочницы на Mac и получить полный доступ ко всем файлам.

Как защитить себя

Похоже, сейчас проблему хотя бы частично устранили: ранее доступные результаты поиска больше не открываются. Тем не менее я бы не советовал пользоваться функцией публикации переписок, поскольку она полагается на защиту за счёт сокрытия информации.

Также советую удалить все ранее опубликованные переписки. Сделать это можно в разделе «Настройки» > «Конфиденциальность» > «Опубликованные переписки» > «Управление».

Ещё одно подтверждение правильности подхода Apple

В Apple Intelligence и новой Siri компания Apple использует трёхуровневый подход к обеспечению конфиденциальности:

Высокотехнологичная система PCC гарантирует, что ни Apple, ни Google не имеют доступа к данным и не хранят их. Apple разработала архитектуру безопасности так, чтобы это утверждение могли независимо проверить специалисты по безопасности.

Изображение: Anthropic

Читайте также