
iOS 27 Beta 5 содержит упоминания о готовящейся новой функции, которая позволит Apple подтверждать подлинность фотографий с iPhone.
Многим пользователям iPhone это не понадобится по причинам, о которых мы поговорим чуть ниже, но этот шаг — лишь начало…
Что такое Apple Reference Image?
Созданные с помощью искусственного интеллекта изображения и видео стремительно развиваются в плане детализации и реализма — порой их уже трудно отличить от настоящих фото. Этим активно пользуются как мошенники, так и те, кто намеренно распространяет дезинформацию.
Для борьбы с этим явлением была создана отраслевая организация — Коалиция по происхождению и подлинности контента (C2PA). Она предоставляет инструменты для идентификации подлинных фотографий и позволяет зрителям увидеть, как именно они были изменены и применялись ли инструменты ИИ.
К инициативе C2PA присоединилось более 500 компаний, однако Apple пока, судя по всему, идет собственным путем, внедряя функцию Apple Reference Image (ARI). Любой человек, сделавший снимок на iPhone с включенной функцией ARI, сможет загрузить его на сервер Apple для проверки на подлинность.
Почему это только начало?
Находки в последней бета-версии указывают на то, что функция ARI по умолчанию будет отключена, поскольку большинству владельцев iPhone она никогда не пригодится. Она в первую очередь предназначена для таких людей, как журналисты и участники судебных разбирательств, которым может потребоваться независимое доказательство подлинности своих снимков.
Но хотя на момент запуска сфера применения ARI может быть ограничена, подобные функции станут повсеместными по мере роста популярности генеративного ИИ. Например, ЕС недавно анонсировал кодекс практики в отношении прозрачности контента, созданного с помощью ИИ, который призван помочь людям легко отличать реальный контент от поддельного. Это касается как изображений, так и текста (см. ниже).
На данный момент это добровольная инициатива, но один из гигантов в сфере ИИ уже понял, куда дует ветер, и заявил о ее поддержке. Компания Anthropic заявляет, что все будущие модели Claude будут применять цифровую водяную маркировку как к тексту, так и к изображениям. Примечательно, что компания делает это по всему миру, а не только в странах ЕС, что является молчаливым признанием того, что подобные требования вскоре могут стать обязательными на глобальном уровне.
Как аутентифицировать текст?
Самым неожиданным требованием в инициативе ЕС является то, что ИИ-компании должны снабжать цифровыми водяными знаками не только изображения, но и текстовый вывод.
Это можно сделать с помощью невидимых символов — таких, какие я только что использовал между словами «невидимых» и «символов». Такой знак переживет копирование и вставку, хотя его очень легко обойти с помощью распознавания текста (OCR). Например, у меня есть утилита на Mac, которая позволяет делать это так же легко, как обычный скриншот (она установлена из-за крайне раздражающей привычки некоторых компаний публиковать официальные заявления в виде картинок).
Некоторые предполагают, что Anthropic может зайти так далеко, что станет использовать определенные языковые паттерны в текстах Claude, чтобы их можно было обнаружить даже после распознавания через OCR. Я бы мог многое сказать по этому поводу, но это выходит за рамки данной статьи.
Если подобная практика действительно станет обязательной, Apple придется распространить ее на такие инструменты, как ИИ-рерайтинг в Siri.
Что вы думаете об этой тенденции? Пожалуйста, поделитесь своим мнением в комментариях.