| 23 окт 2024 — 5:51 утра по тихоокеанскому времени
В то время, когда вы можете попросить ИИ изменить существующую фотографию практически любым способом, или даже попросить его сгенерировать полностью искусственное изображение, можем ли мы снова доверять фотографиям?
Apple работает над решением этой проблемы двумя способами, и многие из нас надеются, что компания также присоединится к зарождающемуся новому стандарту аутентичности контента…
Это не новая проблема
Можем ли мы доверять достоверности фотографии — это, конечно, не новая проблема. Фотограф всегда мог влиять на наше восприятие реальности, просто выбирая, что включить или исключить из кадра.
Например, выбор объектива может по-разному искажать одно и то же изображение, делая объекты ближе или дальше. Регулировка экспозиции может сделать объекты темнее или светлее. Выбор пленки или фильтра может повлиять на цветовосприятие. Длинная выдержка может использоваться для удаления любых следов людей, проходящих через сцену. И так далее.
Затем была фотолаборатория. Такие приемы, как маскирование, затемнение и осветление, могли кардинально изменить внешний вид сцены. Обычное программное обеспечение для редактирования фотографий просто расширило диапазон доступных настроек.
Редактирование и создание фотографий с помощью ИИ — это лишь последний способ из множества способов, которыми фотографии могут использоваться для влияния на нас или даже для прямого обмана.
Но ИИ делает эту проблему более серьезной
Раньше редактирование фотографий требовало определенного уровня мастерства, поэтому создание убедительного обманчивого изображения не было чем-то, что мог бы сделать кто угодно.
Теперь это может сделать любой, и за считанные секунды. Фейковое изображение выше, конечно, намеренно лишено спорных элементов, но оно с такой же легкостью могло бы показать кого-то или что-то в очень невыгодном свете. Весь процесс загрузки эталонной фотографии в Photoshop, создания текстового запроса и ожидания результата занял около 30 секунд.
Когда любой может сделать это за секунды, а результаты становятся все более реалистичными, это потенциально создает огромные проблемы для будущего.
Apple решает эту проблему двумя способами
С (постепенным) запуском Apple Intelligence компания потенциально может усугубить проблему, передав инструменты создания изображений с помощью ИИ в руки миллионов людей. Но компания прекрасно осознает опасности и предпринимает две меры предосторожности.
Во-первых, Image Playground — который позволяет владельцам iPhone создавать полностью вымышленные изображения на основе текстовых описаний — намеренно исключает фотореалистичные результаты.
Image Playground поддерживает три стиля: анимация, иллюстрация, эскиз […] Примечательно, что все изображения, продемонстрированные для Image Playground, анимированы или иным образом нереалистичны по стилю. Очевидно, Apple не хочет предоставлять инструменты для создания реалистично выглядящих фейковых фотографий.
Во-вторых, когда вы используете инструменты ИИ для манипулирования реальными фотографиями, Apple помечает этот факт. Об этом Крейг Федериги говорил в своем интервью WSJ.
Фотография имеет великую историю, и то, как люди воспринимают фотографический контент как нечто, на что они могут полагаться, как показатель реальности. Наши продукты, наши телефоны, очень широко используются, и для нас важно, чтобы мы помогали распространять точную информацию, а не фантазии.
Мы гарантируем, что даже если вы удалите небольшую деталь фотографии [например, бутылку воды], мы обновим метаданные фотографии, чтобы кто-то мог вернуться и проверить, что это была измененная фотография.
Инициатива по аутентичности контента
На данный момент Apple идет своим путем с обновлениями метаданных, но основополагающий подход поддерживается многими компаниями и новостными организациями через так называемую Инициативу по аутентичности контента (CAI).
Идея заключается в том, чтобы гарантировать, что любые творения и редактирования, сделанные ИИ, отражаются в метаданных изображения стандартизированным способом, который может быть обнаружен и отмечен.
Content Credentials помогают записывать и отображать наиболее важные сведения об элементе контента на каждом этапе его жизненного цикла.
Создание: Показывайте поддерживаемые инструменты ИИ, программное обеспечение, цифровые камеры и другие устройства, используемые при создании контента.
Редактирование и генеративный ИИ: Любые изменения могут быть записаны — кадрирование, добавление и удаление, модификации ИИ и многое другое.
Публикация: Потребители могут легко получить доступ к созданию Content Credentials и истории редактирования.
Среди сторонников CAI — Adobe, ABC News, Associated Press, BBC, Canon, Leica, Microsoft, Nikon, The New York Times, Nvidia, Qualcomm, Reuters и The Wall Street Journal.
Стандарт является открытым исходным кодом, что означает, что его может принять любой, поэтому у него есть хорошие шансы стать отраслевым стандартом. Было бы, конечно, полезно, если бы Apple обеспечила соответствие своих собственных обновлений метаданных этому стандарту.
Изображение: Создание ИИ в Photoshop из фотографии, снятой на Vision Pro, и текстового запроса