| 4 окт. 2023 г. — 4:36 PT
Несколько TikTok-дипфейков были разоблачены знаменитостями, чьи образы были украдены. Среди них Мистер Бист, Том Хэнкс и Гейл Кинг.
Поддельное видео с Мистером Бистом утверждало, что зрителям предоставлена возможность получить iPhone 15 Pro всего за 2 доллара, что заставило звезду YouTube задаться вопросом, готовы ли социальные сети к мошенничеству с дипфейками…
Что такое дипфейк?
Дипфейк — это видео, в котором генеративный ИИ используется для подделки видеоматериалов с изображением человека, обычно знаменитости, политика или другой публичной фигуры.
Лучшие из них могут выглядеть чрезвычайно убедительно, обычно сочетая реальные видеоматериалы с людьми и сгенерированные ИИ движениями рта, чтобы соответствовать поддельным речам. Аудио либо склеивает реальные слова и фразы из многих часов исходных видеоматериалов, либо генерирует реалистичные имитации голоса из тех же обучающих данных.
Дипфейки, очевидно, имеют огромный потенциал для причинения вреда: от выманивания денег у людей путем придания достоверности розыгрышам до политической дезинформации, направленной на влияние на результаты выборов.
TikTok-дипфейки
NBC сообщает о примере с Мистером Бистом.
Звезда YouTube Мистер Бист, настоящее имя которого Джимми Дональдсон, спрашивает, готовы ли социальные платформы справляться с фейковыми рекламными объявлениями с использованием ИИ после того, как в рекламном объявлении на TikTok появился дипфейк с его изображением, предлагающий iPhone по цене 2 доллара.
«Многие люди получают эту рекламу-мошенничество с дипфейком с моим изображением… готовы ли социальные платформы справиться с ростом ИИ-дипфейков? Это серьезная проблема», — написал Дональдсон в X (ранее известном как Twitter). Отвечая на запрос о комментарии, представитель Дональдсона направил NBC News к этому посту.
TikTok заявил, что удалил видео, и указал на свою политику, требующую раскрытия информации о синтетических или манипулированных медиа.
CNET сообщает, что Том Хэнкс стал еще одной жертвой, его образ был использован для продвижения стоматологического плана.
Том Хэнкс весьма узнаваем, будь то с коробкой шоколадных конфет в «Форрест Гамп» или в космическом скафандре в «Аполлоне 13». Но если вы увидите рекламу стоматологической страховки с его изображением, присмотритесь. Это на самом деле не оскароносный актер.
«Остерегайтесь!» — написал Хэнкс в Instagram в минувшие выходные. «Есть видео с моей версией, созданной ИИ, которое продвигает какой-то стоматологический план. Я не имею к этому никакого отношения».
Ведущая «CBS Mornings» Гейл Кинг — тоже.
Кинг сделала похожий пост в Instagram в понедельник.
«Люди постоянно присылают мне это видео и спрашивают об этом продукте, а я НЕ ИМЕЮ никакого отношения к этой компании», — написала Кинг. «Я опубликовала это видео, продвигая свое радиошоу 31 августа (проведите пальцем, чтобы увидеть оригинал), а они манипулировали моим голосом и видео, чтобы создать впечатление, будто я его рекламирую… Я никогда не слышала об этом продукте и не пользовалась им! Пожалуйста, не обманывайтесь этими видео с ИИ».
Профессор Нью-Йоркского университета призывает к запрету TikTok
Более широкая полемика вокруг китайского приложения коротких видео продолжается: многие опасаются, что алгоритмически генерируемые ленты могут использоваться для подачи пользователям прокитайского и антизападного контента.
TNW сообщает, что профессор Нью-Йоркского университета Скотт Гэллоуэй на конференции в Хельсинки заявил, что приложение представляет угрозу национальной безопасности.
Гэллоуэй описал TikTok как, вероятно, «самую быстрорастущую технологическую компанию в истории» — и «угрозу национальной обороне» […] «Они имплантировали нейронный разъем в сетевую материю нашей молодежи», — сказал Гэллоуэй […]
Гэллоуэй опасается, что эта аудитория подвергается промывке мозгов КПК. «Будь я на их месте, я бы деликатно, коварно, скрытно, элегантно надавил бы на весы антизападного контента и прокитайского контента», — сказал он.
Фото: Якоб Оуэнс/Unsplash