| 31 января 2024 г. – 5:51 по тихоокеанскому времени
Серия откровенных дипфейков Тейлор Свифт привела к тому, что законодатели предложили новое законодательство для борьбы с этим явлением аналогично существующему законодательству о так называемом «порномести»…
В связи с этим правительства все больше обеспокоены использованием ИИ для создания материалов о сексуальном насилии над детьми (CSAM).
Дипфейки Тейлор Свифт
Социальная сеть X недавно была заполнена откровенными изображениями, выдаваемыми за Тейлор Свифт, но на самом деле это были фейки, сгенерированные с помощью технологии ИИ. 404 Media сообщает, что для создания изображений использовался инструмент ИИ от Microsoft.
В отчете отмечается, что только один такой пример набрал 45 миллионов просмотров и 24 000 ретвитов до того, как был удален. X признала проблему, заявив, что удаляет изображения и принимает меры в отношении учетных записей, стоявших за ними.
Предложен новый закон: Акт DEFIANCE
The Verge сообщает, что двухпартийная группа сенаторов предложила новый закон для решения этой проблемы. По сути, это запретит фальшивые откровенные фотографии таким же образом, как существующий закон запрещает реальные изображения, опубликованные без согласия.
Законодатели США предложили разрешить людям подавать в суд за поддельные порнографические изображения себя, после распространения откровенных фотографий Тейлор Свифт, сгенерированных ИИ. Закон о пресечении откровенных поддельных изображений и несанкционированных изменений (DEFIANCE) добавит гражданское право на подачу иска за интимные «цифровые подделки», изображающие идентифицируемое лицо без его согласия, позволяя жертвам взыскивать финансовый ущерб с любого, кто «сознательно произвел или владел» изображением с намерением его распространить […]
Он основан на положении Закона о повторной авторизации Закона о насилии в отношении женщин 2022 года (Violence Against Women Act Reauthorization Act of 2022), который добавил аналогичное право на подачу иска за неподдельные откровенные изображения.
Лидер большинства в Сенате Дик Дурбин (демократ от Иллинойса), к которому присоединились сенаторы Линдси Грэм (республиканец от Южной Каролины), Эми Клобушар (демократ от Миннесоты) и Джош Хоули (республиканец от Миссури), особо отметили изображения Тейлор Свифт как пример того, как дипфейки, созданные ИИ, могут быть использованы для эксплуатации и домогательств к женщинам.
Хотя закон был инициирован опасениями по поводу злоупотребления инструментами ИИ для создания изображений, он также будет охватывать подделки, созданные вручную, например, с использованием обычных приложений для редактирования изображений, таких как Photoshop.
Правоохранительные органы опасаются наплыва CSAM, сгенерированных ИИ
The New York Times сообщает об аналогичных опасениях, высказываемых по поводу CSAM, созданных ИИ.
Сотрудники правоохранительных органов готовятся к взрывному росту материалов, сгенерированных искусственным интеллектом, которые реалистично изображают сексуальную эксплуатацию детей, что усугубляет задачу выявления жертв и борьбы с такими злоупотреблениями […]
Простое введение запроса выдает реалистичные изображения, видео и текст за считанные минуты, создавая новые изображения реальных детей, а также откровенные изображения детей, которые на самом деле не существуют. Это может включать […] обычные классные фотографии, адаптированные так, что все дети обнажены.
Однако, как и следовало ожидать, политики используют эту проблему как предлог для призыва к запрету сквозного шифрования сообщений.
Том Тугендхат, министр безопасности Великобритании, заявил, что этот шаг расширит возможности педофилов по всему миру.
«Решение Meta внедрить сквозное шифрование без надежных функций безопасности делает эти изображения доступными для миллионов без страха быть пойманными», – заявил г-н Тугендхат.
Фото: Ronald Woan/CC2.0 (Обрезано)