ИИ-подделки становятся растущей проблемой в Apple Books: некоторые из них «написаны» за пару часов

Технический обозреватель Джоанна Стерн в прошлом месяце рассказала, как обнаружила 10 поддельных версий своей книги I Am Not a Robot в магазине Apple Books всего через несколько дней после выхода оригинала. Хотя ей удалось добиться их удаления, вскоре появились новые.

Журналистка New York Times Кашмир Хилл нашла на Amazon фальшивую биографию самой себя и выяснила, что это лишь одна из тысяч биографий, написанных ИИ и выставленных на продажу…

Стерн выяснила, что большинство этих копий — это созданный нейросетями «мусор» (AI-slop) в виде кратких пересказов её книги с вымышленными авторами и издателями.

В общей сложности я нашла десять созданных ИИ электронных книг, которые явно паразитировали на моей. ИИ-генератор обложек имитировал стиль моей настоящей книги — та же сине-желто-красная цветовая гамма. Большинство стоили по 9,99 доллара, но цена некоторых доходила до 20,99 доллара.

Я купила несколько штук, чтобы посмотреть, насколько они близки к оригиналу. Версия Софи Мерсер была по сути сгенерированным ИИ пересказом с главами и структурой, очень похожими на мои. Похоже, что эта и другие подделки были призваны обмануть читателей, заставив их поверить, что это оригинал — или, по крайней мере, его краткое изложение.

Она говорит, что ей удалось добиться от Apple удаления этих книг, но вскоре появились еще три подделки.

Я не одинока. У книги Famesick Лены Данэм на платформе есть несколько «двойников». У книги Хейли Сакс Future Rich Person есть копии, на обложках которых даже используются сгенерированные ИИ изображения женщин, похожих на настоящего автора. Это не малоизвестные названия. Это бестселлеры. Если Apple не может удержать ИИ-подделки своих самых популярных книг вне своего магазина, как независимые авторы или небольшие издательства могут быть уверены, что их книги будут защищены?

Хилл обнаружила, что её собственная биография содержит массу неточностей, а автор и его фотография оказались вымышленными.

Я кликнула на автора — некоего Джона Крейна Миллера. В его биографии он был описан как «опытный биограф и культурный аналитик», а его портрет оказался широко используемым стоковым фото белого мужчины в костюме, выступающего на конференции. [Моя биография] была одной из 10, которые мистер Миллер опубликовал за одну неделю.

Судя по всему, в Apple Books и на Amazon существуют десятки тысяч фальшивых книг, созданных ИИ. Когда Хилл вышла на одного из создателей таких биографий, он заявил, что мог бы использовать ChatGPT для создания её биографии всего за пару часов.

Проблема не ограничивается электронными книгами: Amazon предлагает авторам услугу печати по требованию, а это значит, что выпуск версии в мягкой обложке не стоит практически ничего.

Мнение 9to5Mac

Мы видим, как ИИ-«мусор» проникает везде: от постов в социальных сетях до книг, и эта проблема будет только усугубляться. На данный момент лучший совет — внимательно читать отзывы и просматривать доступные фрагменты перед покупкой.

Фото: BoliviaInteligente на Unsplash