Apple Books и Amazon накрыло новой волной книжного спама: в каталогах всплывают тысячи ИИ-подделок, которые копируют обложки бестселлеров и прячутся под именами известных авторов. История всплыла после расследования журналистки Джоанны Стерн из The New York Times. Она нашла на Apple Books клоны своей книги «I Am Not a Robot» уже через несколько дней после выхода.
Подделки были не только с похожими обложками. В продаже встречались версии с искажённым именем автора и книги под чужими, но вполне правдоподобными фамилиями. И по цене всё выглядело почти прилично: чаще всего $9,99, но попадались и экземпляры по $20,99.
Стерн купила несколько таких файлов и открыла внутри не оригинальный текст, а ИИ-пересказы с узнаваемой структурой глав. Издатель Apex Press оказался выдумкой. Джейсон Сайзмор из настоящего Apex Book Company рассказал ей, что компания давно получает жалобы на мошенников, которые пользуются похожим названием.
Apple после обращения удалила подделки. Ненадолго. К началу этой недели в каталоге снова появились ещё как минимум три копии, потом их опять убрали. В Apple говорят, что запрещают контент, который вводит покупателей в заблуждение или нарушает авторские права, и требуют раскрывать полностью сгенерированные нейросетью книги. С «ИИ-ассистированными» изданиями, похоже, всё мягче.
История со Стерн не похожа на единичный сбой модерации. Похожие жалобы уже звучали и в адрес других авторов. У Лины Данэм и Хейли Сакс тоже нашли клоны с обложками, имитирующими внешность настоящих писательниц. Названия и оформление работали на один и тот же эффект: читатель видит знакомое имя и почти автоматически принимает товар за официальный релиз.
Тут проблема не только в качестве нейросетевого текста. Всё упирается ещё и в скорость. Раньше книжный фейк требовал хотя бы какой-то ручной возни, а теперь злоумышленник может быстро собрать внешне правдоподобный продукт, загрузить его в магазин и успеть заработать до удаления. На маркетплейсах, где ежедневно выходят тысячи новинок, такая схема живёт особенно бодро.
Похожая история уже была на Amazon. Ещё в 2023 году Reuters нашло там более 200 книг, написанных с помощью ChatGPT. Потом журналистка Кашмир Хилл обнаружила на платформе поддельную ИИ-биографию самой себя. Автор с вымышленным именем и фото из фотостока выпустил десять книг за одну неделю, а один из создателей таких подделок признался Хилл, что может собрать целую биографию за несколько часов.
Apple Books в этой истории выглядит не как исключение, а как ещё одна витрина той же самой индустрии. У Amazon база намного больше, и именно там такой контент легче растворяется в массе самиздата и дешёвых загрузок. Для обеих площадок это удар не только по авторам, но и по доверию к самим каталогам: читатель не может заранее понять, где настоящий бестселлер, а где машинная копия, собранная ради быстрой продажи.
И проблема давно вышла за рамки отдельных скандалов. Reuters ещё два года назад показывало, что массовая генерация книг не требует сложной инфраструктуры: хватает нейросети, шаблона обложки и аккаунта на платформе. Если магазины не будут жёстче проверять имена авторов, издателей и происхождение текста, такие копии продолжат появляться быстрее, чем их успевают удалять.
На этой гонке между модерацией и генерацией выигрывает тот, кто быстрее выпускает новую копию. У Apple уже были удаления, повторные появления и новые удаления, а у Amazon объём проблемы давно считается не десятками, а тысячами публикаций. Чем крупнее каталог, тем дороже для платформы ручная проверка. И тем проще мошенникам работать потоком.