Авторы-призраки и фейковые рецепты – библиотеки тонут в потоке ИИ-литературы
Публичные библиотеки, традиционно считавшиеся хранилищами знаний и культуры, столкнулись с новым вызовом — лавиной низкокачественных книг, созданных с помощью искусственного интеллекта. Эти книги, написанные за считанные часы, проникают в цифровые каталоги, усложняя работу библиотекарей и ставя под сомнение качество контента, доступного читателям.
ИИ-авторы и их "шедевры"
С развитием технологий искусственного интеллекта процесс создания книг стал доступен практически каждому. Нейросети, такие как ChatGPT, Midjourney и другие, позволяют генерировать тексты, иллюстрации и даже целые книги за считанные минуты. Однако за кажущейся простотой скрывается серьёзная проблема: большинство таких книг не проходят проверку на качество, точность и достоверность.
Примером может служить книга Fatty Liver Diet Cookbook, якобы написанная автором Магдой Тэнги. При ближайшем рассмотрении выяснилось, что профиль Тэнги на Amazon был сгенерирован нейросетью, а сама книга содержала сомнительные рецепты и рекомендации, которые могли навредить людям с заболеваниями печени.
Библиотеки в ловушке ИИ-контента
Большинство библиотек используют платформы OverDrive и Hoopla для управления электронными книгами. В OverDrive библиотекари могут самостоятельно выбирать, какие издания будут доступны читателям. Однако в Hoopla такой возможности нет — платформа предоставляет доступ ко всему каталогу, а библиотеки оплачивают каждую взятую пользователем книгу.
Единственным инструментом ограничения является установка предельной стоимости книг, например, не выше $5 за одну выдачу. В результате в фонды попадают тысячи низкокачественных изданий, включая книги, созданные ИИ. Среди них встречаются работы с искажённым текстом, странными иллюстрациями и подозрительными авторами, за которыми нет реальных людей.
Опасность дезинформации
Система Hoopla, позволяющая загружать практически любой контент, привела к появлению в библиотеках книг с дезинформацией и ошибочными данными. Это вызывает серьёзную обеспокоенность библиотекарей, поскольку пользователи ожидают, что вся представленная в каталогах литература прошла хотя бы минимальную проверку.
Например, некоторые книги содержат опасные советы для людей с определёнными заболеваниями, что может привести к серьёзным последствиям. Кроме того, в каталогах регулярно всплывают книги, чьи авторы за короткий срок выпускают десятки изданий на самые разные темы — от кулинарии до биографий знаменитостей.
Феномен Билла Тарино
Одним из таких авторов стал Билл Тарино, который за год выпустил около 40 книг. Среди его работ — сборники цитат Илона Маска, руководства по психологии, учебники по домашней безопасности и даже кулинарные книги. Сложно поверить, что один человек может быть экспертом в столь разных областях. Однако с помощью ИИ это стало возможным.
Тарино — не единственный пример. В каталогах библиотек и книжных магазинов появляется всё больше авторов, которые выпускают десятки книг в год, охватывая самые разные темы. Зачастую такие книги представляют собой компиляцию информации, найденной в интернете, и не несут никакой уникальной ценности.
Что делать библиотекам?
Проблема низкокачественного ИИ-контента требует срочного решения. Библиотеки сталкиваются с дилеммой: с одной стороны, они хотят предоставить читателям доступ к новым книгам, с другой — не могут позволить себе тратить ограниченные бюджеты на сомнительные издания.
Одним из возможных решений является внедрение более строгих фильтров для отбора книг, а также сотрудничество с платформами вроде Hoopla для улучшения контроля качества контента. Кроме того, библиотеки могут начать обучать своих сотрудников распознавать книги, созданные ИИ, чтобы минимизировать их попадание в каталоги.
Будущее литературы в эпоху ИИ
Искусственный интеллект, безусловно, изменил мир литературы. С одной стороны, он сделал процесс создания книг более доступным, с другой — поставил под угрозу качество и достоверность информации.
Пока библиотеки ищут способы справиться с этим вызовом, читателям стоит быть более внимательными при выборе книг. В эпоху, когда любой может стать "экспертом" за считанные часы, критическое мышление и проверка источников становятся как никогда важными.
ИИ-литература — это не только угроза, но и возможность. Если использовать технологии разумно, они могут помочь создавать качественный контент, который будет полезен читателям. Однако для этого необходимо установить чёткие стандарты и обеспечить контроль качества. В противном случае библиотеки рискуют превратиться в свалку низкокачественных книг, а читатели — потерять доверие к ним.
IRB Media и поток низкокачественного контента: как ИИ-резюме книг засоряют библиотечные каталоги
Публичные библиотеки, которые всегда были оплотом знаний и культуры, столкнулись с новой угрозой — наводнением низкокачественного контента, созданного с помощью искусственного интеллекта. Одним из крупнейших поставщиков такого контента называют издательство IRB Media, которое выпускает сотни резюмированных версий популярных книг. Эти работы, вероятно, созданные с использованием ИИ, засоряют каталоги библиотек, выдаваясь в результатах поиска чаще, чем оригиналы.
IRB Media: краткое содержание вместо полноценной книги
IRB Media специализируется на создании кратких изложений книг, которые позиционируются как удобный способ ознакомиться с основными идеями произведений. Однако проблема заключается в том, что такие резюме часто оказываются в каталогах библиотек наравне с оригинальными книгами. Читатели, ища полную версию произведения, могут случайно взять краткое изложение, разочароваться и зря потратить библиотечный бюджет.
Библиотекари отмечают, что книги IRB Media часто занимают верхние строчки в результатах поиска, что затрудняет доступ к оригинальным работам. Это вызывает недовольство как у читателей, так и у сотрудников библиотек, которые вынуждены бороться с низкокачественным контентом.
Дезинформация и пропаганда в каталогах
Проблема низкокачественного контента не ограничивается резюмированными книгами. В 2022 году организации Library Futures и Library Freedom Project потребовали от платформ OverDrive и Hoopla удалить из каталогов книги, распространяющие дезинформацию, в том числе тексты праворадикальных издательств.
В ответ Hoopla пообещала улучшить алгоритмы фильтрации, но насколько эффективны эти меры, остаётся под вопросом. Некоторые библиотекари сообщают, что поиск по ключевым словам, таким как «гомосексуальность*» или «аборт», приводит преимущественно к религиозной пропаганде, а не к научным публикациям. Это вызывает серьёзную обеспокоенность, поскольку библиотеки должны предоставлять читателям доступ к достоверной и объективной информации.
Библиотекари между цензурой и качеством
Библиотекари опасаются, что обсуждение проблемы низкокачественного контента может вызвать критику со стороны активистов, выступающих против цензуры. Однако их призыв не связан с запретами — они требуют прозрачности от платформ, чтобы иметь возможность контролировать качество предоставляемого контента.
Библиотеки хотят, чтобы платформы, такие как Hoopla и OverDrive, добавили инструменты для фильтрации и чётко маркировали книги, созданные искусственным интеллектом. Это позволит библиотекарям принимать обоснованные решения о том, какие книги включать в каталоги, а какие — исключать.
Молчание платформ и настойчивость библиотекарей
Несмотря на растущую обеспокоенность библиотекарей, Hoopla и OverDrive пока не прокомментировали ситуацию. Это вызывает разочарование у сотрудников библиотек, которые продолжают настаивать на внедрении более строгих мер контроля качества.
Библиотекари подчёркивают, что их цель — не ограничить доступ к информации, а обеспечить читателей качественным и достоверным контентом. В эпоху, когда искусственный интеллект позволяет создавать книги за считанные минуты, это становится особенно важным.
Что дальше?
Проблема низкокачественного ИИ-контента требует срочного решения. Библиотеки, как хранители знаний, не могут позволить себе стать свалкой сомнительных книг. Для этого необходимо:
- Улучшить фильтрацию контента. Платформы должны внедрить более строгие алгоритмы, чтобы предотвратить попадание низкокачественных книг в каталоги.
- Маркировать ИИ-контент. Читатели должны знать, создана ли книга с помощью искусственного интеллекта.
- Обеспечить прозрачность. Библиотекари должны иметь возможность контролировать, какие книги попадают в их каталоги.
Искусственный интеллект — это мощный инструмент, который может как помочь, так и навредить. Задача библиотек, платформ и общества — найти баланс между доступностью информации и её качеством. В противном случае библиотеки рискуют потерять доверие читателей, а вместе с ним — и свою роль как важнейшего института знаний.
Примеры книг Билла Тарино, текст которых сгенерирован ИИ (Hoopla)
