За границами реальности: ложные библиографические записи и ссылки

Статья посвящена проблеме ложных библиографических записей и ссылок, фабрикуемых чат-ботом с генеративным искусственным интеллектом. Генераторы текста стали популярными благодаря возможности экономии времени и автоматизации процесса создания контента. Оперируя массивами разнородных данных, искусственный интеллект способен объединять и интерпретировать различные источники информации и создавать на их основе новые тексты. Для библиографических же записей, представляющих собой особый тип текста, любое перефразирование становится гибельным, так как элементы библиографической записи являются уникальными идентификаторами конкретного информационного ресурса. Распространение в научной среде сфабрикованных библиографических записей и ссылок на несуществующие публикации свидетельствуют о том, что искусственный интеллект пока еще не способен безошибочно распознать, какие части текста следует рассматривать как библиографические данные, что существенно ограничивает возможности применения чат-ботов в научных исследованиях. Со временем, по мере совершенствования технологий, искусственный интеллект должен научиться выявлять библиографические записи и обрабатывать их иначе, чем обычный текст, – копировать их в точности, а не перефразировать. Однако пока эти проблемы не будут решены, исследователям следует проявлять осторожность: информация, полученная путем использования ChatGPT, должна подвергаться проверке. Автор статьи акцентирует внимание на важности создания превентивных мер для предотвращения распространения недостоверных библиографических записей и ссылок, поскольку это может привести к серьезным сбоям в функционировании системы библиографической информации.

1. Бердников Л. Нечто о книжной пародии // Новый берег. 2015. № 47 URL: https://magazines.gorky.media/bereg/2015/47/nechto-o-knizhnoj-parodii.html (дата обращения 24.09.2024).

2. Бобров Л. К. Достоверность ссылок на научные издания: пример порождения мифов и неточностей // Научные и технические библиотеки. 2022. № 5. С. 47–65. DOI: https://doi.org/10.33186/1027-3689-2022-5-47-65.

3. Гуковский Г. А. Русская литература XVIII века. Москва : Аспект Пресс, 1999. 453 с.

4. Зашихина И. М. Подготовка научной статьи: справится ли ChatGPT? // Высшее образование в России. 2023. Т. 32, № 8/9. С. 24–47. DOI: https://doi.org/10.31992/0869-3617-2023-32-8-9-24-47.

5. Карьер Ж.-К., Эко У. Не надейтесь избавиться от книг! Санкт-Петербург : Symposium, 2010. 333 с.

6. Коган М. И., Иванов С. Н. «Поймай меня, если сможешь». ChatGPT сегодня: искусственный интеллект, способный написать для нас научную статью, или это игра в имитацию? // Вестник урологии. 2023. Т. 11, № 3. С. 10–15. DOI: https://doi. org/10.21886/2308-6424-2023-11-3-10-15.

7. Медведев Ю. Более 10 тысяч статей было отозвано из научных журналов в 2023 году // Российская газета : интернет-портал. URL: https://rg.ru/2023/12/17/bolee-10-tysiach-statej-bylo-otozvano-iz-nauchnyhzhurnalov-v-2023-godu.html (дата обращения = accessed 24.09.2024). Дата публикации 17.12.2023.

8. Степанов В. К., Маджумдер М. Ш., Бегунова Д. Д. Методика применения большой языковой модели ChatGPT в библиотечно-библиографической деятельности // Научные и технические библиотеки. 2024. № 4. 86–108. DOI: https://doi.org/10.33186/1027-3689-2024-4-86-108.

9. Сысоев П. В., Филатов Е. М. ChatGPT в исследовательской работе студентов: запрещать или обучать? // Вестник Тамбовского университета. Гуманитарные науки. 2023. Т. 28, № 2. С. 276–301.

10. Шароян С. Докторская с душком // Коммерсантъ Деньги. 2013. № 12. С. 21.

11. Эко У. Vertigo: круговорот образов, понятий, предметов. Москва : Слово/Slovo, 2017. 408 с.

12. Athaluri SA, Manthena SV, Kesapragada VSRKM [et al.] (2023) Exploring the boundaries of reality: investigating the phenomenon of artificial intelligence hallucination in scientific writing through ChatGPT references. Cureus 15 (4): e37432. DOI: https://doi.org/10.7759/cureus.37432.

13. Buchanan J, Hill S and Shapoval O (2023) ChatGPT hallucinates nonexistent citations: evidence from economics. Social Science Research Network (SSRN): research platform. DOI: https://dx.doi.org/10.2139/ssrn.4632842. Posted 30.11.2023.

14. Currie GM (2023) Academic integrity and artificial intelligence: is ChatGPT hype, hero or heresy? Seminars in Nuclear Medicine 53 (5): 719–730. DOI: https://doi.org/10.1053/j.semnuclmed.2023.04.008.

15. Dergaa I, Chamari K, Zmijewski P and Ben Saad H (2023) From human writing to artificial intelligence generated text: examining the prospects and potential threats of ChatGPT in academic writing. Biology of Sport 40 (2): 615–622. DOI: https://doi.org/10.5114/biolsport.2023.125623.