bibliosferaБиблиосфераBibliosphere1815-31862712-7931ГПНТБ СО РАН10.20913/1815-3186-2024-4-63-70bibliosfera-2095Research ArticleБИБЛИОТЕЧНАЯ БИБЛИОГРАФИЯLIBRARY BIBLIOGRAPHYЗа границами реальности: ложные библиографические записи и ссылкиBeyond the Boundaries of Reality: False Bibliographic Records and Referenceshttps://orcid.org/0000-0001-7155-2097НещеретМ. Ю.NeshheretM. Yu.

Нещерет Марина Юрьевна - кандидат педагогических наук, ведущийнаучный сотрудник, Центр по исследованию проблем развития библиотекв информационном обществе

ул. Воздвиженка, 3/5, Москва, 119019

Neshheret Marina Yurievna - Candidate of Pedagogic Sciences, Leading Researcher, Center for Research on the Problems of Library Development in the Information Society

3/5 Vozdvizhenka St., Moscow, 119019

marlapt@yandex.ruРоссийская государственная библиотекаРоссияRussian State LibraryRussian Federation202405112024046370Copyright © Нещерет М.Ю., 20252025Нещерет М.Ю.Neshheret M.Y.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.bibliosphere.ru/jour/article/view/2095

Статья посвящена проблеме ложных библиографических записей и ссылок, фабрикуемых чат-ботом с генеративным искусственным интеллектом. Генераторы текста стали популярными благодаря возможности экономии времени и автоматизации процесса создания контента. Оперируя массивами разнородных данных, искусственный интеллект способен объединять и интерпретировать различные источники информации и создавать на их основе новые тексты. Для библиографических же записей, представляющих собой особый тип текста, любое перефразирование становится гибельным, так как элементы библиографической записи являются уникальными идентификаторами конкретного информационного ресурса. Распространение в научной среде сфабрикованных библиографических записей и ссылок на несуществующие публикации свидетельствуют о том, что искусственный интеллект пока еще не способен безошибочно распознать, какие части текста следует рассматривать как библиографические данные, что существенно ограничивает возможности применения чат-ботов в научных исследованиях. Со временем, по мере совершенствования технологий, искусственный интеллект должен научиться выявлять библиографические записи и обрабатывать их иначе, чем обычный текст, – копировать их в точности, а не перефразировать. Однако пока эти проблемы не будут решены, исследователям следует проявлять осторожность: информация, полученная путем использования ChatGPT, должна подвергаться проверке. Автор статьи акцентирует внимание на важности создания превентивных мер для предотвращения распространения недостоверных библиографических записей и ссылок, поскольку это может привести к серьезным сбоям в функционировании системы библиографической информации.

The article is devoted to the problem of false bibliographic records and links fabricated by a chatbot with generative artificial intelligence. Text generators have become popular due to the ability to save time and automate the content creation process. Using arrays of heterogeneous data, artificial intelligence is able to combine and interpret various sources of information and create new texts based on them. For bibliographic records, which are a special type of text, any paraphrasing becomes disastrous, because elements of a bibliographic record are unique identifiers of a specific information resource. Spreading of fabricated bibliographic records and links to non-existent publications indicates that artificial intelligence is not able to accurately recognize which parts of the text should be considered as bibliographic data, which significantly limits the possibilities of using chatbots in scientific research. Over time, as technology improves, artificial intelligence must learn to identify bibliographic records and process them differently from ordinary text – copy them exactly, not paraphrase them. However, until these problems are resolved, researchers should exercise caution: information obtained via the use of ChatGPT should be verified. The author of the article focuses on the importance of creating preventive measures to prevent the dissemination of unreliable bibliographic records and references, since this can lead to serious failures in the functioning of the bibliographic information system.

ссылки на несуществующие книги в художественной литературеложные библиографические ссылкиэтика научных публикацийискусственный интеллектгенеративный чат-ботrecords to non-existent books in fictionfalse bibliographic referencesethics of scientific publicationsartificial intelligencegenerative chatbotReferencesБердников Л. Нечто о книжной пародии // Новый берег. 2015. № 47 URL: https://magazines.gorky.media/bereg/2015/47/nechto-o-knizhnoj-parodii.html (дата обращения 24.09.2024).Berdnikov L (2015) Something about a book parody. Novyi bereg 47. (In Russ.). URL: https://magazines.gorky.media/bereg/2015/47/ nechto-o-knizhnoj-parodii.html (accessed 24.09.2024).Бобров Л. К. Достоверность ссылок на научные издания: пример порождения мифов и неточностей // Научные и технические библиотеки. 2022. № 5. С. 47–65. DOI: https://doi.org/10.33186/1027-3689-2022-5-47-65.Bobrov LK (2022) Reliability of references to scientific publications: where myths and inaccuracies originate. Nauchnye i tekhnicheskie biblioteki 5: 47–65. (In Russ.). DOI: https://doi. org/10.33186/1027-3689-2022-5-47-65.Гуковский Г. А. Русская литература XVIII века. Москва : Аспект Пресс, 1999. 453 с.Gukovskii GA (1999) Russian literature of the 18th century. Moscow: Aspect Press. (In Russ.).Зашихина И. М. Подготовка научной статьи: справится ли ChatGPT? // Высшее образование в России. 2023. Т. 32, № 8/9. С. 24–47. DOI: https://doi.org/10.31992/0869-3617-2023-32-8-9-24-47.Zashikhina IM (2023) Scientific article writing: will ChatGPT help? Vysshee obrazovanie v Rossii 32 (8/9): 24–47. (In Russ.). DOI: https://doi.org/10.31992/0869-3617-2023-32-8-9-24-47.Карьер Ж.-К., Эко У. Не надейтесь избавиться от книг! Санкт-Петербург : Symposium, 2010. 333 с.Carrière J-C and Eco U (2010) Do not expect to get rid of books! Saint Petersburg: Symposium. (In Russ.).Коган М. И., Иванов С. Н. «Поймай меня, если сможешь». ChatGPT сегодня: искусственный интеллект, способный написать для нас научную статью, или это игра в имитацию? // Вестник урологии. 2023. Т. 11, № 3. С. 10–15. DOI: https://doi. org/10.21886/2308-6424-2023-11-3-10-15.Kogan MI and Ivanov SN (2023) “Catch me if you can.” ChatGPT today: an artificial intelligence that can write a scientific paper for us, or is it an imitation game? Vestnik urologii 11 (3): 10–15. (In Russ.). DOI: https://doi. org/10.21886/2308-6424-2023-11-3-10-15Медведев Ю. Более 10 тысяч статей было отозвано из научных журналов в 2023 году // Российская газета : интернет-портал. URL: https://rg.ru/2023/12/17/bolee-10-tysiach-statej-bylo-otozvano-iz-nauchnyhzhurnalov-v-2023-godu.html (дата обращения = accessed 24.09.2024). Дата публикации 17.12.2023.Medvedev Yu (2023) More than 10 thousand articles were withdrawn from scientific journals in 2023. Rossiiskaya gazeta: internetportal. (In Russ.)]. URL: https://rg.ru/2023/12/17/bolee-10-tysiach-statej-bylo-otozvano-iz-nauchnyhzhurnalov-v-2023-godu.html (дата обращения = accessed 24.09.2024). published 17.12.2023.Степанов В. К., Маджумдер М. Ш., Бегунова Д. Д. Методика применения большой языковой модели ChatGPT в библиотечно-библиографической деятельности // Научные и технические библиотеки. 2024. № 4. 86–108. DOI: https://doi.org/10.33186/1027-3689-2024-4-86-108.Stepanov VK, Madzhumder MSh and Begunova DD (2024) Application of the big language model ChatGPT in library and bibliographic activities. Nauchnye i tekhnicheskie biblioteki 4: 86–108. (In Russ.). DOI: https://doi.org/10.33186/1027-3689-2024-4-86-108.Сысоев П. В., Филатов Е. М. ChatGPT в исследовательской работе студентов: запрещать или обучать? // Вестник Тамбовского университета. Гуманитарные науки. 2023. Т. 28, № 2. С. 276–301.Sysoev PV and Filatov EM (2023) ChatGPT in students’ research: to forbid or to teach? Vestnik Tambovskogo universiteta. Gumanitarnye nauki 28 (2): 276–301. (In Russ.).Шароян С. Докторская с душком // Коммерсантъ Деньги. 2013. № 12. С. 21.Sharoyan S (2013) Doctoral dissertation with a bad smell. Kommersant’’ Den’gi 12: 21. (In Russ.).Эко У. Vertigo: круговорот образов, понятий, предметов. Москва : Слово/Slovo, 2017. 408 с.Eco U (2017) Vertigo: the cycle of images, concepts, objects. Moscow: Slovo/Slovo. (In Russ.).Athaluri SA, Manthena SV, Kesapragada VSRKM [et al.] (2023) Exploring the boundaries of reality: investigating the phenomenon of artificial intelligence hallucination in scientific writing through ChatGPT references. Cureus 15 (4): e37432. DOI: https://doi.org/10.7759/cureus.37432.Athaluri SA, Manthena SV, Kesapragada VSRKM [et al.] (2023) Exploring the boundaries of reality: investigating the phenomenon of artificial intelligence hallucination in scientific writing through ChatGPT references. Cureus 15 (4): e37432. DOI: https://doi.org/10.7759/cureus.37432.Buchanan J, Hill S and Shapoval O (2023) ChatGPT hallucinates nonexistent citations: evidence from economics. Social Science Research Network (SSRN): research platform. DOI: https://dx.doi.org/10.2139/ssrn.4632842. Posted 30.11.2023.Buchanan J, Hill S and Shapoval O (2023) ChatGPT hallucinates nonexistent citations: evidence from economics. Social Science Research Network (SSRN): research platform. DOI: https://dx.doi.org/10.2139/ssrn.4632842. Posted 30.11.2023.Currie GM (2023) Academic integrity and artificial intelligence: is ChatGPT hype, hero or heresy? Seminars in Nuclear Medicine 53 (5): 719–730. DOI: https://doi.org/10.1053/j.semnuclmed.2023.04.008.Currie GM (2023) Academic integrity and artificial intelligence: is ChatGPT hype, hero or heresy? Seminars in Nuclear Medicine 53 (5): 719–730. DOI: https://doi.org/10.1053/j.semnuclmed.2023.04.008.Dergaa I, Chamari K, Zmijewski P and Ben Saad H (2023) From human writing to artificial intelligence generated text: examining the prospects and potential threats of ChatGPT in academic writing. Biology of Sport 40 (2): 615–622. DOI: https://doi.org/10.5114/biolsport.2023.125623.Dergaa I, Chamari K, Zmijewski P and Ben Saad H (2023) From human writing to artificial intelligence generated text: examining the prospects and potential threats of ChatGPT in academic writing. Biology of Sport 40 (2): 615–622. DOI: https://doi.org/10.5114/biolsport.2023.125623.

The authors declare that there are no conflicts of interest present.