Автоматизоване семантичне реферування оперативно-службових документів із використанням великих мовних моделей: кваліфікаційна робота на здобуття освітнього ступеня «бакалавр» за спеціальністю 126 «Інформаційні системи та технології»

Abstract

У даній роботі проведено аналіз сучасних методів автоматизованого семантичного реферування текстових документів та досліджено можливості використання великих мовних моделей (LLM) для інтелектуальної обробки текстової інформації. У ході розробки було проведено огляд сучасних технологій Natural Language Processing (NLP), transformer-архітектур, а також методів abstractive та extractive summarization. Було досліджено принципи роботи великих мовних моделей, методи semantic analysis, chunking та Map-Reduce pipeline для обробки великих обсягів тексту. Метою дипломної роботи є розробка інтелектуальної системи автоматизованого семантичного реферування оперативно-службових документів із використанням технологій штучного інтелекту та великих мовних моделей. Об’єктом дослідження є процес автоматизованого аналізу, обробки та семантичного реферування текстових документів. Предметом дослідження є методи NLP, transformer-моделі алгоритми semantic summarization та програмні засоби обробки текстової інформації. У результаті виконання дипломної роботи було розроблено інформаційну систему, яка дозволяє автоматично аналізувати оперативно-службові документи, формувати структуровані та стислі реферати, виділяти ключові факти та зменшувати час опрацювання великих обсягів текстової інформації. Розроблена система може використовуватися для автоматизації обробки службових документів, аналізу текстової інформації, формування звітів та оптимізації роботи з великими масивами документів у правоохоронних та інформаційних системах. This work analyzes modern methods of automated semantic summarization of textual documents and explores the possibilities of using Large Language Models (LLM) for intelligent processing of textual information. During the development, an overview of modern Natural Language Processing (NLP) technologies, transformer architectures, as well as methods of abstractive and extractive summarization was carried out. The principles of operation of large language models, methods of semantic analysis, chunking, and the Map-Reduce pipeline for processing large volumes of text were studied. The purpose of the thesis is to develop an intelligent system for automated semantic summarization of operational and service documents using artificial intelligence technologies and large language models. The object of the study is the process of automated analysis, processing, and semantic summarization of textual documents. The subject of the study is NLP methods, transformer models, semantic summarization algorithms, and software tools for text information processing. As a result of the thesis, an information system was developed that enables automatic analysis of operational and service documents, generation of structured and concise summaries, extraction of key facts, and reduction of the time required to process large volumes of textual information. The developed system can be used for automating the processing of service documents, analyzing textual information, generating reports, and optimizing work with large collections of documents in law enforcement and information systems.