Dr.Sc. (Technics); Prof. at Applied and Experimental Linguistics Department, Moscow State Linguistic University; Senior Researcher at Neuroontogenezis Laboratory, Institute of Higher Nervous Activity and Neurophysiology, RAS; Intellectual Information Systems and Technology Department Chair, The Moscow Institute of Physics and Technology; Prof. at Program Engineering Department of HSE, National Research University “Higher School of Economics”
доктор технических наук, профессор, профессор кафедры прикладной и экспериментальной лингвистики, Московский государственный лингвистический университет ; заведующий кафедрой интеллектуальных информационных систем и технологий, Московский физико-технический институт (национальный исследовательский университет) ; старший научный сотрудник лаборатории нейроонтогенеза, Институт высшей нервной деятельности и нейрофизиологии РАН ; профессор департамента программной инженерии, Национальный исследовательский университет «Высшая школа экономики»
The article describes one of the approaches to representing the semantics (meaning) of a text in the form of a homogeneous semantic network with weighted vertices and their connections. This representation is contrasted with the representation of the meaning of the text in modern artificial neural networks such as GPT, where the text is also (if you examine the representation carefully) represented as a network in a multidimensional feature space implemented by a set of artificial neurons that make up an artificial neural network. The difference is that it is impossible to interpret this representation in a network that uses billions of representation parameters-the impossibility of explicitly identifying this very semantic network. Therefore, many text processing mechanisms (automatic annotation of texts, comparison of texts by meaning, classification of texts) meaningfully remain the responsibility of the developers of such tools due to the inability to control the decisions made by these tools: The volume of processed information is too large and there are no tools for checking the quality of work.
В статье описан один из подходов к представлению семантики (смысла) текста в виде однородной семантической сети со взвешенными вершинами и их связями. Это представление противопоставляется представлению смысла текста в современных искусственных нейронных сетях типа GPT, где текст также (если исследовать представление внимательно) представляется в виде сети в многомерном пространстве признаков, реализованном множеством искусственных нейронов, составляющих искусственную нейронную сеть. Различие заключается в невозможности разобраться с этим представлением в сети, использующей миллиарды параметров представления - в невозможности выявления в явном виде этой самой семантической сети. Потому многие механизмы обработки текстов (автоматическое аннотирование текстов, сравнение текстов по смыслу, классификация текстов) содержательно остаются на совести разработчиков таких инструментов из-за невозможности контролировать решения, принимаемые этими инструментами: слишком велик объем обрабатываемой информации и отсутствуют инструменты проверки качества работы.