Постановка задачи и определение подходов к построению смысловых моделей знания для искусственного интеллекта

Грибков Андрей Армович ORCID: 0000-0002-9734-105X доктор технических наук ведущий научный сотрудник; Научно-производственный комплекс "Технологический центр" 124498, Россия, г. Москва, пл. Шокина, 1, строение 7 Gribkov Andrei Armovich Doctor of Technical Science Leading researcher; Scientific and production complex 'Technological Center' 124498, Russia, Moscow, Shokin square, 1, building 7 andarmo@yandex.ru Другие публикации этого автора

Зеленский Александр Александрович ORCID: 0000-0002-3464-538X кандидат технических наук ведущий научный сотрудник; Научно-производственный комплекс "Технологический центр" 124498, Россия, г. Москва, пл. Шокина, 1, строение 7 Zelenskii Aleksandr Aleksandrovich PhD in Technical Science Leading researcher; Scientific and production complex 'Technological Center' 124498, Russia, Moscow, Shokin square, 1, building 7 zelenskyaa@gmail.com Другие публикации этого автора

Исследование выполнено при поддержке Российского научного фонда по гранту No 24-19-00692, http://rscf.ru/project/24-19-00692/

Введение

Системы искусственного интеллекта в последнее десятилетие уверенно вошли в нашу повседневную жизнь. Возможности современных общедоступных реализаций искусственного интеллекта с каждым годом расширяются и уже включают в себя распознавание текста, человеческой речи, генерацию текста на любую заданную тему, написание музыки и т.д.

Более детальная и строгая оценка существующих версий искусственного интеллекта формирует менее идиллическую картину. Несмотря на существенные достижения искусственный интеллект остается крайне ограниченным, качественно не отличающимся от систем машинного обучения, которые положены в его основу.

Информационной базой реализованных систем искусственного интеллекта являются различные языковые модели. Наиболее известными из языковых моделей являются NLP (natural language processing – обработка естественного языка), LLP (large language model – большая языковая модель) и LCP (large concept models – большая концептуальная модель), причем LLP и LCP-модели используют NLP-модели в качестве одного из базовых структурных элементов. NPL-модели, в свою очередь включают в себя лингвистические модели ^[1], представляющие собой практическую реализацию идей структурализма ^{[2, с. 72-83]}.

Модели NLP ^[3] служат цели обучения машин чтению, пониманию, интерпретации и реагирования на человеческий язык. Основными инструментами NLP являются синтаксический анализ предложений, семантический анализ текстов и алгоритмы анализа настроений, позволяющие оценивать выраженные в тексте эмоции и мнения.

LLM-модели ^[4] служат пониманию и генерации текста. Основными инструментами LLM-моделей являются разбивка текста на элементы-токены (слова и элементы слов), представление токенов в виде описания их семантической информации и задания отношений с другими токенами, анализ релевантности и значимости слов по отношению друг к другу и др. Формирование LLM-модели предполагает обязательную предварительную подготовку искусственного интеллекта (ИИ) в виде обучения методам изучения грамматики и обработки фактов, а также последующую тонкую настройку (fine‑tuning) с привлечением экспертов-людей, пополняющих знания ИИ в отдельных сегментах, где наблюдаются пробелы в знаниях, ошибки в интерпретации или «галлюцинации» ^[5].

LCM ^[6] – тип языковой модели, которая обрабатывает язык на уровне концепций, а не анализирует отдельные слова. LCM-модель интерпретируют семантические представления, которые соответствуют целым предложениям или связным идеям, что позволяет учитывать более широкий смысл языка, а не только лексические конструкции предложений.

Общим недостатком всех языковых моделей является их ограниченность лингвистическим дискурсом – искусственный интеллект (система машинного обучения), построенный на базе NLP (MonkeyLearn, MindMeld, Amazon Comprehend, GPT-3, GPT-4 и др.), LLM (ChatGPT, Gemini и др.) или LCM (Meta^[1]), формирует систему знаний исключительно на основе интерпретации текстов и не предполагает инструментов взаимосвязи с реальным миром. Следующим шагом в развитии систем искусственного интеллекта по мнению большинства экспертов в области ИИ станет формирование смысловых моделей, которые неизбежно будут опираться на языковые модели, но позволят формализоваться связи между языковым описанием объектов и процессов и их смыслом.

В контексте определения подходов к построению смысловых моделей формулируются несколько ключевых задач, рассмотрению которых посвящена данная статья: раскрытие понятия «смысл» и определение формальных средств его выявления и описания; исследование формирования смыслов на примере человеческого сознания и описание выявленных механизмов в рамках системного подхода; рассмотрение общности механизмов осмысления и творчества и интеграция механизма мультисистемной интеграции знаний, описанного авторами, в системное смысловое описание объектов и процессов; оценка возможности использования для смыслового моделирования онтологий и герменевтических техник понимания смысла.

Осмысление знаний на основе открытых моделей

Ответ на вопрос о то, «что такое смысл?» не столь тривиален, как это может показаться на первый взгляд. Адекватным, по мнению авторов, является определение смысла как сущностного содержание того или иного выражения языка (знака, слова, предложения, текста). То есть понятие смысла привязано к языку. Поэтому логичной является установка на достижении понимания смысла на основе использования языковых моделей. С другой стороны, понятие «смысл» связано с познанием – в процессе познания осуществляется понимание смысла знания.

Что требуется для того, чтобы понять смысл знания? Для того, чтобы ответить на этот вопрос, необходимо понять: что представляет собой знание? Знание – это не истина, не достоверное представление реальности, а совокупность моделей, каждая из которых локальна (ограничена по области описания) и ограничена по точности соответствия объекту познания.

Всякое ли знание осмысленно? Безусловно, нет. Вероятно, что для основной части объектов и процессов в системе знаний внутреннее содержание неизвестно или известно лишь частично. Граница между осмысленным и неосмысленным знанием проходит через разделение представляющих это знание моделей на открытые и закрытые. Ранее было дано определение этих моделей ^{[7, с. 18-20]}: «Под «закрытыми» мы будем понимать модели, образованные на основе эмпирических знаний в ограниченной области познания (например, некоторого диапазона изменений исследуемого параметра), и несоответствующие реальности за пределами этой области. Под «открытыми» – модели, которые оказываются применимым за пределами области познания, на основе данных по которой модель создавалась».

Для того, чтобы модель была открытой, она должна не просто формально (в частности, количественно) соответствовать объекту или процессу, а быть достоверной. Ранее проведенные исследования позволили сформулировать пять правил формирования достоверного знания ^{[7, с. 195-201]}: непротиворечивости, онтологичности, связности, изоморфизма и комплектности. Из указанных правил осмыслению знания в наибольшей степени способствует выявление его соответствия правилам онтологичности и изоморфизма. Согласно правилу онтологичности «формирование достоверного элемента модели мироздания требует обеспечения его соответствия априорным знаниям, либо определения эволюционных связей данного элемента с менее сложными элементами, для которых указанное соответствие обеспечивается», а согласно правилу изоморфизма «определяемый элемент или совокупность элементов модели мироздания должны соответствовать известным паттернам». Напомним, что паттернами называют шаблоны форм и отношений объектов, повторяющиеся на различных уровнях организации мироздания, в различных предметных областях.

Правило онтологичности определяет соответствие реальности формируемых в рамках систем знаний моделей. Если такое соответствие обеспечивается, то модель, очевидно, будет открытой в силу ее достоверности. На практике обеспечение онтологичности знаний в большинстве случаев недостижимо: логические цепочки, которые необходимо выстроить от априорных знаний до конкретного знания, относящегося к сложным объектам и процессам, оказываются слишком длинными для отслеживания и обоснования.

Правило изоморфизма более доступно для использования. Нет необходимости что-либо доказывать или аргументировать – существование в мироздании изоморфизма форм и законов является неоспоримым эмпирическим фактом, практической реализацией целостности мироздания. Выявление в формируемой модели паттернов форм и законов – подтверждение правильности понимания объекта познания. Через эти выявленные паттерны раскрывается смысл знания, заключающийся в интеграции в систему мира познаваемого объекта (в виде модели) с определением его места и роли. Паттерны определяют суть (внутреннее содержание) модели, обобщающей знания, а суть, в свою очередь, указывает на место, которая модель занимает в системе мира.

Итак, для осмысления знания его необходимо представить в виде открытой модели, построенной на основе паттернов форм и законов, а также (в той мере, в которой это возможно) верифицированной по отношению к существующему априорному знанию. Последнее требование в значительной степени удовлетворяется при использовании для описания объектов универсальных паттернов высокого уровня ^{[7, с. 211-217]}, определенных исходя из априорного знания (базовых законов бытия).

Мультисистемная интеграция знаний для осмысления и творчества

Ранее проведенные исследования позволили интерпретировать творчество как имплементацию представления о целостности мира посредством, с одной стороны, заимствования средств для реализации творчества из форм и законов окружающего мире, и, с другой стороны, использования творчества как инструмента созидания целостного представления о мире. В результате, представление целостности мира является императивом (требованием к форме и содержанию) творчества ^[8].

Осмысление знания – творческий процесс, результатом которого является интеграция знания в представление о целостности мира. Как мы уже выяснили, одной из ключевых форм этой интеграции является выявление паттернов форм и законов, задействованных в моделях, обобщающих знания об объектах и процессах реального мира.

Осмысление существующего (ранее созданного) знания и творчество (созидание нового знания) имеют в своей основе общий механизм интеграции знаний, позволяющий обеспечить целостность представления мира, получивший название «мультисистемная интеграция знаний» ^[9].

Механизм мультисистемной интеграции знаний, заложенный в человека от природы, является необходимым для интеллектуальной деятельности. Функционирование этого механизма основано на интеграции человеческого сознания во множество систем, которым человек принадлежит, с которыми связан или взаимодействует. Такими системами являются физический мир, биологическая и экологическая системы, общество, в том числе, система экономических отношений, интеллектуальные сферы, связанные с культурой и духовной жизнью человека и др. В каждой из систем, в которые интегрировано человеческое сознание, происходит сбор, систематизация и обобщение знаний в виде паттернов форм и законов. Эти обобщенные паттерны (как паттерны высокого уровня, логически соотносимые с априорными знаниями, так и вторичные, генезис которых не детерминирован) используются человеком в процессе интеллектуальной деятельности для творчества (посредством трансляции паттернов из одних систем в другие) и осмысления знаний (посредством соотнесения выявленных в обобщающих их моделях паттернов с паттернами в системах, в которые интегрировано человеческое сознание).

Механизм мультисистемной интеграции знаний – универсальный и применим для любых когнитивных систем, наделенных (или наделяемых) интеллектом. Определяющим вектором развития систем искусственного интеллекта является реализация в них механизма мультисистемной интеграции знаний. В настоящее время данная задача пока не решена. Одной из основных составляющих решения данной задачи является разработка формальной теории мультисистемной интеграции знаний, над которой авторы работают в настоящее время. Эта теория должна заложить необходимый базис в формализации представления паттернов, их выявлении, систематизации и сопоставлении. Также необходимо определение комплекса необходимых и достаточных инструментов для идентификации объектов и процессов, подлежащих осмыслению или сопоставлению с аналогами (использующими те же паттерны).

Телеологическая и аксиологическая интерпретации смысла

Является ли «смысл» абсолютной категорией, отвечающей на вопрос о сути модели, обобщающей знаний? Или, может быть, осмысление знания предполагает осознание его цели и/или ценности? Для того, чтобы ответить на эти вопросы, для начала констатируем взаимосвязь двух обозначенных интерпретаций осмысления: телеологической ^{[10, с. 45-52]}, предполагающей ведущую роль в определении смысла знания его цели, и аксиологической ^{[10, с. 22-32]}, предполагающей ведущую роль в определении смысла знания его ценности. В рамках гносеологического анализа телеологическая интерпретация смысла неизбежно сближается с аксиологической: осмысление цели модели, интегрирующей знание, означает ее ценностную квалификацию. Как писал Аристотель: «благо есть цель всякого возникновения и движения» ^{[11, с. 70]}. Ценностная квалификация знания опирается на определение его полезности («блага» в терминологии Аристотеля), в свою очередь, зависящей от способности этого знания удовлетворять потребности. В контексте человеческой цивилизации речь идет о потребностях человека или общества в целом.

Восприятие реальности в рамках человеческого сознания преломляется через призму аксиологической интерпретации смыслов. С одной стороны, это является негативным явлением, поскольку мир в сознании субъекта не соответствует реальности, но, с другой стороны, восприятие остается в целом адекватным, одновременно становясь более функциональным ^[12]. Сосредоточенность на цели (максимизации ценности и, в конечном итоге, наилучшее удовлетворение человеческих потребностей) стимулирует построение моделей обобщенного знания, все более функциональных и при этом осмысленных как часть целостного восприятия мира. В этом заключается механизм формирования смыслов, инициируемый аксиологической интерпретацией: из разрозненной среды знаний управляемые градиентом ценности формируются модели обобщенного знания, осмысление которых требует не раскрытия их сути (внутреннего содержания), а квалификацию ценности (полезности) для удовлетворения потребностей людей. При этом, как писал В. Франкл, основоположник логотерапии (от др.-греч. λόγος — смысл, причина): «Смысл должен быть найден, но не может быть создан… Смысл не только должен, но и может быть найден, и в поисках смысла человека направляет его совесть. Одним словом, совесть – это орган смысла. Ее можно определить как способность обнаружить тот единственный и уникальный смысл, который кроется в любой ситуации» ^{[13, с. 37-38]}.

Любой объект или процесс, становясь объектом познания может быть представлен посредством широкого разнообразия моделей, обобщающих знания о нем и интегрирующих эти знания в общую систему знаний о мироздании. Параметры и критерии оценки, положенные в основу модели, не могут быть произвольными (они ограничены достоверностью формируемой модели), но могут существенно различаться. В том числе, приоритизация критерия ценности (полезности) не противоречит требованию обеспечения достоверности модели.

Задействование при мультисистемной интеграции знаний ценностного подхода, влекущего за собой неизбежное переопределение моделей обобщенного знания, – естественно для человеческого сознания, не способного в полной мере избавиться от субъективности восприятия мира, своего в нем места, форм и средств взаимодействия с ним. Является ли подобное искажение необходимым для искусственных когнитивных систем – вопрос, на который, вероятно, следует дать отрицательный ответ. Это связано с существованием неустранимого различия искусственных и естественных когнитивных систем, обусловленного наличием у последних (сознания человека или животных) субъектности, инициируемой потребностями. Как показывают исследования ^[14], субъектность необязательна для наделения искусственных когнитивных систем способностью к интеллектуальной деятельности. Не обладая субъектностью и потребностями, искусственная когнитивная система не может повысить функциональность своего осмысления обобщенных моделей знания за счет приоритизации ценностного подхода, основанного на понимании ценностей, присущем человеку и другим естественным когнитивным системам.

Смысловые модели и формальные онтологии

Эффективность смыслового моделирования для интеллектуализации искусственных когнитивных систем в значительной степени зависит от выбранного формата представления смысловых моделей. Одним из возможных форматов, получивших в последние годы активное развитие, являются онтологии ^[15], реализующие формальное описание знаний из какой-либо предметной области в виде концептуальных схем с учетом имеющихся правил и связей между элементами, позволяющее автоматическое извлечение знаний. Перспективной областью применения онтологий является извлечение смысла из текста на естественном языке ^[16].

Онтологии строятся с использованием ^[17]: экземпляров (индивидов) – низкоуровневых компонентов, подлежащих классификации; понятий (классов), обобщающих экземпляры или другие понятия (классы); атрибутов, характеризующих экземпляры или понятия (классы); отношений между экземплярами, определяемых их атрибутами. Внутри структуры онтологий выстраиваются таксономии – категорированные слова, упорядоченные по иерархическому признаку. В настоящее время существует множество формальных языков, используемых для кодировки онтологий: CASL (Common Algebraic Specification Language), CL (Common Logic), DOGMA (Developing Ontology-Grounded Methods and Applications), Semantic Application Design Language (SADL), OWL (Web Ontology Language), KIF (Knowledge Interchange Format), ACL (Agent Communications Language) и др.

Представление предметной области посредством онтологий предполагает описание всех ее аспектов, включая характерные объекты и предметы исследования, применяемые научные методы, выполняемые проекты и полученные результаты ^[18]. Необходимым этапом формирования онтологий является построение их терминологической основы ^[19]. После соответствующей систематизации и обобщения формируется тезаурус терминов для данной предметной области, который становится языковой основой оформляющейся парадигмы. Получаемое в результате представление предметной области складывается из упорядоченных классификациями и таксономией объектов и понятий, свойств (атрибутов) и связей (отношений), которые описываются согласно установленной для данной предметной области парадигме.

Как соотносятся между собой, с одной стороны, подход к осмыслению знания на основе мультисистемной интеграции знаний, основой которого является выявление в ограниченных предметных областях паттернов форм и отношений моделей обобщенного знания, и, с другой стороны, подход к осмыслению знания исходя из его представления посредством онтологий, формализующих свойства и связи элементов знания в рамках установленной парадигмы?

Осмысление посредством формальный онтологий служит идентификации моделей знания, «расшифровке» знания, представленного на естественном языке или в иной форме, не обладающей необходимой формализацией для непосредственного извлечения знаний. Осмысление знания на основе мультисистемной интеграции знаний служит определению места и роли модели знания в системе знаний о мироздании, а также выявлению универсальных средств (паттернов форм и законов), определяющих модель знания о предметной области. Данные два подхода к осмыслению знания являются не альтернативными, а взаимодополняющими. Кроме того, между этими походами неизбежно взаимное проникновение – идентификация моделей, обобщающих знание, является одной из задач, решаемых при мультисистемной интеграции знаний, а построение терминологической базы онтологий требует использования лексико-семантических паттернов, которые в дальнейшем могут быть включены в коллекции вторичных (прикладных) паттернов, используемых для осмысления знания.

Понимание в филологической герменевтике

На том же поле субъективного познания, что и телеологическая или аксиологическая интерпретация осмысления, реализуется деятельность герменевтики. По мнению Г.И. Богина, «герменевтика – именно деятельность, а не наука, но по герменевтике возможны и даже необходимы научные разработки» ^[20]. Субъективность герменевтики является неизбежным следствием выбора понимания в противоположность анализу объективных структур знания.

Понимание в герменевтике осуществляется через рефлексию субъекта. Даже если мы, как М. Хайдеггер ^{[21, с. 264-370]}, будем определять понимание через экзистенцию Dasein, то и в этом случае участие субъекта сохраняется – через него транслируется рефлексия бытия, которая и есть понимание. При этом, как утверждает Х.-Г. Гадамер: «Бытие, которое может быть понято, есть язык… мы говорим не только о языке искусства, но также и о языке природы, и вообще о некоем языке, на котором говорят вещи» ^{[22, с. 548-549]}.

Аналогичное определение можно дать для филологической герменевтики. Г.И. Богин пишет ^[20]: «Предметом филологической герменевтики является понимание – усмотрение и освоение идеального, представленного в текстовых формах. Тексты могут быть на естественных языках или на "языках" других искусств».

Филологическая герменевтика предлагает большое разнообразие инструментов – техник понимания текста. Г.И. Богин выделяет следующие основные группы, объединяющие 105 техник ^[20]: техники усмотрения и построения смыслов (создание направленности рефлексии, растягивание или категоризация смыслов, понимание схемы действования по срезу смысловых (повествовательных) нитей, наращивание и категоризация предикаций, регулирование ожидания смыслов, достраивание рефлексий, актуализация для связывания нового знания с понимаемым и т.д.), использование рефлекторного мостика (метафоризация, актуализации фонетические, интонационные, грамматические и др., бинарное противопоставление образующих текст средств, отсылки и интертекстуальность, ирония, симметрия и др.), техники расклеивания смешиваемых конструктов (значение и смысл, значение и понятие, содержание и смысл, ассоциация и рефлексия и т.д.), техники интерпретационного типа (восстановление смысла по значению, усмотрение и определение альтернативного смысла, самоопределение в мире усмотренных смыслов или в альтернативном смысловом мире и др.), техники перехода и замены (от смысла к значению, от значения к смыслу, от значения к понятию, от понятия к значению и др.), техники выхода (к пониманию смысла, к усмотрению и осознанию красоты или художественности, к переживанию или гармонии, к определению истинности, к формулированию идеи и т.д.). Степень формализации техник различна, однако все они представляют несомненный интерес для решения задачи осмысления знаний, представленных в текстовом виде (или, в терминах герменевтики, – для интерпретации и понимания текста).

Потенциал герменевтики в решения проблемы понимания для систем искусственного интеллекта пока сложно оценить. В большой степени это связано с отсутствием субъектности у искусственных когнитивных систем, что делает невозможной полноценную рефлексию, включающую в себя, наряду с обращением внимания на содержание и функции собственного сознания, также разбор чувств, эмоций и желаний. Между тем рефлексия является ключевым элементом большей части техник понимания текста, сформулированных в рамках филологической герменевтики. Работы, посвященные применению подходов герменевтической философии для понимания текстовых знаний в системах искусственного интеллекта, немногочисленны и полного представления о существующих перспективах в данной области не дают ^[23,24].

Сравнительно недавно в научный обиход вошел новый термин – цифровая герменевтика ^[25] – интерпретация текстов, цифровых объектов и технологий с помощью компьютера или даже искусственного интеллекта ^[26]. В этом случае, однако, решается задача, обратная той, которая возникает при наделении когнитивной системы способности к пониманию смысла моделей, обобщающих знание (например, в виде текста). Цифровая герменевтика – случай расширения возможностей прикладного использования герменевтики за счет использования современных технологий, а не использование герменевтики для усиления искусственного интеллекта (его способности к пониманию).

Выводы

Резюмируем проведенное в статье исследование:

1. В последние годы наблюдается активное развитие систем искусственного интеллекта, построенных на использовании различных языковых моделей. Несмотря на существенные достижения, следует констатировать наличие препятствий для дальнейшего развития, связанных с ограниченностью языковых моделей. Необходим переход к смысловым моделям, оперирующим не словами или предложениями, а смыслами.

2. Возможным подходом к определению понятия «смысл» является представление знаний в виде обобщающих их моделей и проведение границы между моделями, исходя из их открытости или закрытости. Осмысленными моделями в этом случае будут только открытые, применимые за пределами области познания, на основе данных по которой они создавались.

3. Достоверность открытых моделей, обобщающих знания, обеспечивается их изоморфизмом, т.е. выявлением в их формах и определяющих их законах повсеместно распространенных паттернов, свидетельствующих об интеграции моделей в систему представлений о мироздании.

4. Ключевым инструментом осознания существующего знания и рождения нового (посредством творчества) является мультисистемная интеграция знания, позволяющая на основе соединения знаний из разных предметных областей выявлять паттерны форм и законов, которые в дальнейшем могут транслироваться между предметными областями, позволяя творить и решать интеллектуальные задачи.

5. Смысл знания, понимаемый человеком (или другой естественной когнитивной системой, обладающей субъектностью), обладает выраженными чертами субъективности, делающими неизбежной телеологическую и аксиологическую интерпретацию смыслов. Проявляющаяся при этом приоритизация ценности (полезности) может способствовать повышению функциональности восприятия. Для искусственных когнитивных систем, не обладающих субъектностью и, соответственно, не способных на категоризацию интерпретаций смыслов по критерию ценности (полезности), телеологическая или аксиологическая интерпретация смыслов невозможна, а, следовательно, смысловые модели лишены субъективности.

6. Перспективным инструментом смыслового моделирования являются онтологии, реализующие формальное описание знаний из какой-либо предметной области в виде концептуальных схем с учетом имеющихся правил и связей между элементами, позволяющее автоматическое извлечение знаний. Формальные онтологии и мультисистемная интеграция знаний – подходы к осмыслению знания, взаимно дополняющие друг друга и взаимно проникающие, наиболее точно и полно определяемые в совокупности.

7. Герменевтика – деятельность, направленная на понимание текстов на естественных и любых других языках, накопила значительный арсенал прикладных инструментов – техник понимания текстов. Эти техники, очевидно, эффективны в случае использования человеком. Возможность их использования для искусственных когнитивных систем – вопрос, требующий дополнительного исследования. Можно предположить, что из-за отсутствия субъектности подходы герменевтической философии, центральное место в которой занимает рефлексия, не могут быть применены в полной мере.

^[1] Запрещена в РФ