Человек в цивилизации когнитивных технологий

Грибков Андрей Армович ORCID: 0000-0002-9734-105X доктор технических наук ведущий научный сотрудник, НПК "Технологический центр" 124498, Россия, г. Москва, Зеленоград, площадь Шокина, 1, строение 7 Gribkov Andrei Armovich Doctor of Technical Science Senior Researcher, Scientific and Production Complex "Technological Center" 124498, Russia, Moscow, Zelenograd, Shokin Square, 1, building 7 andarmo@yandex.ru Другие публикации этого автора

Введение. Развитие информационных технологий, обещающее в обозримом будущем повсеместное распространение искусственного интеллекта и других когнитивных систем, неизбежно влияет на место и роль человека в формирующейся цивилизации.

Понимание этих места и роли, выявление возможных угроз, возникающих для человечества в новом цивилизационном контексте, определение путей и способов противодействия этим угрозам – задачи, для решения которых необходимо ответить на несколько фундаментальных вопросов:

– Что такое цивилизация? Как понятие «цивилизация» соотносится с другими базовыми понятиями: культурой, обществом и т.д.? В чем цель цивилизации (и есть ли она вообще)? Чем характеризуется цивилизация?

– Что будет представлять собой формирующаяся в настоящее время цивилизация, отличительной особенностью которой является опора на когнитивные технологии? Что представляют собой когнитивные технологии? Каковы ограничения этого развития?

– В чем заключаются функции человека (людей) в существовании и развитии цивилизации? Изменяются ли эти функции? Имеются ли среди них неотчуждаемые?

Ответы на последнюю группу вопросов позволят сформулировать дополнительные вопросы, значимые для преодоления угроз человечеству, связанных с изменением места и роли человека в цивилизации, в том числе вытеснением человека из сферы интеллектуальной деятельности.

Стадии развития цивилизации. Что такое цивилизация и в чем ее цель? Вопрос о том, что такое цивилизация, как ни странно, до настоящего времени не имеет однозначного ответа. Вариантов ответа много ^{[1, с. 437-438]}, но ни один из них, по мнению автора, не является точным и полным. Иногда цивилизацию определяют как совокупность материальных и духовных достижений общества ^[2], что отожествляет цивилизацию с культурой.

Предлагается следующее определение понятия «цивилизация»: цивилизация – форма группового существования людей, обеспечивающая посредством социальных механизмов удовлетворение их биологических, социальных и интеллектуальных (духовных) потребностей. Форма группового существования людей определяется культурой – совокупностью методов создания и созданных ранее (накопленных) материальных и духовных ценностей (благ).

Исходя из данного определения очевидной становится цель цивилизации, заключающаяся в удовлетворении потребностей людей. При этом, в силу неравенства людей в разные исторические периоды приоритеты в удовлетворении потребностей различных классов, народов и стран существенно различались. Сформулированное выше определение культуры не предполагает для нее какой-либо цели. Она является средой для формирования цивилизации и продуктом ее функционирования.

Интерес представляет отношение понятий «цивилизация» и «общество». Одной из интерпретаций понятия «цивилизация», с которой нельзя не согласиться, является ее определение как локализованного во времени и пространстве общества ^[3]. Другими словами, цивилизации представляет собой реализацию общества в конкретной культурной среде, привязанной к эпохе и стране.

Ретроспективный взгляд на развитие человеческой цивилизации обнаруживает, что до настоящего времени цивилизация прошла несколько стадий. Наиболее часто выделяют три стадии развития цивилизации ^[4]: аграрную (доиндустриальную) цивилизацию, индустриальную цивилизацию и постиндустриальную цивилизацию ^[5]. Иногда говорят о пяти стадиях: первобытная община, аграрная цивилизация, индустриальная цивилизация, индустриально-информационная цивилизация, информационная цивилизация.

По мнению автора, говорить о первобытной общине, как о цивилизации, некорректно, поскольку цивилизация (от лат. civilis – гражданский, государственный) относится к обществу, достигшему уровня формирования государства. Разбиение дальнейшего (цивилизованного) развития человечества, по мнению автора, включает в себя стадию аграрной цивилизации и стадию машинной цивилизации. Современный этап развития цивилизации соответствует переходу от машинной цивилизации к следующей стадии развития – цивилизации когнитивных технологий, рассмотрению которой посвящена данная статья.

Разбиение развития цивилизации на стадии должно, по мнению автора, основываться на изменении средств достижения цели цивилизации, т.е. удовлетворения потребностей людей, в условиях роста этих потребностей и расширения технологических возможностей для их удовлетворения.

Аграрная цивилизация – это форма общества, в особенности традиционного, основанного в большей мере на сельскохозяйственном и ремесленном производстве, нежели на промышленном ^[4]. Формирование аграрной цивилизации происходило в условиях роста численности человечества и необходимости удовлетворения их едой, одеждой и другими базовыми материальными благами. Результатом достижения цели удовлетворения потребностей людей на этой стадии стал переход от охоты и собирательства к земледелию, скотоводству и животноводству.

Машинная цивилизация – условное название периода в истории человечества, базирующегося на машинном производстве ^[4]. Дальнейший рост численности человечества, сопровождаемый появлением новых потребностей, в том числе связанных с аграрным и связанными с ним производствами (производство продуктов питания, одежды и т.д.), увеличением объемов ремесленного производства и добычи полезных ископаемых, появлением новых технологий, инициированных развитием потребностей, сделал необходимым формирование и развитие машинного производства. Основной решаемой задачей машинного производства стало замещение людей машинами в выполнении тяжелого физического и однообразного труда. К настоящему времени в решении этой задачи машинная цивилизация достигла уровня автоматизированного и роботизированного производства.

Выделение индустриально-информационной и информационной цивилизации в рамках предлагаемой логики развития цивилизации, целью которой является удовлетворение потребностей людей, нецелесообразно, однако, тем не менее, имеет под собой весомые основания. Развитие информационных технологий является определяющим фактором подготовки машинной цивилизации к следующей стадии развития цивилизации – цивилизации когнитивных технологий (так мы ее назвали).

Некоторые черты цивилизации когнитивных технологий можно найти в постиндустриальной цивилизации. При этом контуры постиндустриальной цивилизации (общества) в полной мере не определены. Характерные для постиндустриальной цивилизации свойства относятся главным образом к сфере экономики и организации общества: «В постиндустриальной экономике информация и знания становятся производственным ресурсом… К основным признакам формирования и развития постиндустриальной экономики относят: переход от преобладающего производства товаров к производству услуг; доминирование класса технических специалистов как основной профессиональной группы; повышение значения и роли науки и ее достижений в экономике…» ^[6]. Между тем, определяющими для цивилизации являются потребности и результаты их удовлетворения посредством имеющихся (на данном уровне развития) технологий.

В таблице 1 в кратком виде представлено развитие цивилизации от стадии аграрной цивилизации до стадии цивилизации когнитивных технологий с указанием основных потребностей и результатов их удовлетворения.

Таблица 1. Стадии развития цивилизации

Цивилизация когнитивных технологий. Что такое цивилизация когнитивных технологий? Это цивилизация, в которой человек замещается машинами не только для выполнения тяжелой и однообразной физической работы, что характерно для машинной цивилизации в продолжении всего периода ее существования, или решения вычислительных и логических задач по заданной (созданной человеком) программе (которая в частном случае может предполагать адаптивности и автономность работы), что характерно для машинной цивилизации с середины 1940-х годов до настоящего времени, но и для решения интеллектуальных (творческих) задач, т.е. задач для которых нет готового (заранее заданного) способа решения ^[7].

Средством замещения человека в решении интеллектуальных задач являются искусственные когнитивные системы – многоуровневые системы, осуществляющие функции распознавания и запоминания информации, принятия решений, хранения, объяснения, понимания и производства новых знаний ^[8]. Основной областью применения искусственных когнитивных систем является интеллектуальное управление машинами (техническими средствами, совершающими полезную работу). Под интеллектуальным управлением следует понимать управление, в процессе которого решаются интеллектуальные задачи.

Что представляют собой когнитивные технологии? Как и любые другие технологии они являются совокупностью методов и средств (инструментов) получение определенного продукта. Для когнитивных технологий таким продуктом являются системы управления различного уровня сложности, способные (в большей или меньшей степени) решать интеллектуальные задачи. Для этого системы управления могут быть дополнены алгоритмами нечеткой логики, машинного обучения и реализовываться на основе искусственных нейронных сетей (аппаратных или программных).

Цивилизация когнитивных технологий соответствует 6-му технологическому укладу, ядром которого является конвергенция NBIC-комплекса: нанотехнологий, биотехнологий, информационных и когнитивных технологий. NBIC-технологии в настоящее время рассматриваются как основа социального прогресса. В США и Европейском Союзе были разработаны специальные программы социального развития на основе NBIC-технологий ^[9].

Влияние NBIC-технологий на общество, находящее свое выражение в переходе цивилизации на новую стадию развития, реализуется главным образом через развитие когнитивных технологий. Прочие составляющие конвергенции NBIC-комплекса ответственны за синергетический эффект, который, в том числе, делает развитие когнитивных технологий более активным и обеспечивает более широкие возможности их практической реализации. В частности, развитие нанотехнологий многократно расширяет возможности микроэлектроники (являющейся основой реализации искусственных когнитивных систем). Информационные и когнитивные технологии при реализации искусственных когнитивных систем взаимосвязаны настолько плотно, что их отдельное рассмотрение не представляется возможным. Более того, искусственные когнитивные системы являются средством реализации сознания (искусственного), которое может быть интерпретировано как информационная среда и, соответственно, основано на использовании информационных технологий ^[10].

Последовательное вытеснение человека из хозяйственной деятельности (вначале из сферы неинтеллектуальной, а затем – интеллектуальной) выглядит серьезной угрозой для человечества. В этой связи возникают два ключевых вопроса, от ответа на которые зависит наличие и степень этой угрозы: «Существуют ли ограничения в развитии когнитивных систем?» и «Есть ли у человека неотчуждаемые функции в цивилизации?».

Первый из указанных вопросов был исследован автором с соавтором в работе ^[11]. Результатом данного исследования является констатация, что механизмы решения интеллектуальных задач человеком могут быть детерминированы и реализованы посредством искусственных когнитивных систем (искусственного интеллекта). При этом искусственный интеллект нет необходимости наделять субъектностью, эмоциями и потребностями – свою функцию решения интеллектуальных задач он может выполнять и без этого.

Реализуема ли задача наделения искусственных когнитивных систем субъектностью? Вероятно, реализуема, однако для решения интеллектуальных задач в этом нет необходимости. При этом наделенная субъектностью искусственная когнитивная система будут представлять реальную угрозу для человечества, неизбежную при господстве слабого (человека) над предположительно более сильным по физическим, вычислительным и интеллектуальным возможностям (искусственной когнитивной системой).

Таким образом на вопрос «Существуют ли ограничения в развитии когнитивных систем?» может быть дан ответ, что такие ограничения имеются и они связаны с тем, что искусственные когнитивные системы не должны (в этом нет практической необходимости) становится подобными человеку: обладать эмоциями, потребностями и субъектностью.

Из ответа на первый вопрос следует ответ и на второй «Есть ли у человека неотчуждаемые функции в цивилизации?». Такой неотчуждаемой функцией является генерация потребностей: биологических, социальных и интеллектуальных (духовных). Выполнение этой функции не является настолько простым и естественным, как это может показаться на первый взгляд. Последовательное замещение человека машинами в различных сферах деятельности, в том числе в решении интеллектуальных задач (творчестве) может привести к упрощению, деградации потребностей, постепенно свести их к биологическим. Поэтому для цивилизации когнитивных технологий одной из ключевых задач является противодействие деградации потребностей, а предпочтительно – стимулирование их развития.

Комплекс функций человека в рамках цивилизации определяется сравнительно просто и однозначно. Цель цивилизации – удовлетворение потребностей людей, средством достижения этой цели является труд людей – физический (ручной или с использование все более сложных машин) и умственный (вначале с помощью исключительно человеческого разума, затем с помощью вспомогательных инструментов в виде механических, электрических и электронных вычислительных машин, и, наконец, с помощью искусственных когнитивных систем). Следовательно, функции человека в рамках цивилизации – это генерация потребностей и труд (в том объеме и в той форме, в которой это необходимо) для их удовлетворения.

Развитие цивилизации сопровождается неуклонным сокращением трудовой деятельности человека. Эта тенденция, вероятно, продолжится и даже ускорится в цивилизации когнитивных технологий. Генерация потребностей в продолжении всей истории человечества неуклонно повышалась как количественно, так и качественно: по мере технологического и социального развития рождались все новые потребности, а прежние в основном сохраняли свою актуальность. В цивилизации когнитивных технологий основой сохранения значимости человека как инициатора развития является развитие потребностей. В условиях их активного расширения и углубления также будет сохраняться потребность в трудовой деятельности, связанной с формализацией, детализацией и формулированием потребностей. Значимость и сложность такой деятельности не следует недооценивать. Применительно к интеллектуальной сфере эта деятельность соответствует постановке задачи (вопроса). Между тем известно, что для того, «чтобы правильно задать вопрос, нужно знать бóльшую часть ответа» ^{[12, с. 286]}.

Эволюция потребностей – основа развития цивилизации. Согласно закону возвышения потребностей, «в ходе развития общественного производства происходят рост и видоизменение потребностей, исчезновение одних и возникновение новых, в результате чего круг потребностей расширяется, их структура качественно меняется» ^[13].

Направления и масштабы трансформации потребностей определяются расширением технологических возможностей. К числу основных характерных особенностей потребления, связанных с происходящей в настоящее время 4-ой ^[14] и приближающейся 5-ой ^[15] промышленными революциями, относится персонализация потребления. Развитие информационных технологий, цифровизация производства позволили расширить использование технологического оборудования, для которого себестоимость производства в малой степени зависит от серийности (оборудование аддитивных технологий и другое оборудование с малым числом переделов, либо оборудование для единичного производства из унифицированных компонентов). В результате становится возможной сервис-ориентированная архитектура производства, продукция которого удовлетворяет потребности конкретных покупателей. Наряду с расширением видового разнообразия потребляемой продукции общественное развитие сопровождается изменением структуры потребления, в частности, ростом доли услуг по сравнению с товарами.

Классификация потребностей по уровню сложности предполагает их разделение на биологические (физиологические, естественные), социальные и интеллектуальные (духовные) потребности. Развитие цивилизации способствует росту всех потребностей, однако этот рост неодинаков. Биологические потребности (в дыхании, сне, тепле, пище, воде, сохранении здоровья, отдыхе и т.д.) в своей основе не изменяются. Некоторый рост биологических потребностей связан с необходимостью обеспечения качества потребления – чистоты воздуха и воды, вкуса и безопасности продуктов питания, гигиеничности и гипоаллергенности одежды и др. В значительной степени требования к качеству потребления обусловлены развитием технологий, которые, с одной стороны, открывают возможности повышения качества, а, с другой стороны, являются причиной его снижения в результате негативного влияния на природу (загрязнение вредными веществами воздуха, воды, продуктов питания и т.д.) и расширения использования технологий (использование синтетических удобрений, генная модификация культурных растений, вакцинация и массовое использование антибиотиков в животноводстве и т.д.).

Социальные потребности растут по мере развития цивилизации намного активнее биологических. Более того, существенная часть потребления материальных благ (одежды, жилья, еды, питья и др.) в существенной степени обусловлена влиянием социальной среды. То, во что человек одет, чем он питается и в каком доме живет, зависит не только (и не сколько) от необходимости удовлетворения его биологических потребностей, сколько от принятых в обществе представлений о должных объеме, структуре и качестве потребления. Развитие цивилизации создает условия для формирования новых социально обусловленных потребностей, которые могут быть удовлетворены при повышающемся уровне экономики и новых технических возможностях. В результате появляются потребность в смене одежды и других предметов широкого потребления согласно тенденциям моды, потребность во все новых гаджетах, бытовой технике и других изделиях с заведомо избыточным функционалом и т.д. В целом данную тенденцию можно охарактеризовать как замещение потребностей рыночным спросом, который, в еще большей степени, чем потребности, может быть управляем посредством социальных механизмов, в частности, инструментов маркетинга.

Социальные механизмы принуждения к потреблению могут выступать как в позитивной, так и в негативной роли. Например, они являются основным стимулом экономического развития. При этом сложно судить, насколько рост экономики, слабо связанный с удовлетворением реальных потребностей, является позитивным явлением. Однако рост объемов производства, развитие технологий происходят, и главную роль в этом сыграли социальные механизмы принуждения к потреблению: нередко избыточному и не соответствующему реальным нуждам людей.

Дальнейшая эволюция потребностей, сопровождаемая их расширением и видоизменением, необходима для сохранения положения человека в развивающейся цивилизации. Основным средством обеспечения указанной эволюции потребностей, вне всякого сомнения, могут быть только социальные механизмы принуждения к потреблению. Что-то хотеть, искать новые предметы потребления (в том числе, соответствующие материальному потреблению или связанные с интеллектуальной деятельностью) и их свойства, формировать из расширяющегося многообразия предметов потребления сложную взаимосвязанную систему – все это человек будет делать только под социальным давлением для того, чтобы соответствовать своей социальной среде, принятым в ней нормам потребления. Напомним, что цивилизация – это локализованное во времени и пространстве общество. Поэтому в ней нет иных средств воздействия на людей, кроме социальных.

Социальные механизмы принуждения не ограничиваются принуждением людей к потреблению. Важную роль эти механизмы играют и в принуждении к трудовой деятельности. Наглядным примером эффективности такого принуждения является место в экономике, политике и культуре людей, не имеющих материальной необходимости в зарабатывании денег, например, аристократии в прошлые века. Рыцарство формировалось из аристократии, государственной деятельностью, искусством и наукой занимались главным образом представители дворянства. Не имея в большинстве случаев материальной потребности в труде, они выбирали путь трудовой активности под влиянием социальной среды, требующей в обмен на социальное признание активности от всех членов общества. Уклонение от такой активности было допустимо, но влекло за собой социальную изоляцию индивида и сокращение потенциала его дальнейшего социального роста.

Интеллектуальные (духовные) потребности человека, в отличие от социальных, локализованы на самом человеке. Потребности в новых знаниях, интеллектуальной активности, интеллектуальном и духовном совершенствовании – личные, реализующиеся самим человеком под влияние внутренних стимулов. Важно отметить, что преобладающая часть потребностей, которые мы квалифицируем как интеллектуальные (духовные), таковыми не являются. Эти псевдоинтеллектуальные потребности продуцируются под социальным давлением: для того, чтобы достичь высокого социального статуса необходимо приобретать знания, развивать свой ум, повышать уровень своей культуры и т.д. На ранних этапах развития человечества существенным стимулом интеллектуального развития также выступали биологические потребности: для выживания в условиях дикости или в первобытной общине требовались ум, память, а также определенная духовность, проявляющаяся в виде приверженности интересам группы или общины, нередко в ущерб индивидуальным.

Интеллектуальная деятельность крайне энергозатратная, поэтому обычным для человека является ее выполнение в течении короткого интервала времени, обычно нескольких минут, достаточных для быстрого решения актуальной жизненной задачи. Предельная продолжительность концентрации внимания человека, не прошедшего специальной подготовки, составляет 20-25 минут. Даже при столь коротких интервалах высокой активности на мозг в среднем приходится до 20% интенсивности метаболизма в состоянии покоя (resting metabolic rate – RMR) – общего количества энергии, которую расходует организм человека ^[16]. При этом потенциал роста затрат энергии на интеллектуальную деятельность существенно ограничен. Эксперимент, проведенный учеными из НИИ нормальной физиологии им. П.К. Анохина, показал, что энергетические затраты студентов во время сдачи экзаменов (связанные с интеллектуальной деятельностью и стрессом) вырастали не более, чем на 30-40% от обычного уровня ^[17].

Для подавляющего большинств людей активная интеллектуальная деятельность крайне утомительна, неприятна и требует существенных усилий воли. Если это было бы возможно (не было бы социального принуждения), большинство людей выбрали бы меньшую активность интеллектуальной деятельности, чем та, которая у них имеется в настоящее время. Выбор в пользу большей интеллектуальной активности предпочтителен для явного меньшинства людей – у них, вероятно, реализуются какие-то внутренние механизмы мотивации (например, эмоциональная стимуляция в виде радости от положительного решения интеллектуальных задач).

Предрасположенность основной массы людей к снижению интеллектуальной активности – основной фактор риска потери человеком свой роли инициатора развития цивилизации. Средство нивелирования этого риска в рамках цивилизации – это социальное принуждение (или, в менее жестком виде, – социальная мотивация). Конкретные механизмы социального принуждения (мотивации) достоверно могут быть определены только в условиях актуализации всех составляющих цивилизации когнитивных технологий. В настоящее время можно лишь констатировать, что эффективность этих механизмов напрямую зависит от степени интеграции общества, т.е. сохранения и расширения социальных связей. Разобщение людей, наряду с непосредственными социальными последствиями, также имело бы свои неизбежным следствием потерю эффективности социальных механизмов принуждения к потреблению, в том числе удовлетворению псевдоинтеллектуальных потребностей, стимулирующих развитие цивилизации и обеспечивающих сохранение человеком в ней своего места и роли.

Существование общества в условиях действенного социального принуждения к интеллектуальной деятельности, вероятно, будет способствовать сохранению или даже расширению меньшинства, обладающего реальными интеллектуальными потребностями. Значение этого меньшинства для развития общества, вероятно, существенно, однако до настоящего времени достоверно не определено. В значительной степени данный вопрос коррелирует с проблематикой роли личности в истории ^[18].

Выводы. На основе проведенного в статье анализа можно сделать следующие основные выводы:

1. Предлагается авторское определение понятия «цивилизация»: цивилизация – форма группового существования людей, обеспечивающая посредством социальных механизмов удовлетворение их биологических, социальных и интеллектуальных (духовных) потребностей. Из этого определения следует, что целью цивилизации является удовлетворение потребностей людей.

2. Одной из интерпретаций понятия «цивилизация», углубляющей понимание его содержания, является определение цивилизации как локализованного во времени и пространстве общества.

3. Цивилизация в своем развитии прошла две стадии: стадию аграрной цивилизации и стадию машинной цивилизации. В настоящее время цивилизация находится в состоянии перехода к новой стадии – цивилизации когнитивных технологий.

4. Определяющими для цивилизации свойствами являются основные удовлетворяемые потребности и результаты их удовлетворения.

5. Для цивилизации когнитивных технологий основной удовлетворяемой потребностью являются искусственные когнитивные системы для интеллектуального управления машинами для производства материальных благ, а результатом удовлетворения этой потребности – замещение людей искусственными когнитивными системами в интеллектуальном управлении машинами.

6. В условиях формирующейся угрозы постепенного вытеснения человека машинами из хозяйственной деятельности возникают два ключевых вопроса: «Существуют ли ограничения в развитии когнитивных систем?» и «Есть ли у человека неотчуждаемые функции в цивилизации?». Ответ на первый вопрос: да, ограничения существуют, и они связаны с тем, что искусственные когнитивные системы не должны становится подобными человеку: обладать эмоциями, потребностями и субъектностью. Из ответа на первый вопрос следует ответ и на второй: неотчуждаемой функцией человека является генерация потребностей: биологических, социальных и интеллектуальных (духовных). В целом функции человека в рамках цивилизации – это генерация потребностей и труд (в том объеме и в той форме, в которой это необходимо) для их удовлетворения.

7. Основой развития цивилизации является эволюция потребностей: биологических, социальных и интеллектуальных (духовных). Практическая реализация влияния потребностей на развитие цивилизации осуществляется преимущество посредством механизмов социального принуждения (или социальной мотивации). Существенная часть материального потребления в рамках цивилизации инициируется за счет социальных механизмов принуждения к потреблению. Интеллектуальные потребности обуславливают малую часть интеллектуальной деятельности – основным ее стимулом является социальное принуждение.

8. Дальнейшее развитие цивилизации позволит сохранить положение человека как инициатора этого развития только в случае успешной реализации механизмов социального принуждения, в первую очередь принуждения к интеллектуальной деятельности. Условием реализуемости социальных механизмов принуждения является социальная интеграция, активное противодействие тенденциям разобщения людей, снижения активности и числа социальных связей.