Культурологическая деконструкция социально-культурных угроз ChatGPT информационной безопасности российских граждан

Былевский Павел Геннадиевич ORCID: 0000-0002-0453-526X кандидат философских наук доцент, кафедра информационной культуры цифровой трансформации; кафедра международной информационной безопасности, Московский государственный лингвистический университет 119034, Россия, Москва, г. 119034 Москва, ул. Остоженка, 36, оф. 106 Bylevskiy Pavel Gennadievich PhD in Philosophy Associate Professor, Department of Information Culture of Digital Transformation; Department of International Information Security, Moscow State Linguistic University 119034, Russia, Ostozhenka str., 36, office 106 pr-911@yandex.ru Другие публикации этого автора

Введение

Появление новых версий ChatGPT (4.0 в марте 2023 года), наиболее известного и продвигаемого компьютерного генератора текстовых ответов, имитирующих диалог, порождает всплески общественного и научного интереса. Новейшим компьютерным технологиям сопутствуют неизвестные прежде не только преимущества, но и угрозы информационной и социально-культурной безопасности. Анализ современной научной литературы (публикаций в журналах ВАК К1, К2 и Scopus Q1, Q2 за 2021—2023 гг.) показывает значительный разброс оценок соотношения преимуществ и угроз ChatGPT, генеративной языковой модели на основе «машинного обучения». Объяснимо, что многие ожидания выглядят завышенными: ChatGPT является компьютерной автоматизацией социально-культурной деятельности, относясь к группе «сквозных» технологий «искусственного интеллекта» ^[1], роль которых существенно возросла в результате цифровой трансформации, начавшейся в 2010-е годы ^[2].

Фактором, обостряющим внимание к аспектам безопасности таких сервисов для российских граждан, является осложнение международных отношений, в том числе с глобальными цифровыми платформами, базирующимися в США, в связи с началом в 2022 году Специальной военной операции на Украине. Преувеличенные оценки возможностей ChatGPT, от утопии (высокой автоматизации авторского труда ^[3], безошибочного управления обществом ^[4]) до антиутопии (сверхоружие в психологической войне ^[5]), маскируют реальные риски. Учитывая утверждение Правительством России 22 декабря 2022 г. «Концепции формирования и развития культуры информационной безопасности граждан Российской Федерации», востребована правильная оценка баланса возможностей и рисков подобных цифровых сервисов для российских пользователей ^[6]. Применение культурологического подхода может способствовать эффективной оценке рисков и выработке мер безопасности использования гражданами России в социально-культурной деятельности ChatGPT как публичного зарубежного массового цифрового сервиса.

1. Генеративные языковые модели как техническое средство культуры

Для профильной взвешенной оценки социально-культурных возможностей и угроз ChatGPT, как технологии «искусственно интеллекта», используется культурологический подход. Декларации разработчиков о возможностях подобных решений нуждаются в сдержанно-критическом осмыслении: история «вёсен и зим» «искусственного интеллекта» с 1950-х годов свидетельствует, что они зачастую были сильно преувеличены в целях агрессивного маркетинга для привлечения инвестиций. Полюсами таких завышенных оценок являются утопия (машины будут за всех работать и всё решать) и антиутопия (машины поработят, уничтожат людей), грань между которыми не безусловна: если машины смогут делать всё лучше, то в чём смысл существования человека?

Некоторых «философов искусственного интеллекта» можно упрекнуть в том, что они, под сильным впечатлением успехов техники, просто транслировали дилетантские воззрения разработчиков новых компьютерных решений на человека и его мышление, переводя на профессиональный язык философских терминов. Неоправданно преувеличенным оценкам перспектив компьютерной автоматизации технических систем способствует взгляд на человека, красноречиво выраженный в самом неопределённо-двусмысленном понятии «искусственный интеллект» и связанных терминах ^[7]. Технические устройства, не являющиеся даже живыми организмами, наделяются человеческими способностями. Примерами служат привычные компьютерные «восприятие», «зрение», «слух» и т.п., широко используемые «взаимодействие» ^[8], «сотрудничество» человека с компьютером ^[9] и другие подобные оксюмороны (в духе «общения работника с молотком»). Компьютерные «нейросети» − модное слово ^[10], но на деле моделируют не действительные механизмы человеческого мышления, обучения ^[11], а формализованные механистические представления о нём разработчиков; термин «нейрон» обозначает просто нервную клетку, не обязательно мозга.

Предпосылкой «очеловечивания» электронно-вычислительной техники выступает сформировавшийся в философии Нового времени механистический подход к человеку не как к одушевлённому существу или даже не как к живому организму, но как к рукотворному предмету (механизму, автомату, машине), вместо которого можно создать более производительный. Именно такой объяснимый, но ошибочный методологический подход обусловливает не реалистические, сильно завышенные оценки и преимуществ, и угроз компьютерной автоматизации. Конкретно-исторические отношения людей как социально-культурных субъектов редуцируются, упрощаются, рассматриваясь с точки зрения вычислений, механики, электротехники и других смежных научных, технических дисциплин. Впрочем, подобные оценки, отвечая существенным социально-культурным запросам и интересам влиятельных групп, способны сильно влиять на поведение многих людей и тем самым на ход исторического развития.

С точки зрения теории культуры, единственным субъектом социально-культурной деятельности является человек, коллективы людей (общество). Технические предметы, используемые и изготавливаемые человеком, являются орудиями, инструментами совместной деятельности людей, их деятельностного общения в труде, быту и преобразовании общественных отношений. Наскальный рисунок, библиотека глиняных табличек с клинописью, бумага и карандаш, книга и статуя, кисть и полотно, библиотека и музей, телефон и телевизор, социальная сеть, интернет-мессенджер, «машинная живопись» ^[12] и ChatGPT — всё это в равной степени, хотя и на разных стадиях исторического развития, технические средства совместной социально-культурной деятельности людей.

Культурологический подход к человеку и его техническим инструментам соответствует не только трудовой теории стоимости в английской классической политической экономии, но и определению субъекта права современной юриспруденцией. Культурология исходит из первичности и приоритета человеческих способностей, по отношению к которым техника носит вторичный, инструментальный характер. Не существует и не может существовать техники, не зависимой от человека: он придумывает, создаёт и использует её для расширения своих возможностей, повышения культуры, развития знаний, умений и навыков, но и для противоборства с себе подобными. Главный субъект создания и использования техники сам человек, главная цель применения техники − создание ценностей, удовлетворяющих потребности человека (хотя ценности могут быть и отрицательными, наносить ущерб).

Не являясь социально-культурным субъектом, техника, от каменного топора до ChatGPT и далее, может обретать характер фактора преимуществ или угрозы человеку, исходящей от человека же (как другого, так и от себя самого), в зависимости от общественных отношений между ними, включая сознание и волю. Создание топора позволяет человеку срубить дерево, но рубит не сам топор, а человек, и не всякий, а дровосек, умеющий правильно рубить топором. Этот пример верен для инструментов любых степеней сложности, автономности и автоматизации (в том числе технологий «искусственного интеллекта») ^[13]: их умелое применение позволяет расширить способности человека.

2. Культурологическая альтернатива тесту Тюринга

Можно предложить культурологическую версию классического теста Тюринга, призванного определить «разумность» машины. Схоластической абстракцией выглядит сама постановка задачи «отличить человека от машины» вне критериев истинности и ценности: критерием служит мнение проводящего тест, к тому же в специально подобранных лабораторных, а не в практических полевых условиях. При любом результате теста порождается бесконечное соревнование «щита и меча», тестируемых алгоритмов с приёмами тестирования, с учётом щепетильности или, напротив, впечатлительности специалистов, проводящих тест. Задача теста компьютерных технологий методом культурологической аксиологии ставится по-другому: выявить ценность применения, её характер и значимость (или, напротив, ущерб); а затем определяющие роли социально-культурных субъектов − пользователя, создателя и разработчика. Что ценнее и важнее в медицинском диагнозе и рекомендованной на его основе терапии: их верность или вопрос, какие технические средства были использованы для их формулировки ^[14]? Такой метод может быть применён и для оценки преимуществ и рисков использования ChatGPT российскими гражданами.

Подобный подход применяется в политической экономии для расчёта заработной платы и прибыли в отличие от стоимости вещных факторов производства, в разнице налогового обложения людей (подоходным налогом и др.) и имущества (в т.ч. производственного, включая компьютеры). Компьютерное оборудование и программное обеспечение, независимо от сложности, уровня автоматизации и «человекоподобия» (включая решения класса ChatGPT), характеризуются не как субъекты, но как технические средства нарушения информационной безопасности, совершения преступления.

Технические инструменты, расширяющие возможности человека, могут выглядеть более или менее самостоятельными в зависимости от степени автономности, уровня и масштабов автоматизации операций, выполняемых с их помощью, от отдалённости результатов во времени и пространстве. Однако люди, ответственные за противоправное нанесение ущерба другим с помощью сколько угодно высокотехнологичных средств, а также виновные в техногенных авариях, выявляются расследованием и привлекаются к ответственности без оглядки на имитационные иллюзии, порождаемые «искусственным интеллектом». В расследованиях инцидентов и преступлений, в том числе связанных с информационной безопасностью, определяются персональные роли и участие, степень вины в причинении ущерба каждого фигуранта.

ChatGPT как технология «искусственного интеллекта», с точки зрения рассматриваемого культурологического подхода, не является ни интеллектом, ни даже чатом, поскольку данный цифровой сервис лишь имитирует человеческое общение и любую личность воображаемого «собеседника» ^[15]. У пользователя ChatGPT, задающего набором текста вопросы, отсутствует собеседник, в качестве такого он воспринимает… автоматизированный сервис самообслуживания. На деле происходит общение пользователя с самим собой, «разговор» посредством текстового набора: пользователь сам же и отвечает на свои вопросы, предварительно подыскивая подходящие ответы в электронном справочнике. Генерируемые текстовые результаты, выдаваемые по запросам пользователя, не являются ответами, носят не субъектное происхождение, а исключительно техническо-вещный характер ^[16], наподобие маршрутов, автоматически прокладываемых навигационными интернет-сервисами или изготовления торговым автоматом выбранного оплаченного коктейля.

В мировой культуре создана целая галерея иронично-сатирических образов подобных решений, от машины для комбинирования книг из слов в Академии прожектёров на летающем острове Лапута Дж. Свифта до компьютерного стихотворца, «Электрибальда Трурля» Ст. Лема. В 1990-е первые подобные компьютерные программы их российские разработчики честно называли «бредогенераторами». Однако в определённых условиях и наркотический бред (например, жриц-пифий храма Аполлона в Древней Греции) может быть успешно выдан за божественное пророчество со скрытым глубоким смыслом.

Иллюзия «общения» возникает за счёт комплексного психологического фокуса: некритического восприятия названия «чат» и понятия «искусственный интеллект»; агрессивной рекламы разработчиков, транслируемой массовой прессой, а также имитационной словесной оболочки, выдающей пользователю результаты запросов от лица некоего иллюзорного «я» ChatGPT. С таким же успехом можно создать словесную или озвучиваемую сгенерированным тембром голоса «чат»-надстройку над любым автоматизированным цифровым сервисом, включая поисковые и навигационные. Психологическая иллюзия «общения» пропадает даже для самых впечатлительных и доверчивых пользователей, если выдачу результатов запросов производить не от имени «личности» ChatGPT, а сопровождать выполненным крупным ярким шрифтом уведомления о том, что это автоматизированный электронный справочный сервис со ссылкой на подробное описание принципов работы. Также уместна маркировка «18+», учитывая для несовершеннолетних необходимость сопровождения использования ChatGPT опытным взрослым, педагогом ^[17], наподобие случаев обязательных по закону упоминаний «запрещённая в РФ организация», «иноагент» и т.п.

3. Риски и меры безопасности ChatGPT для российских граждан

Содержание текстовых «ответов» по запросам пользователей, генерируемых компьютерными решениями, включая ChatGPT, определяется следующими тремя основными элементами сервиса:

1) «библиотекой», структурированной базой размеченных (формализованных по ключевым параметрам) текстов (созданных людьми или автоматически обработанных тем или иным способом), отобранных по правилам, сформулированным разработчиками;

2) параметрами «обучения», а по сути автоматизированной отработки алгоритмов поиска и отбора фрагментов, формально наиболее соответствующих запросу (критерии и степень соответствия задаются разработчиками, контролирующими результаты обработки);

3) алгоритмами компиляции отобранных фрагментов в связный текст в соответствии с правилами «естественного языка».

Первые два элемента целиком и полностью зависят от разработчиков, в том числе от их политики предпочтений и проводимой цензуры, избирательного применения критериев «языка ненависти» ^[18] и др. Технические задания утверждаются в соответствии с интересами собственника, инвесторов сервиса и государства, резидентами которого они являются, в том числе «групп влияния». Компания OpenAI, разработчик ChatGPT, базируется в США, как и один из крупнейших инвесторов и партнёров проекта, компания Microsoft. Соответственно, принципы подбора (и отсеивания) текстов для «библиотеки», а также критерии соответствия их фрагментов запросу пользователя, используемых для компиляции «ответа», должны полностью соответствовать корпоративным интересам OpenAI и законодательству США.

Крайне важно обстоятельство, что, в отличие от поисковых интернет-сервисов, «ответы» ChatGPT, точнее, результаты машинной обработки имеющейся «библиотеки» текстов на основе запроса пользователя… не содержат ссылки на источники. Отсутствуют и другие встроенные инструменты проверки («факт-чекинга»); разработчики гарантируют пользователям лишь некоторую степень правдоподобности, но не достоверность, не истинность «ответов». Если относить современные версии ChatGPT к «искусственному интеллекту», то перед нами модель генерации «фейк-новостей» и фальсификации истории ^[19] в стиле среднего журналиста «жёлтой прессы» США, сильно политически ангажированной.

С точки зрения применяемого культурологического подхода «этические» риски фальсификации авторства в результате не декларируемого использования ChatGPT журналистами, учёными, студентами и т.п. ^[20] являются завышенными. Роль ChatGPT в создании авторских текстов принципиально не отличается от любых других технических средств культуры: гусиного пера с чернилами, карандаша, перьевой или шариковой авторучки, источников рукописных и печатных, электронных документов, библиотек с каталогами, поисковых интернет-сервисов и т.д. ChatGPT представляет собой не более чем жёстко цензурируемую цифровую библиотеку с алгоритмами выдачи результатов по запросам без ссылок на источники и проверки на истинность («факт-чекинга») ^[21]. Гарантируется лишь высокая оригинальность, но не достоверность и не смысловое качество генерируемого по запросу текста. Проверка и оценка качества, а также ответственность остаются на долю автора, пользующегося сервисом, а также специалистов, оценивающих создаваемые таким образом тексты (редакторов и т.п. ^[22]). Гонорар за публикацию, созданную с использованием ChatGPT, по праву будет принадлежать человеку-автору, как и ответственность вплоть до уголовной в случае, если при этом будет нарушен закон ^[23].

Таким образом, можно признать лишь гипотетическими и завышенными риски использования ChatGPT в качестве «сверхоружия» антироссийской психологической войны, фальсификации авторства, массовой безработицы журналистов и других создателей текстов. Зато уже сейчас ChatGPT реально используют злоумышленники для маскировки вредоносных кодов, внедряемых в программные продукты ^[24]. Происходят инциденты утечки и публикации конфиденциальной информации, вводимой пользователями в запросах без учёта того, что это частный трансграничный сервис, способный публиковать вводимые сведения. Так, весной 2023 года корпорация Samsung из-за применения сотрудниками в работе ChatGPT понесла значительный ущерб от утечек, содержащих корпоративную коммерческую тайну. Одна из главных причин подобных инцидентов − недостаточная культура информационной безопасности, профессиональной и массовой пользовательской ^[25].

К рискам, усилившимся в результате антироссийских технологических санкций недружественных стран, следует отнести дискриминационные действия глобальных цифровых платформ, базирующихся в США ^[26], в отношении российских граждан и официальной прессы. В случае ухудшения международных отношений компания OpenAI может повысить антироссийскую направленность ChatGPT, повышая риски российских граждан.

Результаты

Главным результатов проведённого исследования является вывод: социально-культурные риски ChatGPT для российских пользователей можно минимизировать средствами государственного регулирования и повышения культуры информационной безопасности пользователей, а также созданием отечественных решений подобного класса. В качестве среди средства государственного регулирования предлагается обязательство маркировать интерфейс ChatGPT предупреждением, что «чат» − лишь торговая марка, а на деле автоматизированный трансграничный электронный библиотечный сервис самообслуживания пользователей, базирующийся в США и действующий в соответствии с законами этой страны. Выдаваемые по запросам тексты должны сопровождаться предупреждением о необходимости проверки из-за возможностей наличия заведомо ложных сведений, в том числе нарушающих российское законодательство, в случае распространения которых к ответственности будет привлечён пользователь. В случае невыполнения этих требований государственными уполномоченных органами могут быть предприняты дополнительные меры ограничения и блокировки массового доступа к ChatGPT на территории России и в российском сегменте интернета.

Создателям отечественных автоматизированных генераторов текстов можно рекомендовать увеличивать долю самостоятельных разработок с учётом российских традиционных ценностей и социально-культурной идентичности; ввести в выдаваемых по запросам результатах ссылки на источники, автоматизированные сервисы факт-чекинга и соответствия российскому законодательству, а также отказаться от имитации чата, создания иллюзии общения.

Эффективной мерой снижения рисков является повышение общегражданской культуры информационной безопасности посредством образовательных организаций, прессы и социальной рекламы, социальных сетей и мессенджеров − разъяснение массовой аудитории сущности и механизмов работы машинных генераторов текстов, сопутствующих угроз и рисков. Также до массовой аудитории необходимо доводить сведения о рисках получения и распространения недостоверных сведений, наступления ответственности в случаях, нарушающих российское законодательство, а также об угрозах, связанных с трансграничным характером сервиса ChatGPT и возможным применением его владельцами и разработчиками для распространения дезинформации.