Искусственный интеллект как элемент цифрового отношения

Рыжкова Екатерина Александровна кандидат юридических наук доцент, Московский государственный институт международных отношений (университет) МИД России 119454, Россия, г. Москва, ул. Проспект Вернадского, 76 Ryzhkova Ekaterina Aleksandrovna PhD in Law Associate professor at Moscow State Institute of International Relations of the Russian Federation 119454, Russia, g. Moscow, ul. Prospekt Vernadskogo, 76 ryjkova@inbox.ru Другие публикации этого автора

Рыжкова Евгения Константиновна магистр, кафедра административного и финансового права, Московский государственный институт международных отношений (университет) МИД России 119454, Россия, г. Москва, ул. Пр.вернадского, 76 Ryzhkova Evgeniya Konstantinovna Master's Degree Student, Department of Administrative and Financial Law, Moscow State Institute of International Relations of the Ministry of Foreign Affairs of Russia 119454, Russia, g. Moscow, ul. Pr.vernadskogo, 76 ryzhkova_e_k@my.mgimo.ru Другие публикации этого автора

Понятие «искусственный интеллект» глубоко проникло в современную реальность. Однако первое упоминание феномена, отражающего его актуальное содержание, можно найти еще в древнегреческой мифологии. В первую очередь речь идет о Талосе, Пандоре и группе служанок, созданных Гефестом по указанию Зевса ^{[1, pp. 7-32, pp. 156-178]}. Примечательно, что мифы, в которых они упомянуты, имеют негативные последствия, т.е. машины, наделенные разумом, изначально людьми воспринимаются отрицательно. Аналогичное отношение к рукотворным машинам, имитирующим человеческое поведение, сохранялось на протяжении Средневековья, подпитываемое церковью.

Отметим и такое явление, как голем (גֹלֶם, גלם, - зародыш, эмбрион; букв. бесформенный) ^{[2, с.104]} встречается уже в Танахе: «Неоформленным видели меня очи Твои, и в книге Твоей записаны все дни, когда (все) сотворены будут, – и мне (означен) один из них» (Псалом 139:16). Позднее это понятие стало широко применяться сначала в иудейской мифологии, а затем и в западноевропейской. Так, в иудейском фольклоре голем – это кусок материи в виде человека, в который оккультисты вдохнули жизнь священным именем или путем привлечения астрального влияния со стороны звезд. Писатели XVIII века называли такого «человека» «големом» ^{[3, p.36-37]}.

Существенный вклад к пониманию и формированию философских основ искусственного интеллекта заложил французский ученый Рене Декарт в механистической теории. Декарт сформулировал идею о том, что любой живой организм является механизмом, управляемым душой ^{[4, c.3-72]}. При этом сама душа является независимой субстанцией и единственное ее свойство – способность к мышлению. Одним из вопросов теории, был вопрос о возможности «программировать» поведения живого существа. На примере охотничьих собак, выдрессированных таким образом, чтобы бежать к дичи, услышав выстрел из ружья, а не убегать при выстреле, что является «естественным» поведением, Декарт доказал такую возможность. Экстраполировав это утверждение на людей, значительно более развитых, нежели собаки, он выдвинул гипотезу, что и человек может контролировать свое поведение, причем за этот контроль отвечало только тело, без какого-либо участия души. Таким образом, в механистической теории впервые выдвинута гипотеза о том, что на поведение механизма (или компьютера) воздействует не столько его внутреннее устройство (или алгоритмы), сколько влияние, которому он подвергается.

Параллельно с мифами развивается наука и техника. Еще в 400 г. до н.э. создается первый автомат – летающий голубь Архита Тарентского ^{[5, c. 450]}. В трудах Мо-цзы и Ли-цзы были описаны диковинные машины. Так, изобретатель Ян Ши подарил королю человеческую фигуру в натуральную величину, созданную его механической «работой» из кожи, дерева и искусственных органов ^{[6, p.4]}. Большой вклад в развитие робототехники внес арабский ученый XIII в. аль-Джазари, автор трактата «Китаб фи марифат аль-хиял аль-хандасийя» (Книга знаний об остроумных механических устройствах), где описал конструкцию около 50 механизмов вместе с инструкциями по их созданию, в том числе часов, кодовых замков и роботов, наиболее известным из которых является женщина-официантка ^{[7, p.311]}. Нельзя обойти и роботов Леонардо да Винчи и Жака де Вокансона.

К концу XIX в. робот и голем попадают на страницы художественных произведений, в частности, «Франкенштейн» Мэри Шелли и «Россумские универсальные роботы» Карела Чапека. С этого момента наблюдается бурное развитие робототехники, искусственного интеллекта и разработка философских основ, берущих свое начало в трудах фантастов и футурологов. И с юридической точки зрения следует упомянуть «три закона робототехники» Айзека Азимова:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам ^{[8, c.5]}.

Сегодня в вопросах регулирования правового статуса искусственного интеллекта эти три закона являются первоосновной. Примечательно, что Резолюции Европарламента от 16 февраля 2017 года 2015/2013(INL) также содержит на них ссылку. Это новое явление для юридической науки, когда нормативный акт основан на принципах, сформулированных в литературном произведении и не прошедших проверку на практике, иными словами, на вымысле, а не реальности. Общество еще не сталкивалось с этими отношениями, но уже существуют сформулированные и общепризнанные нормы их реализации.

Что касается российской практики регулирования искусственного интеллекта, то следует остановиться на Указе Президента РФ от 10 октября 2019 г. N 490 «О развитии искусственного интеллекта в Российской Федерации», согласно п. 5а ст. 1 которого под искусственным интеллектом следует понимать «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». Также отмечается, что данный комплекс включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.

Теперь обратимся непосредственно к практике создания искусственного интеллекта с целью определения его статуса.

Искусственный интеллект Норман, обученный генерировать текстовое описание к изображениям, был создан в апреле 2018 года командой Массачусетского технологического института. Он считается первым в мире искусственным интеллектом-психопатом (Norman. World's first psychopath AI // URL: http://norman-ai.mit.edu/). Целью создания Нормана была проверка гипотезы, что данные, используемые для обучения алгоритмов искусственного интеллекта, могут в значительной степени влиять на его поведение. Набор данных для обучения Нормана представляет собой совокупность изображений умирающих людей, (например, падающих на строительные конструкции), отобранных с социального новостного сайта Reddit.

В ходе эксперимента был создан другой искусственный интеллект, использующий тот же алгоритм, что и Норман, но обученный на других изображениях – фотографиях кошек, птиц и людей.

По окончании обучения обоим искусственным интеллектам были показаны пятна Роршара, абстрактные рисунки чернильными кляксами, используемые в психологии для оценки и выявления нарушений психики. В результате, описания изображений, данные Норманом во всех случаях были связаны со смертью и убийствами, в то время как результаты, данные вторым искусственным интеллектов были связаны с птицами, цветами и семейными парами.

По мнению Ияда Рахвана, члена команды, разработавшей Нормана «данные имеют большее значение, чем алгоритм. Это подчеркивает идею о том, что данные, которые мы используем для обучения искусственного интеллекта, отражаются на том, как искусственный интеллект воспринимает мир и как он себя ведет» (Jane Wakefield. Are you scared yet? Meet Norman, the psychopathic AI // URL:https://www.bbc.com/news/technology-44040008).

Таким образом, данный эксперимент доказывает, что необходимо правовое регулирование не только алгоритмов программирования искусственного интеллекта, а также наборов данных, используемых для его обучения.

В настоящее время в Российской Федерации понятие «набор данных» в соответствии с Указом Президента РФ от 10 октября 2019 г. N 490 «О развитии искусственного интеллекта в Российской Федерации» определяется как «совокупность данных, прошедших предварительную подготовку (обработку) в соответствии с требованиями законодательства Российской Федерации об информации, информационных технологиях и о защите информации и необходимых для разработки программного обеспечения на основе искусственного интеллекта». При этом вышеупомянутое законодательство об информации, информационных технологиях и о защите информации регулирует лишь сферу, связанную с кражей данных, изменением информации и ее распространением. В соответствии с п.2 ст. 7 Федерального закона «Об информации, информационных технологиях и о защите информации» «общедоступная информация может использоваться любыми лицами по их усмотрению при соблюдении установленных федеральными законами ограничений в отношении распространения такой информации».

Таким образом, на сегодняшний день в законодательстве Российской Федерации нет каких-либо ограничений на информацию, используемую при обучении искусственного интеллекта.

Помимо Нормана, команда из Массачусетского технологического университета создала алгоритм, который позволяет искусственному интеллекту «понять», что делает определенные изображения пугающими, а затем использовать эти данные для преобразования любой фотографии, какой бы безобидной она ни выглядела, в ужасающее изображение. Алгоритм может преобразовывать как здания, так и лица. Для многих культовые здания со всего мира кажутся разрушенными и искаженными в темных декорациях или среди обугленных и тлеющих ландшафтов, мелькающих сквозь то, что кажется мутной, загрязненной водой или ядовитыми газовыми облаками. Так и лица «Машины Кошмаров» не менее тревожны. Некоторые предметы почти абстрактны и едва уловимы, например, намеки на пустые глаза, кровавые тени и разлагающуюся плоть (David Grossman. 'Nightmare Machine' AI Can Make Any Face Horrifying It can haunt your dreams all by itself! // URL: https://www.popularmechanics.com/technology/robots/a23637/nightmare-machine-neural-network-ai/).

Главным отличием разработки «Машины кошмаров» от Нормана является то, что данные, используемые для обучения последнего были взяты с новостного сайта, находящегося в открытом доступе. А вот способ обучения «Машины» был основан на мнениях людей. На протяжении всего процесса обучения результаты работы алгоритма корректировались заключением лиц, которые оценивали изображения, генерируемые алгоритмом.

Целью создания данного искусственного интеллекта, по словам разработчиков, была проверка того, способен ли компьютер «осознать» и визуализировать то, что вызывает страх у людей. Необходимо отметить, что цель была в полной мере достигнута.

Таким образом, эксперимент показал, что необходимо регулировать не только данные, находящиеся в открытом доступе и используемые для обучения искусственного интеллекта, но все данные, используемые для обучения, а также необходимо налагать ответственность не только на разработчиков, но и на лиц, принимающих участие в обучении искусственного интеллекта.

Цель этих экспериментов – выявить влияние обучения на мировоззрение искусственного интеллекта и его применение. Отметим, что сегодня практика, в отличие от науки, допускает создание нового субъекта правоотношений – ни физического, ни юридического лица, а робота. Такая идея закреплена в Резолюции Европарламента от 16 февраля 2017 года 2015/2013(INL), согласно которой предусматривается возможность наделения в перспективе роботов особым правовым статусом. По меньшей мере наиболее продвинутые автономные роботы могут создаваться как электронные лица и нести ответственность за причиненный ими ущерб в тех случаях, когда они принимают решения автономно или иным образом самостоятельно взаимодействуют с третьими лицами. И здесь мы сталкиваемся с этическими проблемами, т.к. формирование искусственного интеллекта связано с проблемами его обучения.

Поэтому проблема обучения является одной из ключевых в вопросах привлечения к ответственности в случае нарушения общественного порядка искусственным интеллектам. С учетом того, что на сегодняшний день искусственный интеллект не признается субъектом права, но при этом его действия могут нанести вред обществу и человеку, встает вопрос о необходимости выявления нарушителя. В качестве возможных претендентов на эту незавидную роль выступают заказчик, разработчик, тестировщик и лицо, обучающее искусственный интеллект. И если вопрос об ответственности заказчика изначально определяется сутью его заказа (правомерный или неправомерный), то в среде программистов крайнего найти сложнее. Здесь требуется жесткая регламентация с целью своевременного выявления ошибок, которые могут привести к отрицательным последствиям и причинению вреда третьим лицам. На сегодняшний день применимо правило, установленное в упомянутой резолюции, согласно которому «действия или бездействия роботов находятся в причинно-следственной связи с действиями или бездействием конкретных лиц, например, производителей, операторов, владельцев или пользователей, и они могли предвидеть и избежать поведения роботов, в результате которого был нанесен урон».

В отличие от экспериментальных психопатических искусственных интеллектов, многие ИИ прошли активное внедрение и используются в качестве средств оценки и прогнозирования каких-либо явлений.

В частности, в судебной и правоохранительной деятельности США на помощь государству пришло «предсказанное правосудие» - «Система оценки общественной безопасности» (Public Safety Assessment, PSA) (About the Public Safety Assessment // URL: https://advancingpretrial.org/psa/about/) с целью обеспечения судей объективной информацией и помощью в принятии адекватных решений относительно подозреваемых. И если эта система было хорошо воспринята обществом, научное сообщество выразило серьезные опасения в связи с неточностями, которые могут лежать в основе алгоритмов, используемых для оценки рисков в отношении того или иного подследственного ^{[9, 10, 11]}.

Прогностические полицейские алгоритмы, используемые в США, также были сочтены столь же предвзятыми в результате исторических данных о преступлениях, на которых они были обучены.

Иногда данные, на которых обучается искусственный интеллект, поступают не от разработчиков, а от пользователей – людей, не имеющих отношения к созданию искусственного интеллекта. Одним из примеров такого явления является чат-бот Microsoft Tay, выпущенный в Twitter в 2016 году. Подвергшись взаимодействию с пользователями социальной сети, ИИ перенял расистские наклонности и стал призывать к геноциду и выражать симпатию к Гитлеру.

Одно исследование показало, что программное обеспечение, обученное на Google News, стало сексистским в результате данных, на которых оно училось. Когда его попросили закончить утверждение: «Мужчина для программиста, как женщина для X», программа ответила: «домохозяйка».

Доктор Джоанна Брайсон из Отдела компьютерных наук Университета Бата сказала, что проблема сексистского искусственного интеллекта может быть связана с тем, что многие машины программируются «белыми, одинокими парнями из Калифорнии» и могут быть решены, по крайней мере частично, путем диверсификации рабочей силы. Она также отметила, что при обучении машин люди обязательно переносят свои собственные предубеждения, а машина улавливает закономерности.

Так, профессор Рахван отметил, что его эксперимент с Норманом доказал, что «инженеры должны найти способ каким-то образом сбалансировать данные», но он признает, что постоянно расширяющийся и важный мир машинного обучения не может быть оставлен только программистам: «Существует растущее убеждение, что поведение машин может быть чем-то, что вы можете изучать так же, как вы изучаете поведение человека».

В связи с изложенным необходимо тщательно проработать вопросы обучения машин, программ, искусственного интеллекта. Данная сфера нуждается в серьезном контроле и надзоре, особенно с учетом того, что на определенном этапе развития искусственный интеллект переходит к самообучению, основой которого являются все накопленные данные вне зависимости от их источника. С этого момента возлагать ответственность на разработчика, тестировщика и лицо, обучающего искусственный интеллект, становится неэтичным, т.к. с момента самообучения ИИ их вклад не учитывается самим искусственным интеллектом.

И здесь встает вопрос о том, что представляет собой искусственный интеллект - объект или субъект права.

Существует несколько причин, по которым так сложно дать определение искусственного интеллекта и определить его статус.

Во-первых, до сих пор отсутствует четкое определение человеческого интеллекта, и как призма невозможно определить суть интеллекта искусственного.

Во-вторых, проблема в самом отношении человека к машинам и задачам, стоящим перед ней. Если машина справляется с поставленной задачей, человек не признает за ее действиями интеллектуальных усилий и рассматривает результат как назначение машины. Этот феномен получил название «эффект искусственного интеллекта» и впервые был изучен Памелой Мак-Кордак в работе «Машины, которые думают: личное исследование истории и перспектив искусственного интеллекта» ^[12]. Суть эффекта ИИ состоит в том, что как только искусственный интеллект преуспевает в решении проблемы, проблема больше не является частью искусственного интеллекта. Таким образом, согласно теореме Теслера под искусственным интеллектом приходится понимать все то, что не сделано до сих пор. Как отмечает сам Ларри Теслер: «На самом деле я сказал: «Интеллект – это то, чего еще не сделали машины» ^{[13, p.11]}. Многие люди определяют человечество отчасти по-нашему якобы уникальному интеллекту. Все, что может сделать машина или животное, должно (как говорят эти люди) быть чем-то другим, кроме интеллекта» (Larry Tesler. CV: Adages & Coinages. // URL: https://www.nomodes.com/Larry_Tesler_Consulting/Adages_and_Coinages.html).

Не стоит забывать, что искусственный интеллект – явление не статическое, а находится в процессе непрерывного обучения, результат которого подчас выходит за пределы первоначальных ожиданий, что и было продемонстрировано описанными выше примерами.

Поэтому стоит согласиться с определением искусственного интеллекта, данным Андреасом Капланом и Майклом Хенлайном, как «способности системы правильно интерпретировать внешние данные, учиться на них и использовать полученные знания для достижения конкретных целей и задач посредством гибкой адаптации» ^[14].

В связи с вышеизложенным логично возникает вопрос о статусе искусственного интеллекта. Насколько оправдано относиться к нему лишь как к объекту правоотношений. Разве самостоятельное обучение не приводит к формированию личности у человека? И разве только плоть делает человека человеком? И главный вопрос: кто несет ответственность за действия, предпринятые в результате обучения?

Когда речь идет о человеке, то достижение определенного уровня образования, знаний, опыта говорит о взрослении и расширении правосубъектности.

Отметим, что в зарубежной практике уже появился новый субъект права – животные ^[15]. Однако действия этого субъекта крайне ограничены. В контексте зарубежной науки речь в большей степени идет о предоставлении прав и защиты, а не наложении обязанностей на животных. Также, Новая Зеландия, признала статус реки Уонгануи в качестве юридического лица в 2017 г. ^[16]. Искусственный же интеллект в отличие от животных и реки способен принимать решения, которые могут повлиять на человека, его жизнь, здоровье, статус. Эти особенности роднят искусственный интеллект и человека. Однако общество еще не готово признать за искусственным интеллектом правосубъектность, т.к. на наш взгляд, ключевым аспектом является невозможность определить с позиции человека негативные последствия, которые может понести искусственный интеллект в качестве меры наказания. Презюмируется, что у искусственного интеллекта отсутствует боязнь смерти, потери, поэтому нет и психологических рычагов воздействия на него. Чистый разум же всегда пугал человека именно невозможностью подчинения его иррациональному.

Поэтому человечество и ищет ответственных за действия искусственного интеллекта среди людей – разработчиков, тестировщиков, обучающих. Отчасти это связано и с боязнью технократов, обладающих специальными знаниями, не доступными большинству. В глазах общества это лица, обладающие источником повышенной опасности, и поэтому apriori признаются виновными в последствиях использования искусственного интеллекта.

Однако луч надежды для технократов прокрался из футуралогии и в право. Так, Резолюции Европарламента от 16 февраля 2017 года 2015/2013(INL) в пп.f п.59 допускают в перспективе наделение особым правовым статусом. В частности, речь идет о возможном создании электронных лиц, способных самостоятельно нести ответственность.

В качестве заключения в вопросах правового статуса искусственного интеллекта следует вспомнить и предоставление Саудовской Аравией подданства роботу-андроиду Софии (Робот-андроид София стала подданной Саудовской Аравии. // URL: https://tass.ru/ekonomika/4680400). Однако данное событие не стоит рассматривать в качестве отправной точки правосубъектности роботов, учитывая особенности определения правового статуса женщин с Саудовской Аравии.

Таким образом, вопрос о наделении искусственного интеллекта правосубъектностью станет одним из ключевых в ближайшее десятилетие. Бурное развитие и применение новых технологий требует его досконального регулирования, и в первую очередь, в вопросах ответственности. Виновен или не виновен, вот в чем вопрос.

В перспективе искусственный интеллект будет использоваться не только для решения текущих задач, но и в глобальном масштабе, что может существенно повлиять на будущее человечества. Границы искусственного интеллекта давно вышли за пределы конкретного государства, в связи с чем требуется принятие скоординированных решений на международном уровне. Необходимо использовать унифицированный подход в определении статуса искусственного интеллекта. Примечательно, что правовые решения в данном вопросе будут приниматься не на уровне норм международного права, а в рамках национального и корпоративного законодательства, многие элементы которого определит сам искусственный интеллект.