Искусственный интеллект: правовые и этические аспекты

Лолаева Альбина Славовна ORCID: 0000-0002-9021-7531 кандидат юридических наук доцент, кафедра конституционного права, Федеральное государственное бюджетное образовательное учреждение высшего образования «Горский государственный аграрный университет»; доцент, кафедра гражданского права и процесса ФГБОУ ВО «Северо-Кавказский горно-металлургический институт (государственный технологический университет)» 362027, Россия, республика Северная осетия-Алания, г. Владикавказ, ул. Кирова, 74, кв. 127 Lolaeva Al'bina Slavovna PhD in Law Docent, the department of Constitutional Law, Gorsky State Agrarian University; Docent, the department of Civil Law and Produre, North Caucasus Mining and Metallurgical Institute (State Technological University) 362027, Russia, respublika Severnaya osetiya-Alaniya, g. Vladikavkaz, ul. Kirova, 74, kv. 127 mirag.8184@yandex.ru Другие публикации этого автора

Сакаева Кристина Ушангиевна старший преподаватель, кафедра гражданского права и процесса, Федеральное государственное бюджетное образовательное учреждение высшего образования Северо-Осетинский государственный университет им. К.Л. Хетагурова 362027, Россия, республика Северная осетия-Алания, г. Владикавказ, ул. Васо Абаева, 110 Sakaeva Kristina Ushangievna Senior Educator, the department of Civil Law and Procedure, North Ossetian State University after K. L. Khetagurov 362027, Russia, respublika Severnaya osetiya-Alaniya, g. Vladikavkaz, ul. Vaso Abaeva, 110 mirag.8184@yandex.ru

В психологии существует мыслительный эксперимент, известный как «проблема тележки». Он освещает ряд важных этических вопросов, имеющих прямое отношение к искусственному интеллекту. Представьте, что по рельсам мчится трамвай, к которым привязано пять человек. Вы стоите рядом с рычагом, который поворачивает переключатель, и тележка будет перенаправлена на другой путь, где к ним привязан один человек. Вы тянете за рычаг?

Однозначного ответа на вопрос нет. Более того, существует множество вариантов ситуации, когда необходимо принять такое решение. И разные социальные группы склонны давать разные ответы. Например, буддийские монахи в подавляющем большинстве готовы пожертвовать жизнью одного человека, чтобы спасти пятерых, даже в более сложной версии проблемы с тележкой. Стоит задуматься: а если пятерых вы не знаете, а тот единственный – это ваш близкий родственник?

Что касается искусственного интеллекта, такая ситуация может возникнуть, например, с беспилотными автомобилями, когда авария на дороге неизбежна. Таким образом, возникает вопрос, чьи жизни должны иметь приоритет - жизни пассажиров, пешеходов или ни одного из них. Массачусетский технологический институт (MIT) даже запустил специальный веб-сайт, посвященный проблеме, где пользователи могут попробовать различные сценарии и выбрать, что делать в конкретной ситуации.

Возникает вопрос: какие действия допустимы с юридической точки зрения? Каковы критерии того или иного выбора? И кто в конечном итоге должен нести ответственность? Проблема уже решена компаниями и регулирующими органами. Например, Mercedes объявил, что в их автомобилях приоритетом будет жизнь пассажиров. Федеральное министерство транспорта и цифровой инфраструктуры Германии незамедлительно отреагировало на это в ожидании будущих правил, заявив, что такой выбор на основе набора критериев будет незаконным и что производитель автомобилей несет ответственность за любые травмы или потерю жизни ^[1].

Примеров использования искусственного интеллекта для принятия юридически значимых решений множество. Возьмем, к примеру, систему социального кредитования Китая, которая оценивает каждого гражданина в зависимости от того, насколько он законопослушен и полезен для общества, и т.д. Те, у кого низкий рейтинг, будут подвергнуты санкциям ^[2]. И ничего не помешает китайскому правительству принять закон, который заставляет производителей беспилотных транспортных средств жертвовать жизнями граждан с более низким рейтингом в случае неизбежной аварии. Технологии распознавания лиц и доступ к соответствующим базам данных позволят определять и сравнивать рейтинги потенциальных жертв.

Юридические затруднения еще серьезнее, особенно когда речь идет о роботах. Система, которая обучена на основе данных, поступающих из внешней действительности, может функционировать своим особым образом, который ее разработчики не смогли предугадать, и прогнозируемости отводится основная роль в современных правовых подходах. Следует также подчеркнуть, что подобные системы могут функционировать автономно от своих разработчиков и операторов. Это делает вопрос установления ответственности весьма непростым и актуальным. Данные свойства формируют проблемы в сфере предсказуемости и способности функционировать автономно, при этом не подвергаясь юридической ответственностью ^{[3, с. 85]}.

Рассматриваемые проблемы могут регламентироваться разными методами – в частности, используя имеющиеся правовые нормы. К примеру, технологии, основанные на искусственном интеллекте, можно считать объектами авторских прав либо собственностью ^{[4, с. 28]}. Но здесь опять возникают трудности, тем более если учесть способность этих технологий к самостоятельному функционированию, вразрез с желаниями их владельцев, разработчиков или собственников. Принимая это во внимание, в отношении систем, в основе функционирования которых лежит искусственный интеллект, могут быть применены нормы, регламентирующие особые разновидности собственности. В частности, это положения, относящиеся к животным, так как они тоже могут совершать автономные действия. В рамках отечественного законодательства в отношении животных применяются общие правила, затрагивающие право собственности (статья 137 ГК РФ). В связи с этим ответственность предусмотрена по ст. 1064 ГК РФ, согласно которой ущерб, нанесенный личности либо имуществу человека, должен в полной мере возместить лицо, которое нанесло этот ущерб. Если следовать логике, то ущерб, нанесенный животным, должен возместить его законный владелец либо собственник.

Некоторые исследователи предлагают применять этот закон и по отношению к системам, которые применяют искусственный интеллект ^{[5, с. 167]}. По нашему мнению, такая позиция в корне не верна. Во-первых, уголовное право запрещает применять законы по аналогии. Кроме того, указанные законы были разработаны прежде всего в отношении домашних животных. Следует отметить, что в привычных условиях они не склонны к непредсказуемому и непрогнозируемому поведению. Если рассматривать более развитые системы права, то можно найти в них рекомендации к применению норм, аналогичных нормам, регламентирующим особенности содержания диких животных. Эти нормы являются более жесткими ^{[6, с. 193]}. Но в таком случае встает вопрос о том, каким образом различать названные ранее специфические характеристики искусственного интеллекта. Также следует упомянуть и о том, что чрезмерно жесткие правила могут стать существенной помехой во внедрении рассматриваемых технологий, что вызвано непредвиденными рисками ответственности, которые могут понести разработчики.

Также многие исследователи предлагают применять положения, касающиеся юридических лиц, в отношении систем искусственного интеллекта ^{[5, с. 164]}. Так как юридическое лицо представляет собой искусственно сформированный субъект закона, роботы также могут быть наделены этим статусом. В настоящее время можно привести много примеров весьма оригинальных объектов, наделенных статусом юридического лица. Это относится как к развитым, так и к развивающимся государствам. В качестве примера можно привести Новую Зеландию. Здесь в 2017 г. власти приняли весьма необычный закон. Он закреплял за рекой Уонгануи статус юридического лица ^[7]. В соответствии с принятым документом, река - это юридическое лицо. В этом статусе она наделяется всеми соответствующими обязанностями, полномочиями и правами. То есть законодатель сделал так, что река перестала быть собственностью. Таким образом, расширилось осознание того, что можно и что нельзя рассматривать как собственность. В качестве еще одного примера можно привести Индию. Здесь в 2000 г. Верховный суд закрепил за главным священным текстом Сикхов Гуру Грант Сахиб статус юридического лица ^[8].

Однако, даже если мы оставим в стороне самые невероятные случаи и рассмотрим обычные юридические лица, то можно отметить, что правовые системы предусматривают их ответственность в соответствии с гражданским и, в отдельных случаях, уголовным законодательством. Без выяснения того, имеет ли компания (или государство) автономию и свободу волю, а также могут ли они действовать сознательно, они могут быть привлечены к юридической ответственности за определенные действия. Точно так же нет необходимости выявлять намерения или свободу воли роботов, чтобы признать их ответственными за свои действия.

Однако аналогия с юридическими лицами проблематична, поскольку понятие юридического лица необходимо для эффективного отправления правосудия. Но действия юридических лиц всегда связаны с действиями одного человека или группы людей, даже если невозможно точно определить, кто они. Другими словами, юридическая ответственность компаний и иных организаций связана с действиями, совершенными их представителями или сотрудниками. Более того, юридические лица подлежат уголовной ответственности только в том случае, если установлено, что лицо, совершившее противоправное действие, действовало от имени юридического лица. Действия же систем, работающих на основе искусственного интеллекта, не обязательно будут напрямую связаны с действиями отдельного человека.

Наконец, к таким системам могут быть применены правовые положения, закрепляющие нормы об источниках повышенной опасности. Согласно п. 1 ст. 1079 ГК РФ, гражданам и организациям, функционирование которых сопряжено с повышенной степенью опасности для внешнего мира и граждан (пользование механизмами, транспортными средствами и пр.), необходимо компенсировать вред, нанесенный источниками повышенной опасности. Это правило действует в случае, если не удастся доказать, что причиной ущерба стали намерение потерпевшего или непреодолимая сила. Проблема заключается в определении того, какие системы искусственного интеллекта могут считаться источниками повышенной опасности, а какие нет. Этот вопрос аналогичен вышеупомянутому в отношении домашних и диких животных.

Многие страны сейчас активно создают правовые условия для развития технологий, использующих искусственный интеллект. Например, «Закон о содействии развитию интеллектуальных роботов» действует в Южной Корее с 2008 года ^[9]. Этот закон направлен на повышение качества жизни и развитие экономики посредством создания и продвижения стратегии устойчивого развития индустрии интеллектуальных роботов. Каждые пять лет правительство разрабатывает стратегический план для достижения этих целей.

В контексте рассматриваемой темы заслуживают особого внимания два недавних примера: Франция объявила о своих амбициях стать европейским и мировым лидером в области искусственного интеллекта; Европейский Союз, который предложил расширенные правила регулирования умных роботов.

В конце марта 2018 года Президент Франции Эммануэль Макрон представил национальную стратегию искусственного интеллекта ^[10]. В течение пяти лет Франция планирует инвестировать 1,5 миллиарда евро в поддержку исследований и инноваций в этой области. Стратегия основана на рекомендациях, сделанных в отчете, подготовленном под руководством французского математика и члена Национального собрания С. Виллани. Стратегия ориентируется на четыре конкретных сектора: здравоохранение, транспорт, окружающая среда и оборона. Цель состоит в том, чтобы создать преимущества для компаний, применяемых искусственный интеллект, потому что эти технологии важны для общественных интересов и т. д.

Есть семь ключевых предложений, одно из которых особенно интересно в рамках настоящего исследования, а именно: сделать искусственный интеллект более открытым. Разумеется, алгоритмы в большинстве своем являются собственностью и во многих случаях являются коммерческой тайной. Однако алгоритмы могут быть предвзятыми и субъективными. Например, в процессе самообучения они могут усвоить и принять стереотипы, существующие в обществе или переданные им разработчиками, и принимать решения на их основе. По этому поводу уже есть юридический прецедент. В США обвиняемый был приговорен к длительному тюремному заключению на основании информации, полученной с помощью алгоритма, прогнозирующего вероятность повторных правонарушений. Апелляционная жалоба ответчика на использование алгоритма в процессе вынесения приговора была отклонена, поскольку критерии, использованные для оценки возможности повторения правонарушений, являлись коммерческой тайной и поэтому не были представлены ^[11]. Французская стратегия предлагает разработать прозрачные алгоритмы, которые можно протестировать и проверить, определить этическую ответственность лиц, работающих с искусственным интеллектом, создать комитет по этике консультантов и т.д.

Резолюция Европейского парламента, принятая в 2017 г., закрепляющая гражданско-правовые нормы по робототехнике ^[12] - это первый документ, регулирующий искусственный интеллект. Рабочую группу по решению правовых вопросов в сфере становления и развития робототехники и искусственного интеллекта в Евросоюзе, сформировали еще в 2015 г. отметим, что Резолюция не носит обязательный характер, однако в ней содержатся рекомендации Европейской комиссии относительно действий, которые могут быть предприняты в сфере искусственного интеллекта. Это действия гражданско-правового характера и действия, затрагивающие этические моменты робототехники.

В соответствии с Резолюцией, «умный» робот – это робот, становящийся автономным за счет датчиков и (либо) обмена информацией с внешним миром. У робота есть хотя бы минимальная физическая поддержка. Он приспосабливает свои действия и поведения к внешнему миру, у него отсутствует жизнь в биологическом понимании этого слова. Документ закрепляет, что необходимо предусмотреть комплексную систему фиксации (регистрации) передовых роботов Союза, которой будет управлять специальное уполномоченное агентство Евросоюза по робототехнике и искусственному интеллекту. Указанным агентством будет осуществляться правовая, этическая и техническая оценка робототехники. В части ответственности рекомендуются два пути: или закрепление строгой ответственности без вины, или принимая во внимание управление рисками (с закреплением ответственности субъекта, который смог бы свести все риски к минимуму). В соответствии с Резолюцией, необходимо, чтобы ответственность была пропорциональной фактически заданных роботу инструкций, а также уровню его самостоятельности. В нормы ответственности можно включить систему обязательного страхования для лиц, которые пользуются роботами, а также компенсационный фонд, из которого будут выплачиваться компенсации, если риски не будут покрываться страховым полисом.

Резолюция предлагает два кодекса поведения для решения этических вопросов: Кодекс этического поведения инженеров-робототехников и Кодекс поведения комиссий по этике научных исследований. Первый кодекс предлагает четыре этических принципа:

1) Принцип благотворительности – необходим, чтобы роботы функционировали в интересах человека;

2) Принцип отсутствия умысла - концепция «не навреди», в соответствии с которой недопустимо, чтобы роботы вредили людям;

3) Автономность - способность принимать осознанное без внешнего воздействия решение;

4) Справедливость - справедливое распределение преимуществ, связанных с робототехникой, и, в частности, доступность домашних и медицинских роботов.

Таким образом, вышеизложенные примеры демонстрируют, как социальные ценности влияют на отношение к искусственному интеллекту и его правовому внедрению. Согласно п. 1 ст. 1079 ГК РФ, гражданам и организациям, функционирование которых сопряжено с повышенной степенью опасности для внешнего мира и граждан (пользование механизмами, транспортными средствами и пр.), необходимо компенсировать вред, нанесенный источниками повышенной опасности. Это правило действует в случае, если не удастся доказать, что причиной урона стали намерение потерпевшего или непреодолимая сила. Проблема состоит в том, чтобы определить, какие системы искусственного интеллекта можно считать источниками повышенной опасности. Эта проблема аналогична упомянутой выше в отношении домашних и диких животных.

В связи со спецификой искусственного интеллекта были выдвинуты предложения относительно прямой ответственности определенных систем. Исходя из этой логики, нет никаких фундаментальных причин, по которым автономные системы не должны нести юридическую ответственность за свои действия. Однако остается открытым вопрос о необходимости или желательности введения такого рода ответственности (по крайней мере, на современном этапе). Это обусловлено, среди прочего, перечисленными выше этическими проблемами. Возможно, было бы более эффективным возложить ответственность на программистов или пользователей автономных систем за действия этих систем. Но это может замедлить инновации. Вот почему нам нужно продолжать искать идеальный баланс. Для того чтобы найти этот баланс, нам необходимо решить ряд вопросов: Какие цели мы преследуем в развитии искусственного интеллекта? Чьи интересы должны преобладать? Насколько это будет эффективно? Ответы на эти вопросы помогут нам предотвратить ситуации, подобные той, которая возникла в России в 17 веке, когда животное (в частности, коза) было сослано в Сибирь за свои действия.