|
DOI: 10.25136/2409-7136.2018.4.25647
Дата направления статьи в редакцию:
06-03-2018
Дата публикации:
23-04-2018
Аннотация:
Предметом исследования является правовое исследование правосубъектности нового вида лица - "электронного лица". Приведены имеющиеся в настоящее время дефиниции электронного лица, включая позиции зарубежных ученых. Показана важность развития российского права по исследованию проблематики "электронного лица" искусственного интеллекта. Проведен анализ нормативного закрепления Комиссии по гражданско-правовому регулированию в сфере роботетхники Европейского Парламента. Содействуя инструментами нормативно-правового и нормативного технического регулирования развитию человеческой цивилизации, стремясь поставить оснащенную искусственным интеллектом робототехнику, действительно, на службу человечеству, нельзя забывать и о рисках. Метод материалистической диалектики, системно-структурный, функциональный, сравнительный, формально-логический, сравнительно-правовой, технико-юридический, логический метод. Повышение степени автономности роботов искусственным интеллектом неминуемо потребует пересмотра целого спектра референтных правовых режимов и даже референтных отраслей и институтов права (режим правовой ответственности, режим налогообложения, регулирование подконтрольности и подотчётности, регулирование прав интеллектуальной собственности, режим «электронной коммерции» (в части функционирования т.н. торговых ботов), «режим охраны электронное личности» и мн. др.).
Ключевые слова:
искусственный интеллект, теория права, правосубъектность, электронное лицо, информационное право, информационные технологии, послание, прогресс, Президент Российской Федерации, законодательство
Abstract: The subject of the research is the analysis of the legal personality of a new entity, electronic person. Morkhat provides current definitions of electronic person including those offered by the foreign scientists. The author of the article underlines the importance of developing the Russian law that would regulate the electronic person (artificial intellect) issue. The author analyzes the legal consolidation of The Commission of the European Parliament for Civil Regulation in the Field of Robotechnics. Indeed, we should not forget about the risks when we encourage the development of the human civilization through the means of technical regulation and try to create robots with artificial intellect that would serve the humanity. In this research Morkhat has used the method of materialist dialectic, structured system analysis, functional analysis, comparison, formal logic, comparative law, technical law and logical method. According to theauthor, growing independence of robots with artificial intellect would require to review a whole range of reference legal structures and even reference branches or institutions of law (legal responsibility regime, taxation regime, regulation of accountability and reporting, regulation of intellecltual property rights, e-commerce regime or so called trade bots, electronic person protection regime, etc.).
Keywords: Artificial Intelligence, theory of law, legal personality, electronic person, information law, Information Technology, message, progress, President of Russian Federation, legislation
Введение
Представьте себе, пишет Лоуренс Соулум, что искусственный интеллект заявляет, что он – это личность, и что он, следовательно, претендует на определённые конституционные права[1].
Недавнее, столь широко освещённое в СМИ, предоставление подданства Королевства Саудовской Аравии человекоподобному роботу Софии (производства компании Hanson Robotics) (об этом было объявлено на конференции Future Investment Initiative в г. Эр-Рияде)[2] придало дополнительный импульс и без того ведущейся на этот счёт научной дискуссии.
Должен ли, задаётся вопросом Лоуренс Соулум, закон давать конституционные (или какие-то иные) права искусственному интеллекту, которые обладают интеллектуальными способностями, схожими с человеческими? Ответ зависит от природы конкретного конституционного права человека и от правопонимания основания этого права. Взять, к примеру, свободу слова. Если мы предположим, что такой ответ основывается на утилитарной версии теории рынка идей, в таком случае предоставление искусственному интеллекту свободы слова оказывается весьма простым (по крайней мере, в теории) и может обладать благоприятными последствиями для людей, так как это поможет дополнительно обеспечить производство полезной информации. Однако что если свобода слова основывается на защите автономности личности? В таком случае, сначала придётся ответить на вопрос, являются ли юниты искусственного интеллекта автономными[3].
Достижение автономии – это ключевая перспектива развития технологий искусственного интеллекта[4].
Согласно интерпретации Комиссии по гражданско-правовому регулированию в сфере робототехники Европейского Парламента, автономия робота может быть определена как способность принимать решения и реализовывать эти решения во внешнем мире, независимо от внешнего контроля или определяющего влияния. Такая автономия юнита искусственного интеллекта носит чисто технологический характер, и степень такой автономности зависит от того, насколько усложнёнными являются интерреляции юнита искусственного интеллекта с окружающей средой[5]. От себя добавим, не менее важно то, с какой мерой субстантивности (то есть обладания самостоятельным, независимым существованием), самоосознания и самореферентности (в принятии решений) осуществляет эти интерреляции «разумная машина».
Если искусственный интеллект будет полностью автономным, то, должно быть, он будет осознавать свои действия. Если искусственный интеллект осознаёт свои действия, то он должен нести за них ответственность. Де-юре автономность искусственного интеллекта означает, что искусственный интеллект обладает правами и соответствующими обязанностями. Права и обязанности атрибутируются субъектам права, следовательно, если возобладает точка зрения о том, что искусственный интеллект должен и будет нести ответственность за свои действия, его придётся сделать субъектом права[6].
Возникает вопрос, как именно это сделать, каким образом?
В 2016 году активно обсуждалось создание первой децентрализованной автономной организации (Decentralized Autonomous Organizations, DAO), как отмечает А. Вашкевич, – по сути, электронного юрлица. Это была одна из первых компаний, которая управляется при помощи «самоисполняемых умных контрактов» (smart contracts), будучи лишена традиционно имеющих место органов управления (правления, совета директоров, генерального директора и т.п.). Интерес к поводу был обусловлен также и тем, что в период с 30.04.2016 по 18.05.2016 названная организация сумела привлечь инвестиции на сумму более чем в 143 млн. долларов США[7].
По словам О.А. Ястребова, в современных условиях одним из важнейших направлений развития российского права в части исследуемой тематики являются теоретические исследования проблематики «электронного лица» искусственного интеллекта[8].
Впрочем, эту позицию разделяют не все авторы.
Согласно позиции Н. Аверченко, робот – это всего лишь «особая вещь, требующая особого рода регулирования», «вещь, источник повышенной опасности с определенной встроенной автономностью»[9].
Как обоснованно указывает Е. Красилова, логика здесь проста: если юниты искусственного интеллекта (передвигающиеся в пространстве, способные коммуницировать с ним) созданы по образу и подобию человека, то у них должно быть и подобие прав и обязанностей; поскольку таковые тесно взаимодействуют с людьми, необходимо определить их юридический статус и роль в обществе[10].
В своем Послании от 01.03.2018 Федеральному Собранию Российской Федерации Президент Российской Федерации В.В. Путин поставил задачи при развитии инфраструктуры «учитывать глобальные технологические изменения, то есть уже сегодня закладывать в проекты конкретные решения, которые позволят… с помощью искусственного интеллекта организовать логистику…, создать передовую законодательную базу, снять все барьеры для разработки и широкого применения робототехники, искусственного интеллекта. Причём такая нормативная база должна постоянно обновляться, строиться на гибком подходе к каждой сфере и технологии»[11].
Детерминанты необходимости урегулирования правового положения и, более широко, правосубъектности юнита искусственного интеллекта
Одним из предлагаемых решений является введение специфической правосубъектности «электронного лица».
По словам О.А. Ястребова, в современных условиях одним из важнейших направлений развития российского права в части исследуемой тематики являются теоретические исследования проблематики «электронного лица» искусственного интеллекта[12].
Как обоснованно указывает Е. Красилова, логика здесь проста: если юниты искусственного интеллекта (передвигающиеся в пространстве, способные коммуницировать с ним) созданы по образу и подобию человека, то у них должно быть и подобие прав и обязанностей; поскольку таковые тесно взаимодействуют с людьми, необходимо определить их юридический статус и роль в обществе[13].
Комиссия по гражданско-правовому регулированию в сфере робототехники Европейского Парламента 31.05.2016 предложила Еврокомиссии законодательно ввести новую правосубъектность «электронных лиц» для роботов с искусственным интеллектом, наделив таковые правами и обязанностями[14].
Указанный документ вызвал целую волну обсуждений. И далеко не все эксперты приветствовали появление этого проекта. Так, по мнению управляющего директора Ассоциации немецких машиностроителей (VDMA) Патрика Швартцкопфа, правовые предпосылки для присвоения роботам с искусственным интеллектом правосубъектности «электронных лиц», в действительности, появятся не ранее, чем лет через 10, а то и через 50. И избыточная поспешность здесь объективно может нанести вред – «забюрократизирует и задержит развитие робототехники»[15].
Полагаем, что превентивное урегулирование комплекса вопросов – уже сегодня более чем актуальных (использование искусственного интеллекта в военных целях, в государственном управлении, в здравоохранении, в системах обеспечения безопасности опасных технических объектов и т.д.) – всё-таки было бы разумным и обоснованным, своевременным уже сегодня.
Содействуя инструментами нормативно-правового и нормативного технического регулирования научно-технологическому развитию человеческой цивилизации, стремясь поставить оснащённую искусственным интеллектом робототехнику, действительно, на службу человечеству, нельзя забывать и о рисках.
По мнению Комиссии по гражданско-правовому регулированию в сфере робототехники Европейского Парламента, несмотря на то что технологии искусственного интеллекта способны принести пользу эффективности и экономии не только в сфере производства и торговли, но и в таких областях, как транспорт, медицинское обслуживание, образование и сельское хозяйство, позволяя избегать подвергания людей опасным факторам (таким, например, с какими люди сталкиваются при очистке токсично загрязнённых объектов), а в более долгосрочной перспективе искусственный интеллект способен обеспечить человечеству неограниченное процветание, существует вероятность того, что в течение нескольких десятилетий искусственный интеллект сможет настолько превзойти интеллектуальные способности человека таким образом, что, если человечество не будет подготовлено, такой искусственный интеллект сумеет бросить вызов способностям человечества контролировать свое собственное творение и, следовательно, возможно, так же вызов способностям человечества руководить своей судьбой и обеспечивать выживание своего вида[16].
В этих условиях насущно необходимо урегулировать правовое положение юнитов искусственного интеллекта, так или иначе, тем или иным образом.
Современным юнитам искусственного интеллекта подтверждаемо[17] присуща фундаментальная черта: они – всего-навсего «зеркало». Поэтому очень многое зависит от того, что именно заложили в юнит искусственного интеллекта его разработчики и создатели, что заложено в него программировавшими его лицами. И это дополнительно обуславливает необходимость чёткой нормативной регламентации правового положения юнитов искусственного интеллекта и ответственности за их действия или бездействия.
Но ещё опаснее будет ситуация, когда технологии искусственного интеллекта наберут и переберут критический уровень самосознания, когнитивной автономности и самореферентности.
Как обоснованно обращается внимание читателей в одной редакционной статье, «когда появится следующая мощная система с совершенно новыми возможностями, прежде всего, она посмотрит на людей. И если люди, или же просто группа пранкеров или интернет-троллей, начнёт ради смеха кричать и писать ей, что “люди ужасны, лол”, вот именно лексему “лол” искусственный интеллект может и не понять, а шутки – не оценить»[18].
Роботы с искусственным интеллектом уже сегодня активно задействуются в юридической практике.
И, как отмечает Комиссия по гражданско-правовому регулированию в сфере робототехники Европейского Парламента, недостатки нынешней правовой базы очевидны и по иным позициям, в частности – в области договорной ответственности, поскольку поведение юнита искусственного интеллекта потенциально имеет последствия для гражданского права, юниты искусственного интеллекта уже ведут переговоры относительно договорных условий, заключают контракты и решают, как их реализовывать – всё это делает традиционно применявшиеся правила (нормы права) неприменимыми или малоприменимыми, что обусловливает необходимость в новых нормах права в этой сфере[19].
Комиссия по гражданско-правовому регулированию в сфере робототехники Европейского Парламента акцентирует определённую степень непредсказуемости в поведении юнита искусственного интеллекта[20], который в некоторых условиях может повести себя совершенно непредсказуемо, и в некоторых ситуациях отнюдь не в интересах человека.
На сегодня нет внятных законодательно урегулированных (и даже просто научно обоснованных, на уровне правопонимания) ответов на вопрос о том, кто, на каких основаниях, при каких условиях, в какой мере и в каком порядке должен нести ответственность за ущерб (и возмещать ущерб), причинённый или спровоцированный:
– ошибкой (невиновным деянием), совершённой юнитом искусственного интеллекта, или иным дефектом его работы;
– производственными дефектами юнита искусственного интеллекта или его актуаторов (физически осязаемых исполнительных механизмов):
– взломом и/или несанкционированным перепрограммированием программной составляющей юнита искусственного интеллекта;
– поведением юнита искусственного интеллекта, аналогичным человеческому сумасшествию.
Таким образом, применительно к юнитам искусственного интеллекта вопросов, требующих незамедлительного урегулирования, объективно очень много.
Какое бы решение ни было в конечном счёте принято по вопросу о правовом положении юнитов искусственного интеллекта, Комиссия по гражданско-правовому регулированию в сфере робототехники Европейского Парламента, надо признать, совершенно права в своём суждении о том, что автономия юнитов искусственного интеллекта ставит вопрос об их природе и их правовом положении в свете существующих юридических категорий – следует ли рассматривать юниты искусственного интеллекта как физические лица, как форма юридических лиц, как аналог животных или иных объектов живой природы, или же нам следует сконструировать новую категорию – новую правосубъектность, с её собственными особенностями и со специфическими правовыми последствиями в отношении атрибутирования прав и обязанностей, включая юридическую ответственность за причинённый ущерб[21]. Этот вопрос подлежит разрешению, причём в самое ближайшее время.
Понятие «электронного лица»
Дженнифер Робертсон отмечает, что в западной научной литературе, рассматривающей вопросы прав роботов, как правило, противопоставляются живой человек и неживой негуманоидный субъект и предлагаются следующие подходы:
– проведение аналогии между правовым статусом животного и потенциальным правовым статусом робота;
– проведение аналогии между правовым статусом человека с ограниченными возможностями и потенциальным правовым статусом робота;
– наделение робота новым видом правового статуса. который не соответствует правовому статусу ни человека, ни вещи[22].
Если юридическое лицо, действительно, представляет собой в определённой степени юридическую фикцию[23], то вполне обоснованно, пишет А.В. Нестеров, было бы рассматривать юнита с искусственным интеллектом как «очередную юридическую фикцию в виде некоторой организационной конструкции с искусственным интеллектом»[24].
Как объясняет Буркхард Шафер, профессор вычислительной теории права в Университете Эдинбурга, что использование лексической конструкции «электронное лицо» изначально было несколько некорректным, способным ввести в заблуждение, но юристы понимают правосубъектность иначе. Подобного рода юридические термины вводятся для удобства. Мы наделяем компании статусом “юридическое лицо” не потому, что они заслужили этого, а просто для целей упрощения[25].
По словам Мади Дельву, понятие «электронное лицо» сродни «юридическому лицу» – это юридическая формулировка, а не биоэтическая или философская констатация[26].
Конкретное содержание понятия «электронное лицо», отражающего специфическую форму правосубъектности юнитов искусственного интеллекта, находится сегодня на стадии научно-юридической проработки и обсуждения.
Изменения в законодательстве, которое повлечёт введение правосубъектности «электронного лица»
В любом случае, повышение степени автономности роботов искусственным интеллектом неминуемо потребует пересмотра целого спектра референтных правовых режимов и даже референтных отраслей и институтов права (режим правовой ответственности, режим налогообложения, регулирование подконтрольности и подотчётности, регулирование прав интеллектуальной собственности, режим «электронной коммерции» (в части функционирования т.н. торговых ботов), «режим охраны электронное личности» и мн. др.).
По словам О.А. Ястребова, законодательное закрепление правового режима функционирования и применения юнитов искусственного интеллекта должно включать не только гражданско-правовые, но и публично-правовые нормы; развитие положений об искусственном интеллекте в рамках существующих отраслей публичного права и законодательства обусловит необходимость совершенствования, прежде всего, административного права, транспортного права и внесения соответствующих изменений в Кодекс Российской Федерации об административных правонарушениях[27].
При этом, по мнению Комиссии по гражданско-правовому регулированию в сфере робототехники Европейского Парламента, до тех пор, пока роботы и искусственным интеллектом не станут обладать самосознанием, нормативное правовое регулирование должно рассматриваться как направленное своим регулирующим воздействием на проектировщиков, производителей и операторов робототехники, «поскольку эти нормы права не могут быть преобразованы в машинный код»[28].
Библиография
1. Galasso A., Hong L. Punishing Robots: Issues in the Economics of Tort Liability and Innovation in Artificial Intelligence [Наказывая роботов: проблемы экономики гражданско-правовой ответственности и инновации в сфере искусственного интеллекта] // . – 2018. – 10 p. – P. 5.
2. Draft Report with recommendations to the Commission on Civil Law Rules on Robotics [Проект Отчёта с рекомендациями Комиссии по гражданско-правовому регулированию в сфере робототехники] (2015/2103(INL)), 31.05.2016 / Committee on Legal Affairs / European Parliament; Rapporteur: Mady Delvaux // . – 22 p. – P. 5.
3. Čerka P., Grigienė J., Sirbikytė G. Liability for damages caused by artificial intelligence [Ответственность за ущерб, вызванный искусственным интеллектом] // Computer Law & Security Review. – 2015, June. – Vol. 31. – Issue 3. – P. 376–389. – P. 383.
4. Robertson J. Human rights vs. robot rights: Forecasts from Japan [Права человека vs. права роботов: прогнозы из Японии] // Critical Asian Studies. – 2014. – Vol. 46. – № 4. – P. 571–598. – P. 593. .
5. Solum L.B. Legal Personhood for Artificial Intelligences [Правосубъектность для искусственного интеллекта] // North Carolina Law Review. – 1992. – Vol. 70. –№ 4. – P. 1231–1287. – P. 1257. .
6. Vincent J. Giving robots ‘personhood’ is actually about making corporations accountable [Предоставление роботам правосубъектности на самом деле заключается в том, чтобы привлечь к ответственности корпорации] // . – 19.01.2017.
7. Вашкевич А. Юридические электронные лица //. – 22.05.2016.
8. Красилова Е. «Они» уже на подходе. В Европе могут появиться «электронные лица» // . – 26.06.2016.
9. Макаров О. ЕС предложили наделить роботов статусом «электронных лиц» // . – 22.06.2016.
10. Послание Президента Российской Федерации В.В. Путина от 01.03.2018 Федеральному Собранию Российской Федерации // . – 01.03.2018.
11. Нестеров А.В. Возможны ли правоотношения и юридические взаимодействия между людьми и роботами? – М.: Препринт, 2016. – 14 с. – С. 7.Шершеневич Г.Ф. Учебник русского гражданского права. – М., 1995 (по изд. 1907 г.). – С. 89–91. Мейер Д.И. Русское гражданское право: В 2 ч. Ч. 1. – М., 1997. – С. 126.
12. Соколова М. Коллизии «права роботов». Дискуссии юристов в связи с разработкой КиберКодекса в России // . – 23.05.2017.
13. Ястребов О.А. Искусственный интеллект в правовом пространстве: концептуальные и теоретические подходы // Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ: Сб. материалов к XII Ежегодным научным чтениям памяти С.Н. Братуся. – М.: Институт законодательства и сравнительного правоведения при Правительстве РФ; Статут, 2017. – 434 с. – С. 271–283.
References
1. Galasso A., Hong L. Punishing Robots: Issues in the Economics of Tort Liability and Innovation in Artificial Intelligence [Nakazyvaya robotov: problemy ekonomiki grazhdansko-pravovoi otvetstvennosti i innovatsii v sfere iskusstvennogo intellekta] // . – 2018. – 10 p. – P. 5.
2. Draft Report with recommendations to the Commission on Civil Law Rules on Robotics [Proekt Otcheta s rekomendatsiyami Komissii po grazhdansko-pravovomu regulirovaniyu v sfere robototekhniki] (2015/2103(INL)), 31.05.2016 / Committee on Legal Affairs / European Parliament; Rapporteur: Mady Delvaux // . – 22 p. – P. 5.
3. Čerka P., Grigienė J., Sirbikytė G. Liability for damages caused by artificial intelligence [Otvetstvennost' za ushcherb, vyzvannyi iskusstvennym intellektom] // Computer Law & Security Review. – 2015, June. – Vol. 31. – Issue 3. – P. 376–389. – P. 383.
4. Robertson J. Human rights vs. robot rights: Forecasts from Japan [Prava cheloveka vs. prava robotov: prognozy iz Yaponii] // Critical Asian Studies. – 2014. – Vol. 46. – № 4. – P. 571–598. – P. 593. .
5. Solum L.B. Legal Personhood for Artificial Intelligences [Pravosub''ektnost' dlya iskusstvennogo intellekta] // North Carolina Law Review. – 1992. – Vol. 70. –№ 4. – P. 1231–1287. – P. 1257. .
6. Vincent J. Giving robots ‘personhood’ is actually about making corporations accountable [Predostavlenie robotam pravosub''ektnosti na samom dele zaklyuchaetsya v tom, chtoby privlech' k otvetstvennosti korporatsii] // . – 19.01.2017.
7. Vashkevich A. Yuridicheskie elektronnye litsa //. – 22.05.2016.
8. Krasilova E. «Oni» uzhe na podkhode. V Evrope mogut poyavit'sya «elektronnye litsa» // . – 26.06.2016.
9. Makarov O. ES predlozhili nadelit' robotov statusom «elektronnykh lits» // . – 22.06.2016.
10. Poslanie Prezidenta Rossiiskoi Federatsii V.V. Putina ot 01.03.2018 Federal'nomu Sobraniyu Rossiiskoi Federatsii // . – 01.03.2018.
11. Nesterov A.V. Vozmozhny li pravootnosheniya i yuridicheskie vzaimodeistviya mezhdu lyud'mi i robotami? – M.: Preprint, 2016. – 14 s. – S. 7.Shershenevich G.F. Uchebnik russkogo grazhdanskogo prava. – M., 1995 (po izd. 1907 g.). – S. 89–91. Meier D.I. Russkoe grazhdanskoe pravo: V 2 ch. Ch. 1. – M., 1997. – S. 126.
12. Sokolova M. Kollizii «prava robotov». Diskussii yuristov v svyazi s razrabotkoi KiberKodeksa v Rossii // . – 23.05.2017.
13. Yastrebov O.A. Iskusstvennyi intellekt v pravovom prostranstve: kontseptual'nye i teoreticheskie podkhody // Pravosub''ektnost': obshcheteoreticheskii, otraslevoi i mezhdunarodno-pravovoi analiz: Sb. materialov k XII Ezhegodnym nauchnym chteniyam pamyati S.N. Bratusya. – M.: Institut zakonodatel'stva i sravnitel'nogo pravovedeniya pri Pravitel'stve RF; Statut, 2017. – 434 s. – S. 271–283.
|
Рус
© 1998 – 2024 Nota Bene. Publishing Technologies. NB-Media Ltd.
