Рус Eng Cn Перевести страницу на:  
Please select your language to translate the article


You can just close the window to don't translate
Библиотека
ваш профиль

Вернуться к содержанию

Административное и муниципальное право
Правильная ссылка на статью:

Выявление тенденций становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений

Лапина Марина Афанасьевна

доктор юридических наук

главный научный сотрудник, профессор Департамента международного и публичного права, Финансовый университет при Правительстве Российской Федерации

109456, Россия, г. Москва, пр-д 4-Й вешняковский, 4, ауд.406

Lapina Marina Afanas'evna

Doctor of Law

Chief Scientific Associate, Professor, the department of International and Public Law, Financial University under the Government of the Russian Federation

109456, Russia, g. Moscow, pr-d 4-I veshnyakovskii, 4, aud.406

LapinaMarina@inbox.ru
Другие публикации этого автора
 

 

DOI:

10.7256/2454-0595.2019.5.30567

Дата направления статьи в редакцию:

17-08-2019


Дата публикации:

24-08-2019


Аннотация: Предметом исследования является международное и зарубежное законодательство, законодательство Российской Федерации, а также стратегические документы и проекты становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений. Объект исследования – общественные отношения, способствующие разработке и внедрению технологий искусственного интеллекта в социальную сферу государственного управления. В статье приведен анализ возможных областей социальных отношений, в которых уже сейчас применимы технологии искусственного интеллекта и объекты робототехники, выявлены терминологические проблемы, не позволяющие единообразно подходить к правовому регулированию искусственного интеллекта, роботов и объектов робототехники, сформулированы предложения по развитию законодательства в области технологий искусственного интеллекта. Методологическую основу статьи основные методы научного познания: экспертный и событийный анализ, правовые методы, а также структурный анализ. Автор приходит к выводу, что в силу существенного расхождения в терминологии и разновидностях искусственного интеллекта, роботов и объектов робототехники необходимо идти по пути разработки лишь основных принципов правового регулирования, применимых ко всем видам искусственного интеллекта и объектам робототехники. Развитие правового регулирования отдельных разновидностей искусственного интеллекта и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств.


Ключевые слова:

правовое регулирование, искусственный интеллект, робот, робототехника, социальные отношения, принципы, техническое нормирование, слабый искусственный интеллект, цифровая экономика, цифровое государственное управление

Статья подготовлена по результатам исследований, выполненных за счет бюджетных средств по государственному заданию Финуниверситета

Abstract: The subject of the research is international, foreign and Russian laws as well as policy papers and projects aimed at developing legal regulation of artificial intelligence, robots and robotics in the sphere of social relations. The object of the research is the social relations that promote development and implementation of artificial intelligence technologies in the social sphere of public management. In her article Lapina analyzes possible spheres of social relations that already imply artificial intelligence technologies and robotics, defines terminological problems that explain the fact why there is no single approach to legal regulation of artificial intelligence, robots and robotics, and makes suggestions on how to improve the law in the sphere of artificial intelligence technologies. The methodological basis of the research implies expert and case analysis, legal methods and structural analysis. At the end of the research the author concludes that as a result of significant differences in definitions of terms and kinds of artificial intelligence, robots and robotics, it is necessary to develop the main principles of legal regulation that would be applicable to all kinds of artificial intelligence and robots. Legal regulation of particular kinds of artificial intelligence and robots should be developed based on concrete technical standards because different devices need different rules and regulations.


Keywords:

legal regulation, Artificial Intelligence, robot, robotics, social relations, principles, technical regulation, weak artificial intelligence, digital economy, digital government

В данной статье мы рассмотрим основные вопросы и выявим правовые проблемы, связанные с возможностью интеграции технологических инноваций на базе искусственного интеллекта (далее – ИИ) и робототехники в область социальных отношений благодаря деятельности органов государственного управления, а также обоснуем необходимость правового регулирования указанных процессов. Данная тема слабо освещена в отечественной научной литературе. Наиболее системно правовые основы технологий искусственного интеллекта раскрыты в 2017 г. П. М. Морхатом в монографии «Искусственный интеллект: правовой взгляд» [23]. Одну из первых попыток рассмотреть вопросы правосубъектности киберфизических систем, основания, содержание и правовые перспективы понятия «электронного лица» была предпринята проф. О. А. Ястребовым [28,29]. Однако можно с полной определенностью говорить о взятом Россией курсе на развитие информационного общества и повышение эффективности деятельности органов государственной власти посредством интеграции определенных достижений развития цифровых технологий и ИИ уже сейчас в развивающемся информационном обществе.

Следует отметить, что в отечественной научной и учебной литературе по административному и информационному праву многогранно рассматривается понятие «Информационное общество» [22,27], в том числе как часть общества социального: «это наиболее заметно на области социальных отношений граждан с органами публичной власти… Гражданин и его законные действия в системе государственного управления ныне рассматривается не как объект управления, а как полноправный субъект общественных отношений, актор гражданского общества, включая и область государственного управления и местного самоуправления» [18]. Указом Президента РФ от 9 мая 2017 г. № 203 была утверждена Стратегия развития информационного общества в Российской Федерации на 2017-2030 гг.[1]. Данная Стратегия направлена на дальнейшее развитие информационного общества, формирование национальной цифровой экономики, обеспечение национальных интересов и реализацию стратегических национальных приоритетов. Становление и дальнейшее развитие информационного общества не возможно без использования ИИ и робототехники в различных социальных отношениях. В Послании главы государства Федеральному Собранию Российской Федерации от 1 марта 2018 г. отмечалось, что «в кратчайшие сроки нам необходимо создать передовую законодательную базу, снять все барьеры для разработки и широкого применения робототехники, искусственного интеллекта, беспилотного транспорта, электронной торговли, технологий обработки больших данных. Причем такая нормативная база должна постоянно обновляться, строиться на гибком подходе к каждой сфере и технологии» [2].

В соответствии с реализацией Послания Президента Федеральному Собранию от 20 февраля 2019 г. запущены масштабные программы национального уровня в области ИИ[3]. Так должна в 2019 г. была быть разработана национальная стратегия в области ИИ[6].

В большинстве развитых стран мира на внедрение технологий ИИ в различные социальные сферы органы публичного управления также запускают государственные проекты и принимают программы развития. Согласно докладу американского Центра Общественного Воздействия (Centre for Public Impact) «Destination Unknown: Exploring the impact of Artificial Intelligence on Government» [31], ИИ может быть применен в области предикативного анализа, обнаружения, компьютерного наблюдения, анализа естественных языков. Технологии искусственного интеллекта и роботизация способны кардинально ускорить переход к информационному обществу. Однако имеющиеся юридические проблемы могут препятствовать применению современных технологий ИИ и робототехники в области социальных отношений.

Основы правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений прежде всего должны содержать конкретно определенный понятийный аппарат. Однако, понятия «искусственный интеллект» и «робот» имеют множество определений. Наиболее подробный тезаурус на русском языке рассматриваемых понятий представлен в работе П. М. Морхата [24]. При широком подходе, приведенном в Большой российской энциклопедии, ИИ определен как «раздел информатики, в котором разрабатываются методы и средства компьютерного решения интеллектуальных задач, традиционно решаемых человеком» [25].

В нормативно-технической документации, а именно:

в ГОСТ Р 43.0.8-2017 и ГОСТ Р 43.0.7-2011 ИИтрактуется как «моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека» [10,12];

в ГОСТ Р 60.0.0.2-2016 «Национальный стандарт Российской Федерации. Роботы и робототехнические устройства. Классификация» со ссылкой на ИСО 8373:2012 (ISO 8373:2012) «Роботы и робототехнические системы. Словарь (Robots and robotic devices - Vocabulary)» робот (robot) определен весьма конкретно как «исполнительное устройство с двумя или более программируемыми степенями подвижности, обладающее определенным уровнем автономности и способное перемещаться во внешней среде с целью выполнения поставленных задач» [11].

Как видим, нормативно-технические трактовки понятий ИИ и робота имеют существенные различия. Так, ИИ определен на основе компьютерного моделирования весьма широко, а понятие робота не позволяет охватить широкий спектр категорий роботов, которые имеют существенные различия.

К примеру, Комитет Японии по политике в сфере робототехники еще ранее 2007 года предложил классифицировать роботы нового поколения на такие разновидности, как:

1) Промышленные роботы, которые управляются людьми или работают наравне с людьми;

2) Обслуживающие роботы, которые выполняют домашнюю уборку, могут ухаживать за детьми и другими социально незащищенными категориями граждан, служить для целей обеспечения безопасности и другие виды работ, то есть в целом поддерживать жизнедеятельность офисов и домохозяйств [32].

Исходя из приведенных терминов ИИ и роботов, можно утверждать, что подходы к правовому регулированию ИИ, роботов и объектов робототехники в области социальных отношений могут быть весьма различными и обладать определенными особенностями в зависимости от специфики отдельных сфер их применения. По этой самой причине возможно разработать только основные принципы правового регулирования, применимые ко всем видам ИИ и робототехники. А непосредственно правовое регулирование отдельных разновидностей ИИ и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств. Именно по этому пути пошли страны ЕС в развитии европейской роботизированной промышленности, исходя из смысла содержания Резолюции Европейского Парламента (далее - Резолюция) [13]. В Резолюции содержатся рекомендации по установлению критериев классификации роботов; по необходимости прохождения специальной регистрации и об обязательности оснащения роботов «черным ящиком», в котором записываются данные по каждой выполняемой операции, включая логику принятия решений; обоснование разработки правил тестирования новых роботов в реальных условиях; обоснование необходимости внедрения обязательного страхования для определенных видов роботов.

В ЕС в апреле 2018 г. была принята стратегия развития и использования искусственного интеллекта. С середины 2019 г. предполагается принятие национальных планов развития ИИ, создание фондов для финансирования стартапов для развития технологий ИИ. Резолюцией Европейского парламента о всеобъемлющей европейской промышленной политике в области ИИ и робототехники, опубликованной в феврале 2019 г., установлены общие положения рекомендательного характера. К примеру, в резолюции рекомендуются такие сферы применения технологий ИИ в области социальных отношений, как транспорт, энергетика, промышленность, здравоохранение.

Важным документом для возможностей применения технологий ИИ является Руководство по этике для ИИ, принятое в ЕС. Руководством установлены общие три принципа деятельности ИИ, которые можно кратко сформулировать как: делать добро, не навредить и работать прозрачно. Предполагается, что перечисленные принципы позволят устойчиво развивать технологии ИИ и робототехники. Руководством установлены общие правила разработки таких технологий: они должны быть безопасными, подотчётными, не носить дискриминационного характера, быть поднадзорными человеку.

Перечисленные документы ЕС по сути являются базовым юридическим фундаментом правового регулирования ИИ, роботов и объектов робототехники в области социальных отношений. Предлагаемый в государствах ЕС начальный путь развития правового регулирования закономерен, но не учитывает возникающих в результате такой деятельности рисков [21]. Описывая идею преимущества искусственного сверхразума, Ник Бостром в своей научно-популярной книге «Искусственный интеллект: этапы, угрозы, стратегии» предупреждает, что следует учитывать риски, связанные с самоуправством сверхразумных машин, которые способны причинить необратимый ущерб человеческой цивилизации или, вообще, к гибели человечества [30].

Весьма интенсивно технологии ИИ применяются в такой сфере социальных отношений, как здравоохранение. Уже имеются на вооружении у врачей медицинские роботы различных типов (например, хирургическая система да Винчи и Хоспи). В сфере здравоохранения технологии ИИ применяются при диагностике заболеваний и прогнозировании, сборе данных, для выявления пациентов с высоким риском развития заболеваний, при разработке лекарств. Наиболее перспективно использование ИИ в телемедицине и системе диагностики [26]. По мнению некоторых исследователей, электронное здравоохранение стало одним главных «драйверов» всей отрасли [20].

Согласно Паспорту федерального проекта «Цифровые технологии» [7] запланировано к концу 2024 года утроить финансирование развития так называемых затраты на развитие «сквозных»[1] цифровых технологий.Паспортом федерального проекта «Нормативное регулирование цифровой среды» [8] национальной программы «Цифровая экономика Российской Федерации»определено, что создание системы правового регулирования цифровой экономики должно быть основано на гибком подходе в каждой сфере общественных отношений с обязательным участием бизнес-сообщества. Согласно п. 1.8 паспорта проекта запланировано формирование отраслевого регулирования правоотношений в сфере робототехники и применения технологий ИИ; п.1.12 – реализация комплекса мер по совершенствованию механизмов стандартизации; п. 1.16 – обеспечение законодательного регулирования вопросов создания и функционирования особых правовых режимов в условиях цифровой экономики («регуляторных песочниц»).

Для обеспечения ускоренного внедрения цифровых технологий в экономику и социальные отношения за счет использования цифровых технологий и платформенных решений в сферах государственного управления утвержден Паспорт федерального проекта «Цифровое государственное управление» [9]. В частности, он содержит цель доведения доли приоритетных государственных услуг, предоставляемых без необходимости личного посещения государственных органов, до 100 % к концу 2024 г. Безусловно, анализируемый паспорт федерального проекта «Цифровое государственное управление» является лишь первым шагом на пути внедрения технологий ИИ в практику деятельности органов государственного управления и не охватывает множества направлений деятельности, которые можно было бы оптимизировать благодаря имеющимся разработкам в области ИИ и робототехники. К примеру, учёные РАН С. И. Борталевич, А. В. Лапин и С.С. Харитонов в статье «Искусственный интеллект в системе обеспечения экономической безопасности» выявили отсутствие на федеральном уровне нормативно установленной возможности использования ИИ в целях обеспечения экономической безопасности государства. Авторы статьи предлагают включить технологии ИИ в качестве элемента экономической безопасности России [19].

Вопросы интеграции ИИ в процессы государственного управления социальной сферой отношений рассматриваются и в рамках правительственных документов в других зарубежных странах. Например, данным вопросам уделяется место в немецком Обзоре стратегии федерального правительства в области ИИ [14], в рамках канадской Pan-Canadian Artificial Intelligence Strategy [15], индийской National Strategy for AI. Discussion-Paper[16], японского Базового плана научно-технического развития[17].

Таким образом, интеграция слабых ИИ-технологий в деятельность государственных органов, осуществляющих управленческие функции в области социальных отношений, является неизбежным явлением, которое в настоящий момент не имеет достаточной степени осмысления в актуальном нормотворчестве и научной литературе.

[1] «Сквозные» цифровые технологии – это технологии ИИ, робототехники, больших данных, промышленного интернета, беспроводной связи, виртуальной и дополненной реальностей и др.

Библиография
1. Указ Президента Российской Федерации от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 – 2030 годы» // СЗ РФ. 15.05.2017. № 20. Ст. 2901.
2. Послание Президента РФ Федеральному Собранию от 01.03.2018 «Послание Президента Федеральному Собранию» // Российская газета. № 46. 02.03.2018.
3. Послание Президента РФ Федеральному Собранию от 20.02.2019 «Послание Президента Федеральному Собранию» // Российская газета. № 38. 21.02.2019.
4. Постановление Правительства РФ от 02.03.2019 № 234 «О системе управления реализацией национальной программы «Цифровая экономика Российской Федерации» (вместе с «Положением о системе управления реализацией национальной программы «Цифровая экономика Российской Федерации») // СЗ РФ. 18.03.2019. № 11. Ст. 1119.
5. Приказ Минэкономразвития России от 04.06.2019 № 308 «Об утверждении Положения о Департаменте правовых основ цифровой экономики Министерства экономического развития Российской Федерации» // Документ опубликован не был. – СПС «КонсультантПлюс».
6. Перечень поручений по реализации Послания Президента Федеральному Собранию (утв. Президентом РФ 27.02.2019 № Пр-294) // http://www.kremlin.ru/
7. Паспорт федерального проекта «Цифровые технологии» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 № 9) // https://digital.gov.ru по состоянию на 09.07.2019.
8. Паспорт федерального проекта «Нормативное регулирование цифровой среды» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 N 9) // https://digital.gov.ru по состоянию на 09.07.2019.
9. Паспорт федерального проекта «Цифровое государственное управление» (утв. президиумом Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности, протокол от 28.05.2019 N 9) // https://digital.gov.ru по состоянию на 09.07.2019.
10. ГОСТ Р 43.0.7-2011«Информационное обеспечение техники и операторской деятельности. Гибридно-интеллектуализированное человеко-информационное взаимодействие. Общие положения» (утв. и введен в действие Приказом Росстандарта от 13.12.2011 N 1242-ст) // М.: Стандартинформ, 2013.
11. ГОСТ Р 60.0.0.2-2016 «Национальный стандарт Российской Федерации. Роботы и робототехнические устройства. Классификация» (утв. и введен в действие Приказом Росстандарта от 29.11.2016 N 1842-ст) // М.: Стандартинформ, 2016.
12. ГОСТ Р 43.0.8-2017. Национальный стандарт Российской Федерации. Информационное обеспечение техники и операторской деятельности. Искусственно-интеллектуализированное человекоинформационное взаимодействие. Общие положения. (утв. и введен в действие Приказом Росстандарта от 27.07.2017 N 757-ст) // М.: Стандартинформ, 2018.
13. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html?redirect
14. Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz [Электронный ресурс] // официальный сайт федерального правительства ФРГ-Режим доступа: https://www.bmwi.de/Redaktion/DE/Downloads/E/eckpunktepapier-ki.pdf?__blob=publicationFile, свободный.
15. CIFAR Pan-Canadian Artificial Intelligence Strategy [Электронный ресурс] // официальный сайт Канадского института перспективных исследований-Режим доступа: https://www.cifar.ca/ai/pan-canadian-artificial-intelligence-strategy, свободный.
16. Национальная стратегия Искуственного Интеллекта Индии [Электронный ресурс] // официальный сайт NITI Aayog (Национального Института Трансформации Индии)-Режим доступа: https://niti.gov.in/writereaddata/files/document_publication/NationalStrategy-for-AI-Discussion-Paper.pdf, свободный.
17. Government of Japan. The 5th Science and Technology Basic Plan, january 22, 2016 [Электронный ресурс] // официальный сайт аппарата Праваительства Японии-Режим доступа: https://www8.cao.go.jp/cstp/english/basic/5thbasicplan.pdf, свободный.
18. Актуальные проблемы информационного права : учебник / коллектив авторов ; под ред. И.Л. Бачило, М.А. Лапиной. — 2-е изд., перераб. — Москва : ЮСТИЦИЯ, 2019. — 594 с. — (Магистратура и асприрантура). ISBN 978-5-4365-2987-5 С.34
19. Борталевич С.И., Лапин А.В., Харитонов С.С. Искусственный интеллект в системе обеспечения экономической безопасности [Электронный ресурс] // Вестник МИРБИС. 2019. № 2 (18). С. 18–26. DOI: 10.25634/MIRBIS.2019.2.3
20. Грищенко Г.А. Искусственный интеллект в государственном управлении // Российский юридический журнал. 2018. № 6. С. 27-31.
21. Лапина М.А. Теоретико-правовые аспекты управления рисками // Государство и право. 2015. № 2. С. 35-44.
22. Лапина М.А. Государственное управление в переходный период к информационному обществу // Социодинамика. 2016. № 1. С.1–12. DOI: 10.7256/2409–9144.2016.1.17529. URL: http://e-notabene. ru/pr/article_17529.html
23. Морхат П.М. Искусственный интеллект: правовой взгляд: Научная монография // РОО «Институт государственно-конфессиональных отношений и права». – М.: Буки Веди, 2017.-257 с.
24. Морхат П.М. Право и искусственный интеллект: Тезаурус // РОО «Институт государственно-конфессиональных отношений и права».-М.: Буки Веди, 2019.-52 с.
25. Осипов Г.С., Величковский Б.М. Искусственный интеллект [Электронный ресурс] // онлайн ресурс Большой Российской Энциклопедии-Режим доступа: https://bigenc.ru/mathematics/text/2022537, свободный.
26. Понкин И.В., Понкина А.А., Лаптев В.С. Концепты электронного здравоохранения и электронного здоровья человека // Наркология. 2014. № 6. С. 34-40.
27. Современная стратегия развития государственного управления: Монография / Лапина М.А., Попова Н. Ф. — Финуниверситет, 2017. — 245 с.
28. Ястребов О.А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» // Вопросы правоведения. 2017. № 1. С. 189–204.
29. Ястребов О.А. Искусственный интеллект в правовом пространстве: концептуальные и теоретические подходы // Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ: Сб. матер. к XII Ежегод. науч. чтениям памяти С.Н. Братуся. – М.: Институт законодательства и сравнительного правоведения при Правительстве РФ; Статут, 2017. С. 271–283.
30. Bostrom N. Superintelligence: Paths, Dangers, Strategies // Oxford University Press Keith Mansfield.-2014.-352 р. ISBN 978-0-19-967811-2.
31. Joel Tito and others. Destination unknown: Exploring the impact of Artificial Intelligence on Government. Working paper.-Centre for Public Impact. 2017.-74 р. [Электронный ресурс] // официальный сайт организации Centre for Public Impact-Режим доступа: https://resources.centreforpublicimpact.org/production/2017/09/Destination-Unknown-AI-and-government.pdf, свободный.
32. Weng Y.H., Chen C.H., Sun C.T. The legal crisis of next generation robots: on safety intelligence // Proceedings of the 11th international conference on Artificial intelligence and law.-2007.-p. 205-209.
References
1. Ukaz Prezidenta Rossiiskoi Federatsii ot 09.05.2017 № 203 «O Strategii razvitiya informatsionnogo obshchestva v Rossiiskoi Federatsii na 2017 – 2030 gody» // SZ RF. 15.05.2017. № 20. St. 2901.
2. Poslanie Prezidenta RF Federal'nomu Sobraniyu ot 01.03.2018 «Poslanie Prezidenta Federal'nomu Sobraniyu» // Rossiiskaya gazeta. № 46. 02.03.2018.
3. Poslanie Prezidenta RF Federal'nomu Sobraniyu ot 20.02.2019 «Poslanie Prezidenta Federal'nomu Sobraniyu» // Rossiiskaya gazeta. № 38. 21.02.2019.
4. Postanovlenie Pravitel'stva RF ot 02.03.2019 № 234 «O sisteme upravleniya realizatsiei natsional'noi programmy «Tsifrovaya ekonomika Rossiiskoi Federatsii» (vmeste s «Polozheniem o sisteme upravleniya realizatsiei natsional'noi programmy «Tsifrovaya ekonomika Rossiiskoi Federatsii») // SZ RF. 18.03.2019. № 11. St. 1119.
5. Prikaz Minekonomrazvitiya Rossii ot 04.06.2019 № 308 «Ob utverzhdenii Polozheniya o Departamente pravovykh osnov tsifrovoi ekonomiki Ministerstva ekonomicheskogo razvitiya Rossiiskoi Federatsii» // Dokument opublikovan ne byl. – SPS «Konsul'tantPlyus».
6. Perechen' poruchenii po realizatsii Poslaniya Prezidenta Federal'nomu Sobraniyu (utv. Prezidentom RF 27.02.2019 № Pr-294) // http://www.kremlin.ru/
7. Pasport federal'nogo proekta «Tsifrovye tekhnologii» (utv. prezidiumom Pravitel'stvennoi komissii po tsifrovomu razvitiyu, ispol'zovaniyu informatsionnykh tekhnologii dlya uluchsheniya kachestva zhizni i uslovii vedeniya predprinimatel'skoi deyatel'nosti, protokol ot 28.05.2019 № 9) // https://digital.gov.ru po sostoyaniyu na 09.07.2019.
8. Pasport federal'nogo proekta «Normativnoe regulirovanie tsifrovoi sredy» (utv. prezidiumom Pravitel'stvennoi komissii po tsifrovomu razvitiyu, ispol'zovaniyu informatsionnykh tekhnologii dlya uluchsheniya kachestva zhizni i uslovii vedeniya predprinimatel'skoi deyatel'nosti, protokol ot 28.05.2019 N 9) // https://digital.gov.ru po sostoyaniyu na 09.07.2019.
9. Pasport federal'nogo proekta «Tsifrovoe gosudarstvennoe upravlenie» (utv. prezidiumom Pravitel'stvennoi komissii po tsifrovomu razvitiyu, ispol'zovaniyu informatsionnykh tekhnologii dlya uluchsheniya kachestva zhizni i uslovii vedeniya predprinimatel'skoi deyatel'nosti, protokol ot 28.05.2019 N 9) // https://digital.gov.ru po sostoyaniyu na 09.07.2019.
10. GOST R 43.0.7-2011«Informatsionnoe obespechenie tekhniki i operatorskoi deyatel'nosti. Gibridno-intellektualizirovannoe cheloveko-informatsionnoe vzaimodeistvie. Obshchie polozheniya» (utv. i vveden v deistvie Prikazom Rosstandarta ot 13.12.2011 N 1242-st) // M.: Standartinform, 2013.
11. GOST R 60.0.0.2-2016 «Natsional'nyi standart Rossiiskoi Federatsii. Roboty i robototekhnicheskie ustroistva. Klassifikatsiya» (utv. i vveden v deistvie Prikazom Rosstandarta ot 29.11.2016 N 1842-st) // M.: Standartinform, 2016.
12. GOST R 43.0.8-2017. Natsional'nyi standart Rossiiskoi Federatsii. Informatsionnoe obespechenie tekhniki i operatorskoi deyatel'nosti. Iskusstvenno-intellektualizirovannoe chelovekoinformatsionnoe vzaimodeistvie. Obshchie polozheniya. (utv. i vveden v deistvie Prikazom Rosstandarta ot 27.07.2017 N 757-st) // M.: Standartinform, 2018.
13. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html?redirect
14. Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz [Elektronnyi resurs] // ofitsial'nyi sait federal'nogo pravitel'stva FRG-Rezhim dostupa: https://www.bmwi.de/Redaktion/DE/Downloads/E/eckpunktepapier-ki.pdf?__blob=publicationFile, svobodnyi.
15. CIFAR Pan-Canadian Artificial Intelligence Strategy [Elektronnyi resurs] // ofitsial'nyi sait Kanadskogo instituta perspektivnykh issledovanii-Rezhim dostupa: https://www.cifar.ca/ai/pan-canadian-artificial-intelligence-strategy, svobodnyi.
16. Natsional'naya strategiya Iskustvennogo Intellekta Indii [Elektronnyi resurs] // ofitsial'nyi sait NITI Aayog (Natsional'nogo Instituta Transformatsii Indii)-Rezhim dostupa: https://niti.gov.in/writereaddata/files/document_publication/NationalStrategy-for-AI-Discussion-Paper.pdf, svobodnyi.
17. Government of Japan. The 5th Science and Technology Basic Plan, january 22, 2016 [Elektronnyi resurs] // ofitsial'nyi sait apparata Pravaitel'stva Yaponii-Rezhim dostupa: https://www8.cao.go.jp/cstp/english/basic/5thbasicplan.pdf, svobodnyi.
18. Aktual'nye problemy informatsionnogo prava : uchebnik / kollektiv avtorov ; pod red. I.L. Bachilo, M.A. Lapinoi. — 2-e izd., pererab. — Moskva : YuSTITsIYa, 2019. — 594 s. — (Magistratura i asprirantura). ISBN 978-5-4365-2987-5 S.34
19. Bortalevich S.I., Lapin A.V., Kharitonov S.S. Iskusstvennyi intellekt v sisteme obespecheniya ekonomicheskoi bezopasnosti [Elektronnyi resurs] // Vestnik MIRBIS. 2019. № 2 (18). S. 18–26. DOI: 10.25634/MIRBIS.2019.2.3
20. Grishchenko G.A. Iskusstvennyi intellekt v gosudarstvennom upravlenii // Rossiiskii yuridicheskii zhurnal. 2018. № 6. S. 27-31.
21. Lapina M.A. Teoretiko-pravovye aspekty upravleniya riskami // Gosudarstvo i pravo. 2015. № 2. S. 35-44.
22. Lapina M.A. Gosudarstvennoe upravlenie v perekhodnyi period k informatsionnomu obshchestvu // Sotsiodinamika. 2016. № 1. S.1–12. DOI: 10.7256/2409–9144.2016.1.17529. URL: http://e-notabene. ru/pr/article_17529.html
23. Morkhat P.M. Iskusstvennyi intellekt: pravovoi vzglyad: Nauchnaya monografiya // ROO «Institut gosudarstvenno-konfessional'nykh otnoshenii i prava». – M.: Buki Vedi, 2017.-257 s.
24. Morkhat P.M. Pravo i iskusstvennyi intellekt: Tezaurus // ROO «Institut gosudarstvenno-konfessional'nykh otnoshenii i prava».-M.: Buki Vedi, 2019.-52 s.
25. Osipov G.S., Velichkovskii B.M. Iskusstvennyi intellekt [Elektronnyi resurs] // onlain resurs Bol'shoi Rossiiskoi Entsiklopedii-Rezhim dostupa: https://bigenc.ru/mathematics/text/2022537, svobodnyi.
26. Ponkin I.V., Ponkina A.A., Laptev V.S. Kontsepty elektronnogo zdravookhraneniya i elektronnogo zdorov'ya cheloveka // Narkologiya. 2014. № 6. S. 34-40.
27. Sovremennaya strategiya razvitiya gosudarstvennogo upravleniya: Monografiya / Lapina M.A., Popova N. F. — Finuniversitet, 2017. — 245 s.
28. Yastrebov O.A. Diskussiya o predposylkakh dlya prisvoeniya robotam pravovogo statusa «elektronnykh lits» // Voprosy pravovedeniya. 2017. № 1. S. 189–204.
29. Yastrebov O.A. Iskusstvennyi intellekt v pravovom prostranstve: kontseptual'nye i teoreticheskie podkhody // Pravosub''ektnost': obshcheteoreticheskii, otraslevoi i mezhdunarodno-pravovoi analiz: Sb. mater. k XII Ezhegod. nauch. chteniyam pamyati S.N. Bratusya. – M.: Institut zakonodatel'stva i sravnitel'nogo pravovedeniya pri Pravitel'stve RF; Statut, 2017. S. 271–283.
30. Bostrom N. Superintelligence: Paths, Dangers, Strategies // Oxford University Press Keith Mansfield.-2014.-352 r. ISBN 978-0-19-967811-2.
31. Joel Tito and others. Destination unknown: Exploring the impact of Artificial Intelligence on Government. Working paper.-Centre for Public Impact. 2017.-74 r. [Elektronnyi resurs] // ofitsial'nyi sait organizatsii Centre for Public Impact-Rezhim dostupa: https://resources.centreforpublicimpact.org/production/2017/09/Destination-Unknown-AI-and-government.pdf, svobodnyi.
32. Weng Y.H., Chen C.H., Sun C.T. The legal crisis of next generation robots: on safety intelligence // Proceedings of the 11th international conference on Artificial intelligence and law.-2007.-p. 205-209.

Результаты процедуры рецензирования статьи

В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.

Предмет исследования - выявление «тенденций становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений». Предмет не раскрыт.
Методология исследования – ряд методов, используемых автором: формально-юридический, анализ и синтез, логика и др.
Актуальность хорошо обоснована автором и выражается в следующем: «рассмотрим основные вопросы и выявим правовые проблемы, связанные с возможностью интеграции технологических инноваций на базе искусственного интеллекта (далее – ИИ) и робототехники в область социальных отношений благодаря деятельности органов государственного управления, а также обоснуем необходимость правового регулирования указанных процессов».
Научная новизна отсутствует.
Стиль, структура, содержание заслуживают внимания. Исследование не имеет всех необходимых структурных элементов: цели и задачи, методология (слабо выражена), основная часть и выводы.
Стиль работы хороший, она легко читается, но не носит не совсем исследовательский характер.
Содержание не отражает существо статьи.
Автор логично подводит читателя к существующей проблеме. В начале статьи автор акцентирует внимание читателя на предмете статьи. Он показывает, что «Данная тема слабо освещена в отечественной научной литературе. Наиболее системно правовые основы технологий искусственного интеллекта раскрыты в 2017 г. П. М. Морхатом в монографии «Искусственный интеллект: правовой взгляд» [23]».
Автор отмечает, что «Гражданин и его законные действия в системе государственного управления ныне рассматривается не как объект управления, а как полноправный субъект общественных отношений, актор гражданского общества, включая и область государственного управления и местного самоуправления» [18]» (но человек никогда в праве не был объектом, он только субъект!), «В соответствии с реализацией Послания Президента Федеральному Собранию от 20 февраля 2019 г. запущены масштабные программы национального уровня в области ИИ[3]. Так должна в 2019 г. была быть разработана национальная стратегия в области ИИ[6]». Далее автор описывает различные документы.
Он также пишет: «В большинстве развитых стран мира на внедрение технологий ИИ в различные социальные сферы органы публичного управления также запускают государственные проекты и принимают программы развития», «Однако имеющиеся юридические проблемы могут препятствовать применению современных технологий ИИ и робототехники в области социальных отношений» и приводит примеры. При этом автор анализирует НПА, работы ученых, как российских, так и зарубежных.
Автор отмечает, что «Вопросы интеграции ИИ в процессы государственного управления социальной сферой отношений рассматриваются и в рамках правительственных документов в других зарубежных странах», «Основы правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений прежде всего должны содержать конкретно определенный понятийный аппарат. Однако, понятия «искусственный интеллект» и «робот» имеют множество определений» и делает правильный вывод: «Исходя из приведенных терминов ИИ и роботов, можно утверждать, что подходы к правовому регулированию ИИ, роботов и объектов робототехники в области социальных отношений могут быть весьма различными и обладать определенными особенностями в зависимости от специфики отдельных сфер их применения. По этой самой причине возможно разработать только основные принципы правового регулирования, применимые ко всем видам ИИ и робототехники».
И переходя к анализу основного вопроса, автор замечает, что «…непосредственно правовое регулирование отдельных разновидностей ИИ и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств. Именно по этому пути пошли страны ЕС в развитии европейской роботизированной промышленности, исходя из смысла содержания Резолюции Европейского Парламента (далее - Резолюция) [13]», «В ЕС в апреле 2018 г. была принята стратегия развития и использования искусственного интеллекта. С середины 2019 г. предполагается принятие национальных планов развития ИИ, создание фондов для финансирования стартапов для развития технологий ИИ». Автор подробно анализирует документы и правильно показывает, что «Важным документом для возможностей применения технологий ИИ является Руководство по этике для ИИ, принятое в ЕС. Руководством установлены общие три принципа деятельности ИИ, которые можно кратко сформулировать как: делать добро, не навредить и работать прозрачно».
И конечно правильно замечание автора о том, что «Наиболее перспективно использование ИИ в телемедицине и системе диагностики [26]. По мнению некоторых исследователей, электронное здравоохранение стало одним главных «драйверов» всей отрасли [20]», а касаясь России «создание системы правового регулирования цифровой экономики должно быть основано на гибком подходе в каждой сфере общественных отношений с обязательным участием бизнес-сообщества».
В заключение автор подводит итог: «Таким образом, интеграция слабых ИИ-технологий в деятельность государственных органов, осуществляющих управленческие функции в области социальных отношений, является неизбежным явлением, которое в настоящий момент не имеет достаточной степени осмысления в актуальном нормотворчестве и научной литературе.
[1] «Сквозные» цифровые технологии – это технологии ИИ, робототехники, больших данных, промышленного интернета, беспроводной связи, виртуальной и дополненной реальностей и др.».
Так как журнал является научным, направляемые в издательство статьи должны соответствовать требованиям, предъявляемым к научным публикациям, в частности для научной полемики нужно обращаться к текстам научных статей, монографий или диссертационных работ оппонентов. Такой научной полемики статье несколько недостает.
Библиография полная и содержит помимо нормативных актов, большое количество современных научных исследований, к которым автор обращается, но не анализирует их, а только ссылается, что они были. Это позволяет автору определить проблемы. Он, не исследовав их, пытается раскрыть предмет статьи.
Апелляция к оппонентам в связи с вышесказанным присутствует. Автором мало используется материал других исследователей.
Выводы – работа требует незначительной доработки, интерес читательской аудитории будет присутствовать.