Рус Eng Cn Перевести страницу на:  
Please select your language to translate the article


You can just close the window to don't translate
Библиотека
ваш профиль

Вернуться к содержанию

Юридические исследования
Правильная ссылка на статью:

Национальные подходы к применению искусственного интеллекта: опыт Сингапура

Горян Элла Владимировна

ORCID: 0000-0002-5962-3929

кандидат юридических наук

доцент, Владивостокский государственный университет

690014, Россия, Приморский край, г. Владивосток, ул. Гоголя, 41, каб. 5502

Gorian Ella

PhD in Law

Associate Professor, Vladivostok State University

690014, Russia, Primorsky Krai, Vladivostok, Gogol str., 41, office 5502

ella-gorjan@yandex.ru
Другие публикации этого автора
 

 

DOI:

10.25136/2409-7136.2020.8.33919

Дата направления статьи в редакцию:

18-09-2020


Дата публикации:

16-10-2020


Аннотация: Объектом исследования являются отношения в сфере применения технологий искусственного интеллекта. Предмет исследования представлен нормативными документами Сингапура, устанавливающими требования к развертыванию и применению технологий искусственного интеллекта. Определяются особенности сингапурского подхода к регулированию отношений в рассматриваемой сфере. Характеризуются национальные инициативы и круг субъектов, задействованных в разработке и реализации нормативных положений по применению цифровых технологий. Исследуются аспекты публично-частного партнерства, определяется роль государства в регулировании отношений, особое внимание уделяется вопросу обеспечения защиты персональных данных, используемых технологиями искусственного интеллекта. Отмечаются положительные наработки, которые можно использовать в российской стратегии развития искусственного интеллекта. Сингапур применяет подход саморегулирования к процессам внедрения технологий искусственного интеллекта, определяя системообразующую роль государства, устанавливая общие цели и привлекая к активному участию представителей частного сектора и общественности. Более того, правительство выступает гарантом обеспечения интересов частного сектора путем создания привлекательного инвестиционного режима и граждан, устанавливая жесткие требования, во-первых, в части использования данных, а во-вторых, в части контроля над технологиями искусственного интеллекта. Отличительной особенностью сингапурского подхода является определение приоритетных секторов экономики и инструментов обеспечения системности использования искусственного интеллекта. Сингапур удачно использует свои демографические и экономические особенности для распространения технологий искусственного интеллекта в азиатском регионе, а разработанная и удачно апробированная на национальном уровне модель управления искусственным интеллектом получила международное признание и глобальное применение. Превращению Сингапура в международный центр искусственного интеллекта способствует и совершенствование правового режима с одновременным упрощением формальностей в сфере интеллектуальной собственности. Эти особенности следует участь российским авторам национальной стратегии развития искусственного интеллекта.


Ключевые слова:

искусственный интеллект, цифровые технологии, Сингапур, публично-частное партнерство, персональные данные, интеллектуальная собственность, национальная политика, правовой режим, инвестиционный режим, управление рисками

Abstract: The object of this research is the relations in the area of implementation of artificial intelligence technologies. The subject of this research is the normative documents of Singapore that establish requirements towards development and application of artificial intelligence technologies. The article determines the peculiarities of Singaporean approach towards regulation of relations in the indicated sphere. Characteristic is given to the national initiative and circle of actors involved in the development and realization of normative provisions with regards to implementation of digital technologies. The author explores the aspects of private public partnership, defines the role of government in regulation of relation, as well as gives special attention to the question of ensuring personal data protection used by the artificial intelligence technologies. Positive practices that can be utilized in Russian strategy for the development of artificial intelligence are described. Singapore applies the self-regulation approach towards the processes of implementation of artificial intelligence technologies, defining the backbone role of the government, establishing common goals, and involving representative of private sector and general public. Moreover, the government acts as the guarantor of meeting the interests of private sector by creating an attractive investment regime and citizens, setting strict requirements with regards to data usage and control over the artificial intelligence technologies. A distinguishing feature of Singaporean approach consists in determination of the priority sectors of economy and instruments of ensuring systematicity in implementation of artificial intelligence. Singapore efficiently uses its demographic and economic peculiarities for proliferation of the technologies of artificial intelligence in Asian Region; the developed and successfully tested on the national level model of artificial intelligence management received worldwide recognition and application. Turning Singapore into the international center of artificial intelligence is also instigated by the improvement of legal regime with simultaneous facilitation in the sphere of intellectual property. These specificities should be taken into account by the Russian authors of national strategy for the development of artificial intelligence.


Keywords:

artificial intelligence, digital technologies, Singapore, public-private partnership, personal data, intellectual property, national policy, legal regime, investment regime, risk management

Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта 20-011-00454 «Обеспечение прав инвесторов в банковском и финансовом секторах в условиях цифровизации экономики в РФ и ведущих финансовых центрах Восточной Азии: сравнительно-правовой аспект»

Актуальность темы исследования. Искусственный интеллект (далее – ИИ) находит все большее применение во всех сферах жизни. Учитывая его новую для правового поля природу, государства разрабатывают собственные модели правового регулирования с учетом особенностей своих правовых систем. На сегодняшний день национальные концепции регулирования разработки и применения моделей ИИ имеет большинство развитых стран, а некоторые государства выступают общепризнанными лидерами в формировании глобальных стандартов и тенденций. Одним из таких государств является Сингапур, чья Рамочная модель управления искусственным интеллектом (Model AI Governance Framework) в 2019 году была принята Центром четвертой индустриальной революции ВЭФ (Centre for the Fourth Industrial Revolution) в качестве базового документа при разработке Руководства по внедрению и самооценке для организаций (Implementation and Self-Assessment Guide for Organisations, ISAGO) [1]. За два года, прошедших с момента первой презентации, этот документ был апробирован и использован многими международными компаниями и организациями. Он был высоко оценен Группой экспертов высокого уровня Европейской Комиссии и Группой экспертов Организации экономического сотрудничества и развития по искусственному интеллекту. Вторая усовершенствованная редакция этого документа [2] была представлена в начале 2020 года на Всемирном экономическом форуме (ВЭФ) в Давосе.

Сингапур начал активную фазу внедрения ИИ в 2014 году в рамках реализации национальной инициативы Smart Nation Singapore [3], давшей старт ряду стратегических национальных проектов и программ, в том числе Национальной программе искусственного интеллекта 2017 года «AI Singapore» [4]. В 2019 году была утверждена Национальная стратегия искусственного интеллекта [5], обозначившая цель внедрить технологии ИИ в таких отраслях как транспорт и логистика, производство, финансы, охрана и безопасность, кибербезопасность, «умные города» (Smart Cities) и недвижимость, здравоохранение, образование и управление (government). За столь короткое время Сингапур добился значительных успехов в данной сфере [6], что обуславливает необходимость изучения его опыта, поскольку с 2019 года Россия реализует собственную Национальную стратегию развития искусственного интеллекта и использование удачных наработок других государств будет способствовать более успешной реализации российской стратегии [7].

Цели исследования. Цель исследования – определить особенности сингапурского подхода к регулированию отношений в сфере использования искусственного интеллекта и сформулировать предложения по усовершенствованию российской стратегии в рассматриваемой сфере.

Методология. С целью получения наиболее достоверных научных результатов используется ряд общенаучных (системно-структурный, формально-логический и герменевтический методы) и специальных юридических методов познания (сравнительно-правовой и формально-юридический методы).

Предмет исследования, источниковая база исследования. Предмет исследования составляют нормативные акты Сингапура и реализуемые проекты в сфере ИИ-технологий, а также научные исследования по теме.

Выбранная нами для исследования тема мало представлена в российской научной литературе. Поиск в электронной библиотеке научных публикаций eLIBRARY.RU проиндексированных в РИНЦ исследований по теме показал несколько статей, косвенно затрагивающих тему исследования и посвященных экономическим и урбанистическим аспектам применения ИИ-технологий. Из зарубежных исследований следует отметить работы Р. Уолтерса [8] и Н. Ремолины [6], посвященные анализу подходов государств, в частности Сингапура, к регулированию использования ИИ-технологий.

Основная часть. Реализуемая с 2014 года Национальная инициатива Smart Nation Singapore [3] охватывает три сферы: цифровую экономику, цифровое правительство и цифровое общество, представленных пятью ключевыми секторами: транспорт, недвижимость и окружающая среда, производительность бизнеса, здоровье и старение, услуги государственного сектора. В 2017 году Министерство связи и информации определило четыре передовых технологии, которые будут способствовать развитию базовой инфраструктуры цифровой экономики: ИИ, кибербезопасность, иммерсивные технологии в СМИ и интернет вещей [6]. Кибербезопасность и безопасность данных определены важными объектами реализации инициативы. Для защиты государственных систем от киберугроз были разработаны принципы безопасного проектирования, устанавливающие высокие стандарты защиты данных, используемых государственным сектором и третьими лицами. С целью проведения всестороннего обзора политик и практик безопасности данных в государственном секторе в 2019 году был создан соответствующий правительственный Комитет (The Public Sector Data Security Review Committee), подготовивший пять ключевых рекомендаций по усилению режима безопасности данных в государственном секторе [9]: (1) совершенствование технологий и процессов для эффективной защиты данных от угроз и предотвращения компрометации данных; (2) усиление процессов быстрого и эффективного обнаружения инцидентов с данными и реагирования на них; (3) повышение профессиональной культуры работы с данными при обмене и их использовании, а также повышение компетентности государственных служащих в области защиты данных; (4) улучшение структур и процессов для усиления подотчетности и прозрачности режима безопасности данных в государственном секторе; (5) внедрение и укрепление организационных и управленческих структур для обеспечения устойчивого режима безопасности данных в государственном секторе, способного удовлетворить будущие потребности.

Для обеспечения безопасности информационных систем в государственном секторе используется трехсторонний подход [10]: (1) обеспечение готовности всего правительства к кибербезопасности – специально созданная группа «Умная нация и цифровое правительство» (Smart Nation and Digital Government Group, SNDGG) осуществляет внедрение политик безопасности информационно-компьютерных технологий, создает защищенную технологическую архитектуру и проводит регулярные проверки безопасности во всех государственных учреждениях; (2) обеспечение оперативного реагирования специалистов по кибербезопасности (принятие мер по локализации и расследованию инцидентов, восстановлению работоспособности систем и проч.); (3) сотрудничество с гражданским обществом в рамках Государственной программы вознаграждения за ошибки и Программы раскрытия уязвимостей с целью проведения стресс-тестирования устойчивости систем (обнаружение и устранение уязвимостей).

Регулирование отношений по управлению персональными данными в государственных учреждениях осуществляется на основе Закона о публичном секторе (управлении) (Public Sector (Governance) Act 2018 [11], далее - PSGA) и Правительственной инструкции по управлению информационными технологиями (Government Instruction Manual on IT Management), которая с 2001 по 2018 годы была единственным нормативным актом, регулирующим отношения по управлению и защите данных, находящихся под контролем или в управлении учреждений публичного сектора. Принятый в 2018 году PSGA ужесточил механизм управления персональными данными, закрепив уголовную ответственность для государственных служащих, которые по неосторожности или умышленно раскрывают данные без разрешения, злоупотребляют данными для получения выгоды или повторно идентифицируют анонимные данные.

Для регулирования отношений в частном секторе используется Закон о защите персональных данных (Personal Data Protection Act 2012, далее – PDPA [12]). Наличие двух нормативно-правовых актов для регулирования отношений в сфере персональных данных необходимо по причине разных ожиданий от услуг, предоставляемых государственным и частным секторами. Правительство предоставляет услуги в лице государственных учреждений, неся ответственность за действия каждого участника государственного сектора, а в частном секторе, наоборот, каждый представитель несет индивидуальную ответственность за сохранность персональных данных, которыми он владеет [13].

Предоставление государственных услуг гражданам может осуществляться с участием третьих лиц, не являющимися государственными агентами, что предполагает владение большими массивами персональных данных. Поэтому для государственных учреждений, сотрудничающих с третьими лицами, был разработан специальный пакет политик, в которых определены механизмы обеспечения безопасности персональных данных: оценка и отбор третьих лиц, заключение с ними контрактов и включение в процесс предоставления государственных услуг, управление услугами и выход из этих процессов. При работе с третьими лицами государственные учреждения определяют обязательные к исполнению требования к безопасности данных на основе государственной политики безопасности данных. В качестве третьих лиц выступают лица (не являющиеся субъектами персональных данных или государственными учреждениями), которые поставляют, разрабатывают, внедряют, эксплуатируют, предоставляют или иным образом поставляют ИКТ системы или услуги государственному учреждению, или собирают, хранят или иным образом обрабатывают для него данные. С целью оперативного реагирования на нарушение законодательства о персональных данных в государственном секторе была создана соответствующая электронная платформа для оповещения о подобных инцидентах (Government Data Incident Reporting Platform) [14].

Как отмечают исследователи, Сингапур использует отличный от других государств подход к регулированию ИИ [8, pp. 58-59]: как было объявлено в 2019 году на ВЭФ в Давосе, важным условием использования ИИ является развитие основанной на ответственности системы публично-частного партнерства для постоянного и структурированного обсуждения вопросов этики, управления и защиты потребителей при коммерческом развертывании моделей ИИ, особенно тех, которые используют персональные данные. Такая система сможет обеспечить защиту персональных данных за счет ее применения при разработке моделей ИИ: для этого Сингапур предлагает включить положения о принятии решений и оценке рисков, что позволит снизить риск причинения вреда пользователям.

Национальная программа «AI Singapore» объединяет исследователей и представителей частного сектора для совместной разработки инновационных решений в области ИИ и качественного и количественного увеличения специалистов в промышленности. Она реализуется с 2017 года Национальным исследовательским фондом (National Research Foundation, NRF) совместно с Офисом проекта Smart Nation и цифрового правительства (Smart Nation and Digital Government Office), Советом по экономическому развитию (Economic Development Board), Управлением по развитию информационных технологий (Infocomm Media Development Authority), принадлежащей правительству частной организацией SGInnovate и обслуживающему государственный медицинский сектор технологическому агентству Интегрированные информационные системы здравоохранения (Integrated Health Information Systems). Работа ведется по следующим направлениям: исследование искусственного интеллекта, разработка технологий искусственного интеллекта и внедрение инновации с привлечением капитальных инвестиций в размере 150 млн сингапурских долларов в течение 5 лет [4].

С учетом демографических особенностей Сингапура (старение и полиэтничность населения) акцент делается на сфере здравоохранения - ИИ используется для решения следующих задач: (а) увеличение объемов трафика данных; (б) профилактика, диагностика, составление и выбор планов лечения; (в) управление распределением лекарственных средств; (г) использование «прицельной» медицины (precision medicine); (д) разработка лекарственных средств. Расширение использования ИИ и развитие отраслей осуществляется в рамках сотрудничества NRF с компаниями по созданию новых продуктов и последующей коммерциализации лабораторных решений на рынке (финансы, медицина, управление городским хозяйством). Для этого создается сеть материально-технической и организационно-правовой поддержки исследовательских лабораторий, стартапов и индивидуальных исследователей, позволяющая объединить и использовать потенциал всех участников программы для достижения значимых результатов и их продвижения на международном рынке. Для управления программой был сформирован специальный комитет, включающий экспертов из научно-исследовательских учреждений Сингапура, ключевых правительственных агентств и частного сектора.

Национальная стратегия искусственного интеллекта [5] была запущена в 2019 году и содержит планы по достижению Сингапуром к 2030 году статуса лидирующей державы по развитию и внедрению ИИ-решений в ключевых отраслях экономики. Стратегия предполагает развитие двух компонентов: национальные проекты ИИ и инструменты создания экосистемы ИИ (AI Ecosystem Enablers). Национальные проекты ИИ реализуются в следующих секторах, имеющих большое социальное и/или экономическое значение: (1) умное планирование перевозок (Intelligent Freight Planning) - оптимизация движения грузов для повышения производительности бизнеса и эффективности движения. Используются такие ИИ-технологии как машинное обучение, моделирование и симуляция; (2) безупречные и эффективные муниципальные службы (Seamless and Efficient Municipal Services) – используются ИИ-технологии обработки речи, машинное зрение, моделирование и симуляция; (3) прогнозирование и лечение хронических заболеваний (Chronic Disease Prediction and Management) - предотвращение и более эффективное лечение хронических заболеваний путем использования машинного обучения, машинного зрения, объяснимого (прозрачного) ИИ (explainable AI); (4) персонализированное обучение посредством адаптивного обучения и оценки (Personalised Education through Adaptive Learning and Assessment) – помощь педагогам в разработке и улучшении учебного процесса под каждого обучающегося путем использования машинного обучения и технологий обработки речи; (5) пограничный контроль (Border Clearance Operations) - усиление безопасности границ и повышения качества обслуживания путешественников с помощью машинного обучения, машинного зрения, когнитивных систем, объяснимого (прозрачного) ИИ (explainable AI).

Инструменты создания экосистемы ИИ нацелены на расширение сферы применения ИИ-технологий и их адаптацию к нуждам пользователей и включают трехстороннее партнерство (Triple Helix Partnership), образование в сфере ИИ (AI Talent and Education), архитектуру данных (Data Architecture), прогрессивную и доверительную среду (Progressive and Trusted Environment), а также международное сотрудничество (International Collaboration).

Трехстороннее партнерство (Triple Helix Partnership) рассматривается как объединяющий представителей исследовательской, предпринимательской и правительственной среды механизм, действующий по нескольким направлениям: (а) увеличение инвестиций в научно-исследовательские и опытно-конструкторские работы, связанные с ИИ. В качестве примера можно привести вышеупомянутую программу AI Singapore; (б) стимулирование партнерства между исследовательским сообществом и промышленными кругами. Например, крупнейшая телекоммуникационная корпорация Юго-Восточной Азии Singtel в партнерстве с Наньянгским технологическим университетом (Nanyang Technological University) и Национальным исследовательским фондом (National Research Foundation Singapore) создал Лабораторию когнитивного и искусственного интеллекта Singtel для предприятий (Singtel Cognitive and Artificial Intelligence Lab for Enterprises, SCALE@NTU), которая занимается разработкой приложений для применения в сфере общественного порядка, интеллектуальной городской инфраструктуры, транспорта, здравоохранения и производства; (в) ускорение внедрения ИИ в компаниях путем стимулирования инвестиций в цифровую инфраструктуру и инженерные возможности, а также развития инновационной культуры. С этой целью правительство реализует ряд программ для предприятий малого и среднего бизнеса в рамках целых отраслей (SMEs Go Digital, AI Makerspace, Accreditation@SGDigital, SG:D Spark, Tech Depot on SME Portal, AI Singapore’s 100 Experiments programme, IMDA’s Digital Services Lab); (г) создание тестовых площадок для инноваций в области ИИ. Пилотный проект представлен цифровым районом Пунггол (Punggol Digital District, PDD), в котором органы власти и JTC Corporation совместно интегрируют новые технологии в повседневную жизнь граждан. PDD представляет собой открытую цифровую платформу, объединяющую различные технологические вертикали: системы управления объектами, систему централизованного охлаждения, автономные системы доставки товаров и системы безопасности. Данные, собранные платформой, могут использоваться компаниями для тестирования новых разработок, а поставщики услуг могут предоставлять персонализированные и упреждающие услуги, а также обеспечивать экономию энергии и рабочей силы за счет оптимизации операций и потребления ресурсов в районе.

Образование в сфере ИИ (AI Talent and Education). Этот инструмент направлен на качественное и количественное увеличение многопрофильных специалистов в сфере ИИ, цифровых технологий, бизнес-сферы по таким направлениям как а) исследования и разработки (ученые и исследователи); б) инжиниринг данных (инженеры, специалисты по обработке данных); в) разработка продуктов (инженеры ИИ, переводчики, разработчики); г) внедрение ИИ-решений (разработчики приложений, разработчики инфраструктуры и системные интеграторы). Использование этого инструмента позволит достичь трех целей: 1) подготовить больше высококвалифицированных специалистов в сфере ИИ, 2) обучить всех сингапурцев базовым компьютерным навыкам и вычислительному мышлению и 3) привлечь больше высококлассных иностранных специалистов по ИИ

Архитектура данных (Data Architecture). Данные – это фундамент, на котором основывается сотрудничество в области ИИ между правительством, промышленными кругами и исследователями. В силу своих уникальных особенностей Сингапур имеет преимущества перед другими государствами Юго-Восточной Азии, в частности в сфере создания обширных межотраслевых баз данных: многоэтничное население дает преимущество в разработке экспортируемых решений ИИ в таких секторах, как здравоохранение, поскольку алгоритмы ИИ, обученные на данных населения Сингапура, потенциально могут быть масштабированы по всей Азии. Данные являются стратегическим национальным активом государства, поэтому их постоянная консолидация и совершенствование нормативно-правовых и институциональных механизмов их защиты –непрерывный процесс. В данный момент он концентрируется на двух направлениях: 1) разработка модели публично-частного сотрудничества и 2) определение надежных посредников для обмена данных при реализации публично-частного сотрудничества.

В рамках первого направления необходимо обеспечить функционирование модели обмена данными в частном секторе (Private Sector Data Sharing Framework) и модели обмена данными при публично-частном сотрудничестве (Public-Private Data Sharing Framework). Второе направление предполагает определение организаций, которые будут выступать доверенными посредниками при обмене данных, а также установления общих стандартов данных для обеспечения их операционной совместимости. В планах значится также создание каталога метаданных (баз публично-частных данных, необходимых для реализации национальных проектов ИИ).

Прогрессивная и доверительная среда (Progressive and Trusted Environment) подразумевает достижение и сохранение баланса в развитии технологий и внедрении инноваций при защите прав и интересов граждан. Национальная стратегия ИИ предполагает активное участие Консультативного совета по этичному использованию ИИ и данных (Advisory Council on the Ethical Use of AI and Data) в экспертной оценке правительственных инициатив, а также разработку кодексов практики и профессиональных кодексов поведения для различных секторов экономики; обучение и сертификацию по этике и управлению ИИ для профессионалов, управляющих решениями ИИ и реализующих проекты ИИ, которые будут контролироваться недавно созданным Руководящим комитетом по этике и управлению ИИ Сингапурского компьютерного общества (AI Ethics and Governance Steering Committee of Singapore Computer Society).

Особенно остро вопрос доверия ИИ-технологиям стоит в финансово-банковском секторе. Решения, основанные на ИИ и аналитике данных (Artificial Intelligence and Data Analytics, AIDA), без надлежащих структур управления и подотчетности могут потенциально разрушить структуру финансовых услуг. По этим причинам Валютное управление Сингапура (Monetary Authority of Singapore) разработало принципы ответственного использования ИИ в отрасли (Принципы содействия справедливости, этике, подотчетности и прозрачности при использовании искусственного интеллекта и анализа данных в финансовом секторе Сингапура, Principles to Promote Fairness, Ethics, Accountability and Transparency (FEAT) in the Use of Artificial Intelligence and Data Analytics in Singapore’s Financial Sector, далее - Принципы FEAT) [15]). Принципы FEAT установили стандарт для финансового сектора Сингапура, и различные юрисдикции Юго-Восточной Азии приняли аналогичные принципы для своих финансово-банковских систем. Тем не менее, практическая реализация принципов FEAT до сих пор остается сложной задачей для отрасли (успешно с этой задачей справился сингапурский DBS Bank, действующий в 18 юрисдикциях мира [16]). Для ускорения внедрения AIDA в финансовой индустрии MAS сотрудничает с частным сектором по созданию стандартизированной модульной структуры реализации принципов FEAT под названием Veritas. Планируется, что Veritas будет содержать инструменты, позволяющие организациям проверять свои модели ИИ на соответствие принципам FEAT. Veritas будет применяться к разным направлениям бизнеса, разным принципам, а также разным нормативным и правовым режимам. Цель состоит в том, чтобы создать первую в мире систему, которую финансовые учреждения могут использовать для оценки управления решений AIDA.

Еще одно заслуживающее внимания направление, в котором реализуется государственная политика в сфере ИИ, это совершенствование правового режима и упрощение формальностей в сфере интеллектуальной собственности. Для этого Управление интеллектуальной собственности Сингапура (Intellectual Property Office of Singapore, IPOS) учредило дочернюю компанию IPOS International, которая осуществляет взаимодействие с представителями частного сектора по разработке индивидуализированных решений и программ управления нематериальными активами (к которым относятся объекты интеллектуальной собственности). Одновременно идет совершенствование законодательства в сфере интеллектуальной собственности в аспекте разработки и внедрения нормативных предписаний, обеспечивающих коммерциализацию новых ИИ-технологий. Управление интеллектуальной собственности Сингапура также внедрило программу ускоренного патентования (Accelerated Initiative for Artificial Intelligence, AI²), благодаря которой заявитель получает патент на ИИ-технологию в течение шести месяцев [17]. Такой возможностью уже воспользовалась китайская компания Alibaba Group Holdings Limited, подавшая в 2019 году заявку на получение патента на ИИ-технологию в IPOS через онлайн-приложение [18] и получившая патент через три месяца.

Международное сотрудничество (International Collaboration)осуществляется в рамках участия в разработке глобальных стандартов в сфере ИИ совместно со Всемирным экономическом форумом, Организацией экономического сотрудничества и развития, Международной организацией стандартизации и Международной электротехнической комиссией.

Одним из достижений Сингапура в сфере ИИ является всемирное одобрение и признание в качестве базового документа разработанной им Рамочной модели управления искусственным интеллектом (далее – Модель ИИ). Как было сказано ранее, этот документ был высоко оценен Группой экспертов высокого уровня Европейской Комиссии и Группой экспертов ОЭСР по ИИ, участниками ВЭФ и внедрен многими компаниями и международными организациями.

Модель ИИ определяет два исходных принципа процессов внедрения и использования ИИ (п. 2.7) [2]: (1) понятность, прозрачность и справедливость - организации, использующие ИИ для принятия решений, должны гарантировать, что процесс принятия решений является понятным, прозрачным и справедливым. Хотя идеальной объяснимости, прозрачности и справедливости достичь невозможно, организациям следует стремиться к тому, чтобы их использование или применение ИИ осуществлялось таким образом, который, насколько это возможно, отражает цели этих принципов; (2) антропоцентричность - решения ИИ должны быть ориентированы на человека. Поскольку ИИ используется для расширения человеческих возможностей, защита интересов граждан, включая их благополучие и безопасность, должна быть первоочередной задачей при проектировании, разработке и развертывании ИИ-решений.

Документ направлен на разработку передовых методов управления данными в целом и в основном применима к моделям машинного обучения. Она не предназначена для разработки методов на случай кибератак, поэтому организации несут ответственность за обеспечение доступности, надежности, качества и безопасности своих продуктов и услуг, независимо от того, используются ли ИИ-технологии. Применение Модели ИИ не освобождает организации от соблюдения действующих нормативных актов, напротив, с ее помощью организация может гарантировать соблюдение таковых. Кроме того, применение Модели ИИ подразумевает обязательное внедрение механизмов управления и защиты данных, предусмотренных сингапурским Законом о защите персональных данных 2012 года и Принципами конфиденциальности Организации экономического сотрудничества и развития.

Модель ИИ предназначена для помощи организациям в достижении следующих целей: (а) укрепление доверия заинтересованных сторон к ИИ за счет ответственного использования для управления различными рисками при развертывании ИИ-технологий; (б) применение разумных мер по согласованию внутренних политик, структур и процессов с соответствующими практиками, основанными на подотчетности, в управлении и защите данных. Документ ориентирован на применение ИИ в таких областях как (a) система и методы внутреннего управления (адаптация существующей или создание внутренней структуры управления и мер для включения ценностей, рисков и обязанностей, связанных с алгоритмическим принятием решений); (b) участие человека в процессе принятия решений с использованием ИИ (методология, помогающая организациям определить приемлемые риски и определить соответствующий уровень участия человека в процессе принятия решений с использованием ИИ); (c) управление операциями (вопросы, которые необходимо учитывать при разработке, выборе и обслуживании моделей ИИ, включая управление данными); (d) взаимодействие и общение с заинтересованными сторонами (стратегии общения с заинтересованными сторонами организации и управления отношениями с ними).

Выводы. Сингапур применяет подход саморегулирования к процессам внедрения технологий искусственного интеллекта, определяя системообразующую роль государства, устанавливая общие цели и привлекая к активному участию представителей частного сектора и общественности. Более того, правительство выступает гарантом обеспечения интересов частного сектора путем создания привлекательного инвестиционного режима и граждан, устанавливая жесткие требования, во-первых, в части использования данных, а во-вторых, в части контроля над технологиями искусственного интеллекта. Отличительной особенностью сингапурского подхода является определение приоритетных секторов экономики и инструментов обеспечения системности использования искусственного интеллекта. Сингапур удачно использует свои демографические и экономические особенности для распространения технологий искусственного интеллекта в азиатском регионе, а разработанная и удачно апробированная на национальном уровне модель управления искусственным интеллектом получила международное признание и глобальное применение. Превращению Сингапура в международный центр искусственного интеллекта способствует и совершенствование правового режима с одновременным упрощением формальностей в сфере интеллектуальной собственности. Эти особенности следует участь российским авторам национальной стратегии развития искусственного интеллекта.

Библиография
1. Companion to the Model AI Governance Framework – Implementation and Self-Assessment Guide for Organizations. – Текст: электронный // Personal Data Protection Commission Singapore: [сайт]. – URL: http://go.gov.sg/ISAGO (дата обращения – 18.09.2020)
2. Model Artificial Intelligence Governance Framework (Second Edition) 2020. – Текст: электронный // Infocomm Media Development Authority Singapore: [сайт]. – URL: https://www.imda.gov.sg/-/media/Imda/Files/Infocomm-Media-Landscape/SG-Digital/Tech-Pillars/Artificial-Intelligence/Primer-for-second-edition-of-the-Model-Framework.pdf?la=en (дата обращения – 18.09.2020)
3. Smart Nation Singapore: [сайт]. – URL: https://www.smartnation.gov.sg/ (дата обращения – 18.09.2020)
4. AI Singapore: [сайт]. – URL: https://www.nrf.gov.sg/programmes/artificial-intelligence-r-d-programme (дата обращения – 18.09.2020)
5. National Artificial Intelligence Strategy. – Текст: электронный // Smart Nation Singapore: [сайт]. – URL: https://www.smartnation.gov.sg/why-Smart-Nation/NationalAIStrategy (дата обращения – 18.09.2020)
6. Remolina N. How to Address the AI Governance Discussion? What Can We Learn From Singapore’s AI Strategy? / N. Remolina, J. Seah // SMU Centre for AI & Data Governance Research Paper No. 2019/03. – Текст: электронный // SSRN: [сайт]. – URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3444024 (дата обращения – 18.09.2020)
7. О развитии искусственного интеллекта в Российской Федерации : Указ Президента РФ от 10.10.2019 №490 (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // СПС «КонсультантПлюс»: [сайт]. – URL: http://www.consultant.ru/document/cons_doc_LAW_335184/ (дата обращения – 18.09.2020)
8. Walters R. Data Protection and Artificial Intelligence Law: Europe Australia Singapore-An Actual or Perceived Dichotomy? / R. Walters Matthew Coghlan // American Journal of Science, Engineering and Technology. 2019.-– Текст: электронный // SSRN: [сайт]. – URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3503392 (дата обращения – 18.09.2020)
9. Public Sector Data Security Review Committee Report. – Текст: электронный // Smart Nation Singapore: [сайт]. – URL: https://www.smartnation.gov.sg/why-Smart-Nation/secure-smart-nation/PSDSRC19#sthash.8QZjd1S4.dpuf (дата обращения – 18.09.2020)
10. Cybersecurity in Public sector. – Текст: электронный // Smart Nation Singapore: [сайт]. – URL: https://www.smartnation.gov.sg/why-Smart-Nation/secure-smart-nation/cybersecurity#sthash.G87OArqV.dpuf (дата обращения – 18.09.2020)
11. Public Sector (Governance) Act 2018. – Текст: электронный // Singapore Statutes Online: [сайт]. – URL: https://sso.agc.gov.sg/Act/PSGA2018 (дата обращения – 18.09.2020)
12. Personal Data Protection Act 2012. – Текст: электронный // Singapore Statutes Online: [сайт]. – URL: https://sso.agc.gov.sg/Act/PDPA2012#legis (дата обращения – 18.09.2020)
13. Government’s Personal Data Protection Laws and Policies. – Текст: электронный // Smart Nation Singapore: [сайт]. – URL: https://www.smartnation.gov.sg/why-Smart-Nation/secure-smart-nation/personal-data-protection#sthash.MccehrsL.dpuf (дата обращения – 18.09.2020)
14. Government Data Incident Reporting Platform. – Текст: электронный // Smart Nation Singapore: [сайт]. – URL: https://www.smartnation.gov.sg/report-data-incident/report-data-incident (дата обращения – 18.09.2020)
15. Principles to Promote Fairness, Ethics, Accountability and Transparency (FEAT) in the Use of Artificial Intelligence and Data Analytics in Singapore’s Financial Sector 2018. – Текст: электронный // Monetary Authority of Singapore: [сайт]. – URL: https://www.mas.gov.sg/publications/monographs-or-information-paper/2018/FEAT (дата обращения – 18.09.2020)
16. Compendium of Use Cases: Practical Illustrations of the Model AI Governance Framework 2020. – Текст: электронный // Personal Data Protection Commission Singapore: [сайт]. – URL: https://www.pdpc.gov.sg/-/media/Files/PDPC/PDF-Files/Resource-for-Organisation/AI/SGAIGovUseCases.pdf (дата обращения – 18.09.2020)
17. Launch of AI2 : Accelerated Initiative for Artificial Intelligence-An Accelerated Application-to-Grant Service for Patent Applications in Artificial Intelligence // Intellectual Property Office of Singapore: [сайт]. – URL: https://www.ipos.gov.sg/docs/default-source/resources-library/patents/circulars/(2019)-circular-no-2---ai2-initiative_final.pdf (дата обращения – 18.09.2020)
18. IP2SG: [сайт]. – URL: https://www.ip2.sg/ (дата обращения – 18.09.2020)
References
1. Companion to the Model AI Governance Framework – Implementation and Self-Assessment Guide for Organizations. – Tekst: elektronnyi // Personal Data Protection Commission Singapore: [sait]. – URL: http://go.gov.sg/ISAGO (data obrashcheniya – 18.09.2020)
2. Model Artificial Intelligence Governance Framework (Second Edition) 2020. – Tekst: elektronnyi // Infocomm Media Development Authority Singapore: [sait]. – URL: https://www.imda.gov.sg/-/media/Imda/Files/Infocomm-Media-Landscape/SG-Digital/Tech-Pillars/Artificial-Intelligence/Primer-for-second-edition-of-the-Model-Framework.pdf?la=en (data obrashcheniya – 18.09.2020)
3. Smart Nation Singapore: [sait]. – URL: https://www.smartnation.gov.sg/ (data obrashcheniya – 18.09.2020)
4. AI Singapore: [sait]. – URL: https://www.nrf.gov.sg/programmes/artificial-intelligence-r-d-programme (data obrashcheniya – 18.09.2020)
5. National Artificial Intelligence Strategy. – Tekst: elektronnyi // Smart Nation Singapore: [sait]. – URL: https://www.smartnation.gov.sg/why-Smart-Nation/NationalAIStrategy (data obrashcheniya – 18.09.2020)
6. Remolina N. How to Address the AI Governance Discussion? What Can We Learn From Singapore’s AI Strategy? / N. Remolina, J. Seah // SMU Centre for AI & Data Governance Research Paper No. 2019/03. – Tekst: elektronnyi // SSRN: [sait]. – URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3444024 (data obrashcheniya – 18.09.2020)
7. O razvitii iskusstvennogo intellekta v Rossiiskoi Federatsii : Ukaz Prezidenta RF ot 10.10.2019 №490 (vmeste s «Natsional'noi strategiei razvitiya iskusstvennogo intellekta na period do 2030 goda») // SPS «Konsul'tantPlyus»: [sait]. – URL: http://www.consultant.ru/document/cons_doc_LAW_335184/ (data obrashcheniya – 18.09.2020)
8. Walters R. Data Protection and Artificial Intelligence Law: Europe Australia Singapore-An Actual or Perceived Dichotomy? / R. Walters Matthew Coghlan // American Journal of Science, Engineering and Technology. 2019.-– Tekst: elektronnyi // SSRN: [sait]. – URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3503392 (data obrashcheniya – 18.09.2020)
9. Public Sector Data Security Review Committee Report. – Tekst: elektronnyi // Smart Nation Singapore: [sait]. – URL: https://www.smartnation.gov.sg/why-Smart-Nation/secure-smart-nation/PSDSRC19#sthash.8QZjd1S4.dpuf (data obrashcheniya – 18.09.2020)
10. Cybersecurity in Public sector. – Tekst: elektronnyi // Smart Nation Singapore: [sait]. – URL: https://www.smartnation.gov.sg/why-Smart-Nation/secure-smart-nation/cybersecurity#sthash.G87OArqV.dpuf (data obrashcheniya – 18.09.2020)
11. Public Sector (Governance) Act 2018. – Tekst: elektronnyi // Singapore Statutes Online: [sait]. – URL: https://sso.agc.gov.sg/Act/PSGA2018 (data obrashcheniya – 18.09.2020)
12. Personal Data Protection Act 2012. – Tekst: elektronnyi // Singapore Statutes Online: [sait]. – URL: https://sso.agc.gov.sg/Act/PDPA2012#legis (data obrashcheniya – 18.09.2020)
13. Government’s Personal Data Protection Laws and Policies. – Tekst: elektronnyi // Smart Nation Singapore: [sait]. – URL: https://www.smartnation.gov.sg/why-Smart-Nation/secure-smart-nation/personal-data-protection#sthash.MccehrsL.dpuf (data obrashcheniya – 18.09.2020)
14. Government Data Incident Reporting Platform. – Tekst: elektronnyi // Smart Nation Singapore: [sait]. – URL: https://www.smartnation.gov.sg/report-data-incident/report-data-incident (data obrashcheniya – 18.09.2020)
15. Principles to Promote Fairness, Ethics, Accountability and Transparency (FEAT) in the Use of Artificial Intelligence and Data Analytics in Singapore’s Financial Sector 2018. – Tekst: elektronnyi // Monetary Authority of Singapore: [sait]. – URL: https://www.mas.gov.sg/publications/monographs-or-information-paper/2018/FEAT (data obrashcheniya – 18.09.2020)
16. Compendium of Use Cases: Practical Illustrations of the Model AI Governance Framework 2020. – Tekst: elektronnyi // Personal Data Protection Commission Singapore: [sait]. – URL: https://www.pdpc.gov.sg/-/media/Files/PDPC/PDF-Files/Resource-for-Organisation/AI/SGAIGovUseCases.pdf (data obrashcheniya – 18.09.2020)
17. Launch of AI2 : Accelerated Initiative for Artificial Intelligence-An Accelerated Application-to-Grant Service for Patent Applications in Artificial Intelligence // Intellectual Property Office of Singapore: [sait]. – URL: https://www.ipos.gov.sg/docs/default-source/resources-library/patents/circulars/(2019)-circular-no-2---ai2-initiative_final.pdf (data obrashcheniya – 18.09.2020)
18. IP2SG: [sait]. – URL: https://www.ip2.sg/ (data obrashcheniya – 18.09.2020)

Результаты процедуры рецензирования статьи

В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.

Предметом представленной на рецензирование рукописи выступает характеристика государственных и частных механизмов поддержки и развития технологий искусственного интеллекта в республике Сингапур. Автор описал основные государственные программы, внедренные в данной области, методологию применения названных технологий, а также государственные и частные, в том числе международные организации, задействованные в реализации названной отрасли электронной технологии.
В качестве методов научного познания, автор использовал как общенаучные методы – анализа и синтеза, абстрагирования и обобщения, исторический и логический, так и юридические методы – метод систематизации, а также формально-логический метод.
Актуальность темы видится в том, что по исследованию правовых и социальных проблем применения технологий искусственного интеллекта в России существует всего лишь несколько работ. Между тем, внедрение данных технологий продвигается семимильными шагами, соответственно, важно дать всестороннюю оценку данному явлению и обеспечить достойное правовое регулирование новых процессов.
Научная новизна как таковая отсутствует. Автор фиксирует отдельные черты применения технологий искусственного интеллекта в Сингапуре.
Однако, несмотря на этот недостаток, признаем, что публикация будет интересна широкому кругу читателей, поскольку описанная в материале организация работы по развитию данной новой отрасли интересна и полезна для нашей страны. Так, автор приводит основные подходы республики Сингапур к регулированию рассматриваемых процессов, в частности, понятность, прозрачность и справедливость процесса принятия решений и антропоцентричность, что означает, что решения должны быть ориентированы на человека; систему правительственных и частных организаций по поддержке и продвижению новых инициатив и др.
В качестве достоинств рукописи отметим актуальность и новизну описываемых в публикации процессов, мощная источниковая база.
Слабой стороной публикации, на взгляд рецензента, является отсутствие в ней внутренней структуры. Рукопись при достаточно большом объеме, не разделена на логические части, в итоге, рецензенту было крайне сложно выделить в ней структурные единицы. Полагаем, с этим недостатком столкнется и читатель, который однозначно будет испытывать трудности в усвоении материала.
Справедливости ради нужно отметить, что автор выделил введение, в котором прокомментировал первые шаги Сингапура в продвижении рассматриваемых технологий. Также присутствует и заключение, в виде выводов. Между тем, в основной части публикации затрагивается несколько важных вопросов (например, обеспечение кибербезопасности, государственная политика в сфере технологий искусственного интеллекта, правовой режим данных технологий и др.), которые, конечно требовалось бы разделить на отдельные пункты.
Тем не менее, статья подготовлена аккуратно, грамотно, в ней обобщены происходящие мировые изменения, поэтому полагаем, что ее возможно рекомендовать к опубликованию.