Обеспечение автономности принятия решения искусственный интеллектом для целей публичных правоотношений

Атабеков Атабек Рустамович кандидат экономических наук доцент, кафедра административного и финансового права, Российский университет дружбы народов 117198, Россия, г. Москва, ул. Миклухо-Маклая, 6 Atabekov Atabek Rustamovich PhD in Economics Associate Professor of the Department of Administrative and Financial Law, Legal Institute, Peoples' Friendship University of Russia 117198, Russia, Moscow, Miklukho-Maklaya str., 6 atabekoff1@mail.ru Другие публикации этого автора

Регламентация правоотношений, возникающих из феномена искусственного интеллекта и прозрачности принятия решений для целей публичных правоотношений, является стратегически значимым как для России, так и для зарубежных стран. При этом, отдельную роль занимает вопрос позиционирования ИИ в сфере публичных правоотношений, остается системным и комплексным вопрос как на уровне теоретических исследований, так и практических решений в области понятности и прозрачности принятых ИИ решений.

На уровне Министерства юстиций Германии ^[1], Комиссии ЕС ^[2], отдельных штатов США ^[3] уже системно рассматривается вопрос необходимости разрешения «черного ящика».

Среди представителей зарубежной и отечественной научной школы также системно возникают вопросы как в части технической осуществимости раскрытия этого «ящика» ^[4], а также того, что иллюзия подотчетности ИИ для человека поднимает вопрос терминологической определенности понятий «объяснимости», «постижимости», «осмысленности» и т.д.^[5-8].

При рассмотрении технико-правового аспекта функционирования ИИ для целей публичной власти первым аспектом является обеспечение прозрачности ИИ, поскольку используется динамичная структура обрабатываемых данных, которая выражается отсутствием прямой взаимосвязи входных данных и «выходных» решений (итогов) ^[9]. Причина кроется в том, что ИИ (В особенности, базирующиеся на базе машинного обучения) используют большое количество способов анализа и достижения цели имеющие различные алгоритмические принципы и подходы к их интерпретации^[10]. Например, вопрос интерпретации машинописного текста, логарифмическая формула оценки ущерба (предусмотренная тем или иным подведомственным учреждением), доказательная база стороны участника административного процесса, которая может включать устные пояснения с использованием нестандартных речевых оборотов и т.д. и обработка данных ИИ.

Кроме того, вопрос скорости обработки данных и постоянная обработка данных формирует условно «живой организм», имеющий постоянную динамическую структуру данных, потенциально обновляющуюся при каждом взаимодействии с пользователем^[11-12].

При этом на уровне доктринального восприятия ИИ для целей публичных правоотношений необходимо отметить так же, что ИИ и его базисный составной элемент - машинное обучение- работают по той выборке дел, которые ранее были наработаны соответствующим должностным лицом.

Следует понимать, что общая кодификация административного права и процесса позволяет в большинстве своем поставить деятельность служащих профильных министерств и ведомств на «алгоритмические рельсы»; в то же время нельзя не отметить, то, что в рамках каждого дела присутствуют как общные черты (присущие тому или иному классу дел, предусмотренных кодексами), так и отличительные черты, формирующие подмножество случаев с обобщаемыми свойствами.

Необходимо понимать, что вопрос обобщения административных дел, равно как и их персонализация для целей ИИ, порождает ряд проблем, таких как проблемы эффекта отбора и сформированной предвзятости.

Разбирая проблему эффекта отбора, мы видим, что алгоритм работающий на одной базе данных, может перестать эффективно реализовывать свой публичный функционал для целей другого ведомства или же генерации данных в том же сегменте, но со случайной выборкой исходных данных ^[13]. Вопрос предвзятости данных определяется тем, насколько применяемая норма используется в административной практике и есть ли сформированная репрезентативная выборка фактов, что так же систематически выделяется как отечественными, так и зарубежными учеными^[14-16].

Базовым решением указанных проблем могут выступать три следующих инструмента (по отдельности или в связке):

1. Генерация случайных ситуаций/выборок, которая позволяет наиболее точно формулировать практику выработки решений ИИ, в особенности, если базой данной выступает наиболее широкий круг дел, принимаемых различными должностными лицами в рамках одного процесса ^[17].
2. Применение контрфактуального анализа дела ^[18], который дает генерацию ответвлений на принятые решения, и сегменты, влияющие на принятие решений ИИ; информационный шум, создаваемый данной выборкой и ответвлений минимизирует число нешаблонных решений, принятых человеком.
3. Введение связки ИИ + человек, где ИИ выступает средством мониторинга случайных выборок, выделяющих проблемные зоны должностному лицу для верификации и оценки доказательств.

Следует понимать, что указанная связка тоже может сохранять риски неэтичного принятия решения, недостоверности выборки при принятии решения ИИ (человеческий фактор), а также потенциальное влияние ИИ на базовые права, предусмотренные Конституцией (ч.2 ст. 19). Однако мы понимаем, что данные действия позволят в последствии сделать человеческие предубеждения или ошибки более заметными.

Кроме того, нужно учитывать, что технология ИИ может быть использована не только во благо государства, но и в противовес действующим мерам, предусмотренным законодательства.

Весь комплекс заложенных мер при принятии автономного решения ИИ может быть эмпирически идентифицирован, и, как следствие, могут быть сформулированы стратегические контрмеры, предусмотренные реализацией принципов правовой определенности ^[19].

Среди таковых можно выделить вопросы создания информационного шума используемых баз данных ИИ (в особенности находящихся за контуром формирования профильным органов власти), а также формирование поведенческой адаптации, когда подконтрольный субъект, находящийся вне риска попадания в выборку, менее «законопослушен».

Данные доктринальные проработки вопросов интеграции ИИ в сферу публичных правоотношений находят свое отражение в практической публичной деятельности органов власти различных стран:

Власти Нидерландов в рамках контроля мошенничества в сфере социального обеспечения использовали систему SyRi ^[20], которая, по сути, использовала в своей работе большой массив данных, но при этом не была достаточно прозрачной в своей обработке данных и предоставляемых эмпирических результатах. В результате указанный алгоритм был запрещен к применению органом власти в виду несоответствия его принципов статье 8 ЕКПЧ (Европейской конвенции о правах человека) ^[21].

Министерство труда и социальной политики Польши использовало узкоспециализированный ИИ, который должен был проводить категоризацию потенциальных получателей пособий по безработице ^[22]. При этом бинарная обработка решения ИИ проходила соответствующую верификацию сотрудников ведомства, однако по причине халатного отношения в почти 100% случаев позиция ИИ не оспаривалась служащим. В результате анализа действий ИИ на предмет прозрачности, Конституционный суд Польши признал данный продукт не конституционным ^[23].

Агентство по страхованию от безработицы штата Мичиган (США), использовало аналогичный SyRi инструмент для целей выявления случаев мошенничества, связанных с получением пособия по безработице. При этом указанный ИИ осуществлял полностью автономное принятие решение в отношении взыскания пособия, без возможности апелляции указанного решения в рамках ведомства ^[24], что в последствии повлекло судебное разбирательство и соответствующие штрафные санкции к разработчику ИИ^[25].

На основании вышеизложенного, в целях формирования взвешенного подхода по применению ИИ для целей публичных правоотношений предлагается следующее:

1. Необходимо определение секторов применения ИИ, которые не влекут за собой нарушение базовых конституционных прав граждан.
2. Необходимо формирование тестовых полигонов данных в рамках профильных ФОИВов, с возможностью оперативного реагирования в рамках сбоев, ошибок и т.д. допускаемых ИИ и профильных сотрудников ФОИВов.
3. Необходимо применение ИИ на наиболее репрезентативной выборке дел, исключающей риск возникновения предсказанного преследования в виду низкого качества выборки дел или слабой административной практики в рамках указанного сектора правоотношений.
4. Необходимо внедрение контрфактуальных объяснений ИИ в действиях всех участников процесса, в целях снятия проблем, обусловленных технологической природой ИИ.
5. Необходим контроль рисков, связанных с ИИ, в контексте формирования контрмер со стороны злоумышленников, посредством создания информационных шумов во внешних базах данных или формирования поведенческой адаптации у целевой категории граждан.
6. При внедрении полностью автономных ИИ важно учитывать сложившийся негативный международный опыт в части не прозрачных и неконституционных механизмов принятия решения ИИ, с внедрением в российском правоприменительном поле соответствующих компенсационных механизмов обеспечения прозрачности принятия решения и его верификации профильным сотрудником ФОИВа.