Сравнительно-правовое исследование позиционирования искусственного интеллекта в судебном процессе

Морхат Петр Мечиславович доктор юридических наук Судья; Арбитражный суд Московского округа 107053, Россия, г. Москва, ул. Проспект Академика Сахарова, 18, каб. 604 Morhat Petr Mechislavovich Doctor of Law Judge; Arbitration Court of the Moscow District 107053, Russia, Moscow, Prospekt Akademika Sakharova str., 18, room 604 judiciary2024@yandex.ru

За последнее десятилетие произошла активная интеграция искусственного интеллекта (ИИ) в сферу общественных отношений в различных странах, формируются стратегические документы в области регламентации применения ИИ в различных отраслях экономики и права^[5]. В этой логике, формируется и развивается тренд на осуществление правосудия с использованием интеллектуальных помощников, выработке комплексного регулятивного подхода к безопасному внедрению данной технологии в судебную сферу.

Ранее нами исследовался феномен искусственного интеллекта (далее - ИИ) в контексте возможного задействования юнитов ИИ в судебном процессе^[1]. Рассматривая предметно роль и место ИИ в судебном процессе, нами отмечалось возможное участие данной технологии на этапе пруденциального контроля, информационно-документарного обеспечения судопроизводства, обеспечения экспертно-аналитического интеллектуального судопроизводства, лингвистического и иного анализа^[2].

Для данной работы методология исследования базируется на системном, структурно-функциональном, герменевтическом и сравнительно-правовом методах. В рамках системного и структурно функционального метода изучается позиции государств и права в контексте применения ИИ в области судопроизводства, функции права и юридической ответственности, через призму принятия решения судьей с использованием технологии ИИ. Герменевтический метод нашел свое отражение в анализе и толковании позиций судов относительно допустимости применения технологии ИИ в судебном процессе. Сравнительно-правовой метод (метод юридической компаративистики) является основным методом в рамках указанной статьи, поскольку активно используется анализ текущих подходов, связанных с регламентацией ИИ в зарубежных странах (Китай, США, Франция) и России.

Рассматривая технологию искусственного интеллекта, нельзя не отметить, что данная технология все глубже проникает в сферу общественных отношений и вызывает соответствующий интерес как у исследователей в страноведческом ракурсе^{[3, 4]} так и на уровне международных организаций^{[5, 6]}. В этой связи предлагается более детально исследовать феномен ИИ в контексте судебного процесса ведущих мировых стран.

На уровне ведущих стран нельзя не отметить опыт Китая. КНР в 2017 году опубликовала свой План развития искусственного интеллекта, в рамках которого изложено стратегическое целеполагание Китая до 2030 в области развития технологии ИИ. Необходимо отметить, что в рамках долгосрочного планирования ИИ на горизонте 2030 года предусмотрено использование ИИ в новых формах «электронного управления»^[7].

Рассматривая предметно опыт Китая, необходимо отметить, что в национальном плане страны, посвященном регламентации технологии ИИ, представлен краткий параграф о возможностях для будущих «умных судов», обозначено создание приложения (или набор ИТ решений) для обеспечения судебного разбирательства, интерактивного сопровождения судебного процесса, включая сбор доказательств, анализ дел, чтение и анализ юридических документов.

Очевидно, что обеспечение соответствующей базы данных для обучения ИИ требует формирования «банка данных».

В 2014 году Верховный народный суд Китая для этой цели декларирует «открытость» и «судебную прозрачность» в качестве ключевых составляющих судебного процесса^[8]. Правительственная платформа «China Judgements Online» в настоящее время размещает более 130 миллионов публичных документов^[9]. Данный банк данных содержит дополнительные подплатформы «Похожие судебные решения» и «Платформа обслуживания больших данных правосудия Китая», которые позволяют сотрудникам судебных органов, представителям общественности осуществлять поиск данных по судебным решениям^[10].

В дальнейшем необходимо отметить становление революционной системы ИИ «Система 206» в Шанхае, которая обладает когнитивными функциями на базе машинного обучения^[11]. Данная система на этапе подачи документов проводит проверку критериев принятия дела, интеллектуальное напоминание об уплате судебного сбора и интеллектуальное формирование процессуальных документов; на этапе досудебного анализа выявляет суть претензий, определяет позиции защиты, выявляет факты и причины возникновения спора, анализирует материалы дела, проверяет полноту и достоверность доказательств и готовит план проведения заседания суда с предварительным перечнем вопросом; на этапе судебного разбирательства устанавливает неоспоримые факты, позиции сторон, ведет безбумажный перекрёстный допрос и готовит протокол судебного заседания; на этапе вынесения решения ИИ помогает в подборе законодательной базы, аналогичных судебных дел, готовит предварительное решение, подготовленное по аналогии с иным делом, а также сопутствующие документы (для которых созданы отдельные подсистемы).

В рамках опытной эксплуатации ИИ только в 2016 году было обработано 495864 дел, к апрелю 2019 года ИИ обрабатывал и детализировал дела связанные с дорожно-транспортными спорами, с кредитными картами, долевым участием, распространением информации в сети Интернет и т. д. Указанный инструмент существенно упростил работу судей и опосредовано повлиял на сокращение судейского корпуса в 2017 году количество квот судей с 210 000 до 120 000 человек^[12].

По состоянию на 2021 год технология автоматического распознавания речи, лежащая в основе системы 206, предоставленная iFlytek, была внедрена в более чем 4200 залах суда по всей стране^[13].

Помимо вышеуказанных ИИ-решений, больше внимания необходимо уделить предполагаемым ИИ-судьям, которые напрямую помогают в вынесении судебных решений (переход от помощников к потенциальным участникам). В Ханчжоу ИИ-судья «Сяо Чжи» использовался для вынесения решения по частному кредитному спору, помогая судье-человеку рассмотреть дело и вынести решение менее чем за 30 минут^[14]. Данный ИИ помогает судьям в режиме реального времени с интерактивным пулом аргументов, оценкой доказательств и рекомендациями по решению.

Указанные ИИ-решения, при всех их достоинствах и скорости принятия решения, осуществляются под пристальным наблюдением судей-людей, и ни одно судебное решение не выполняется без одобрения человека.

Позиция Чжоу Цяна, заместителя председателя ВК НПКСК 14-го созыва (ранее являлся председателем Верховного народного суда Китая с 2013 до 2023 гг.), заключается в том, что «ИИ никогда не заменит судей-людей и может только служить судьям (в качестве помощников)». При этом Чжоу Цян призывает более интенсивно использовать технологию ИИ в судебном процессе, консультироваться с ИИ при рассмотрении всех категорий дел^[15]. В случае если судьи отклоняют рекомендации ИИ, то должны предоставить письменное объяснение своих действий^[16].

При всем наличии указанных преимуществ нельзя не отметить определенные недостатки ИИ-технологий для целей судебного процесса. Например, текущие пилотные программы, тестирующие технологию распознавания лиц и эмоций для подтверждения достоверности показаний, ненадежны и технологически несовершенны на текущий момент^[13]. Также сохраняются вопросы поведенческой адаптации (которая формируется у потенциальных правонарушителей) и единообразия судебной практики, которая является источником обработки для ИИ. В указанной ситуации мы понимаем, что ИИ анализирует ситуацию, исходя из определенной модели, сформировавшейся в ранее обработанном им массиве. Имея в виду обозначенную обязательную практику предоставления пояснений со стороны судей о причине несогласия с рекомендациями, представленными ИИ, а также учитывая реализуемую ИИ функцию алгоритмического мониторинга общей судебной практики и отклонений от нее, можно говорить о риске возникновения определенной предубежденности со стороны судей по «делам, выпадающим из общей статистической массы», и сложности принятия решения, которые противоречит рекомендации ИИ^[17].

Вместе с тем, по нашему мнению, данный подход является более конструктивным, чем полная блокировка разработки ИИ используемого в т.ч. в ракурсе предиктивного судебного разбирательства во Франции^[18].

Рассматривая опыт США, необходимо отметить, что законодательная база определена на уровне Национальной инициативы по искусственному интеллекту 2020 года, согласно положениям которой США должна обеспечить лидерство в области ИИ, а также сохранение лидирующих позиций США в мире по разработке и использованию надежных систем искусственного интеллекта в государственном и частном секторах^[19].

Рассматривая вопросы применения ИИ в судебном процессе, необходимо отметить опыт, связанный с системой COMPAS (Correctional Defender Management Profiling for Alternative Sanctions), которая активно используется для оценки риска рецидива у осужденных, ходатайствующих об условно досрочном освобождении. Данная система на основе большого количества параметров, включая пол, возраст, образование, родственное и социальное окружение, статья по которой был осужден подсудимый, количество привлеченных раз к ответственности и т.д. (более 130 факторов в базе данных) позволяет определить с высокой степенью точности потенциальный риск подсудимого для общества в случае вынесения положительного решения судьи.

В этой связи показателен кейс Штат Висконсин против Эрика Л. Лумиса, где использовалась программа Компас^[20]. Согласно судебному решению, при оценке личности Эрика Л. ИИ выдала отрицательное заключение в отношении подсудимого. В рамках самого процесса примечательным фактором является то, что в дальнейшем в рамках процедуры апелляции не оспаривалась правомерность применения указанной программы, а подчеркивалась некорректность ее алгоритмов в отношении оценки подсудимых.

Рассматривая практику применения ИИ в судебном процессе, нельзя не отметить возможности современной технологии ИИ по подготовке исковых заявлений. В деле Mescall против Renaissance at Antiquity Slip Copy адвокат истца использовал ChatGPT для написания своих исков^[21]. В данном конкретном судебном процессе суд постановил, что «использование искусственного интеллекта создает проблемы, поднимает этические проблемы и может привести к санкциям или штрафы».

Суд в своем выводе ссылался так же на практику Mata против Avianca, Inc. где отмечается, что юрисконсульт на основе сознательного действия вводит в заблуждение суд, когда предоставляет несуществующие судебные заключения с поддельными цитатами и ссылками, созданными инструментом искусственного интеллекта ChatGPT^[22]. Указанные действия являются основаниями для наложения соответствующих санкций в адрес стороны со стороны суда.

В деле Уильямс против города Детройт гражданин США из Мичигана в 2020 году стал жертвой такой предвзятости со стороны технологии ИИ, используемой в правоохранительной сфере^[23].

Дело началось с того, что г-н Уильямс интерпретировал звонок из полицейского управления как шутку. Звонок из полицейского управления обусловлен тем, что его личность была ошибочно установлена с помощью системы распознавания лиц, и ему было предъявлено обвинение в преступлении, которого он не совершал.

Когда полиция задержала г-на Уильямса, они показали ему фотографию упомянутой записи наблюдения, и г-н Уильямс прокомментировал полицейскому управлению, что все чернокожие мужчины выглядят одинаково на «зернистых» фотографиях. Позже оказалось, что система распознавания лиц ошибалась и полицейские арестовали не того мужчину.

Рассматривая кейс применения ИИ в рамках алгоритмического анализа персональных данных, необходимо обратиться к делу Тайс против Amazon.com Inc. Истец подал иск против Amazon, заявив, что Алекса (виртуальный ассистент, разработанный компанией Amazon и используемый в умных колонках Amazon Echo и Amazon Echo Dot) нарушила Калифорнийский закон о вторжении в частную жизнь, записав частные разговоры без ведома истца^[24].

В рамках данного дела суд постановил, что запись со стороны ИИ производилась ограниченно, когда они использовали колонку, и между Amazon, и истцом не было договора о конфиденциальности, по которому Amazon брала на себя ответственность за «убытки», связанные с использованием колонки. Таким образом суд не смог удовлетворить требования истца в виду размытой грани, связанной с пользовательским соглашением и законом о конфиденциальности. Аналогичная практика была представлена в коллективном иске Уилкоски против Amazon.com Inc. (неправомерная запись разговоров пользователей колонок), в связи с нарушением Закона штата Иллинойс о биометрической конфиденциальности^[25].

Рассматривая феномен искусственного интеллекта в судебной практике России, нельзя не отметить усиление регламентации его применения для целей публичного управления.

В рамках своего последнего послания Федеральному собранию Президент Российской Федерации В.В. Путин отмечает значимую роль технологии ИИ для выстраивания оптимального взаимодействия граждан, бизнеса и государства (Послание Президента Федеральному Собранию. URL: http://kremlin.ru/events/president/news/73585 (дата обращения: 10.07.2024). В данном выступлении также отмечено обновление стратегического документа в области регламентации ИИ и установление горизонта регламентации до 2030 гг (Указ Президента РФ от 10 октября 2019 г. N 490 "О развитии искусственного интеллекта в Российской Федерации" (с изменениями и дополнениями).

Стратегией предусмотрено, что основной задачей использования ИИ является автоматизация однотипных и повторяющихся производственных операций, в том числе операций, осуществляемых в сфере отправления правосудия. В рамках указанного кейса отправной точкой для целей судебного процесса является создаваемый сервис «Онлайн-правосудие», который позволяет подавать документы в суд в электронной форме, изучать ход судебного разбирательства и принимать в нем участие онлайн, а также получать электронные судебные документы, подписанные электронно-цифровой подписью судьи^[26].

Кроме того, участие в судебном заседании сторон возможно с использованием технологии веб-конференции за счет внедрения технологии биометрической аутентификации участников процесса по лицу и голосу. В рамках указанного сервиса предполагается автоматизированное создание проектов судебных решений на основе анализа текста процессуального документа и материалов дела.

В рамках текущего законодательства с 1 сентября 2019 года в России введено автоматизированное распределение дел (ст. 18 АПК РФ, ст. 14 ГПК РФ, ст. 28 АПК РФ,ст. 30 УПК РФ). Система действует как в арбитражных судах, так и в судах общей юрисдикции для справедливого и беспристрастного распределения нагрузки между судьями.

Член Президиума Верховного Суда Российской Федерации В.В. Момотов отмечает, что в системе судов «слабый ИИ» уже активно применяется. ИИ помогает составлять проекты судебных решений, верифицирует комплектность пакета документов, представленных по делу. А в рамках экспериментального применения ИИ в Амурской области истец может сформулировать свое заявление с применением соответствующей технологии^[27]. При этом отмечается, что сильный ИИ недопустим как участник судебного процесса и только судья обладает такими необходимыми качествами, как справедливость, уважение к участникам, порядочность, достоинство, соблюдение профессиональной тайны.

В этом же контексте нужно отметить позицию Председателя Конституционного Суда РФ В.Д. Зорькина, который подчеркивает, что ИИ способен реализовывать действия, ведущие к юридически значимым результатам и выступать мостом по частичному переходу правосудия в онлайн-сферу. При этом отмечается опасность конструкции связанной с наделением ИИ личными правами по аналогии с человеческими^[28].

Автор статьи поддерживает подход В.Д. Зорькина о недопустимости уравнивания технологии ИИ в статусе правосубъекта, идентичного статусу человека и судьи. Вместе с тем, необходимо отметить, что данная технология в силу ее потенциальной автономности и формирования юридических значимых последствий потребует выработки принципиально новых подходов, в т.ч. через использование действующих механизмов или формирования новых конструктов. В ином случае, по нашему мнению, будет сформирована ситуация, когда разработчик ИИ (или иное лицо) будет намерено занижать автономность указанной технологии в целях нивелирования рисков привлечения к ответственности или усложнять процедуру установления юридически значимых фактов для определения ответственности лиц.

В этой логике возможным инструментом решения является распространение действующей конструкции юридических лиц на ИИ^[29] или же развитие концепта электронного лица для целей публичного права^[30].

Автор поддерживает тезис, представленный в статье Г.А. Гаджиева и Е.А. Войниканис о том, что в современной правовой науке уже сейчас присутствует необходимость разрешения правовых споров с участием автономных роботов (роботов с ИИ), и возможная техника юридического уподобления ИИ юридическим лицам (как наиболее эластичной конструкции) или квазисубъектам права является одним из способов эффективного рассмотрения указанных споров ^[29].

Альтернативный подход к развитию концепта электронного лица для целей публичного права, представленный О.А. Ястребовым и М.А. Аксеновой базируется на юридической фикции в виде некой организационной конструкции с использованием ИИ, которое предлагается зафиксировать как электронное лицо с последующей классификацией для целей публичного права. При этом также отмечается дискуссионный характер, связанный с определением юридической ответственности и условий наделения правосубъектностью электронного лица ^[30].

На основании вышеизложенного можно сформулировать следующие выводы и предложения:

1. Внедрение искусственного интеллекта в отечественный судебный процесс является перспективой ближайшего времени, которое потребует формирования соответствующей законодательной базы и судебной практики, учитывающей особенности данной технологии во всех технических аспектах, решения вопросов достоверности предлагаемых рекомендаций и решений ИИ, а также обеспечения соответствующей информационной безопасности.

2. Возможные области имплементации ИИ в рамках отечественной судебной практики мало отличаются от общемировых трендов, однако вопросы оценки доказательной базы со стороны ИИ потребуют дополнительной независимой внешней экспертизы или формирования публичного института, осуществляющего контроль за технологиями ИИ, используемыми в области государственной власти.

3. Отправной точкой для наиболее эффективного и безопасного внедрения ИИ могут выступать дела, связанные с упрощенным порядком рассмотрения дела или те споры, которые носят высокий характер достоверных цифровых данных.

4. Говоря о возможной правосубъектности технологий ИИ для целей судебного процесса, на текущий момент необходим отметить недопустимость использования конструкции, идентичной человеку. Однако возможным альтернативным решением может выступить юридическая фикция через призму юридического лица или создание новой конструкции электронного лица.