Рус Eng Cn Перевести страницу на:  
Please select your language to translate the article


You can just close the window to don't translate
Библиотека
ваш профиль

Вернуться к содержанию

Национальная безопасность / nota bene
Правильная ссылка на статью:

Искусственный интеллект в контексте обеспечения национальной безопасности

Горохова Светлана Сергеевна

кандидат юридических наук

доцент, Департамент международного и публичного права, Финансовый университет при Правительстве Российской Федерации

109456, Россия, Московская область, г. Москва, ул. 4-Й вешняковский проезд, 4, каб. 414

Gorokhova Svetlana Sergeevna

PhD in Law

Associate Professor, Department of International and Public Law, Financial University under the Government of the Russian Federation

109456, Russia, Moskovskaya oblast', g. Moscow, ul. 4-I veshnyakovskii proezd, 4, kab. 414

Swettalana@yandex.ru
Другие публикации этого автора
 

 

DOI:

10.7256/2454-0668.2020.3.33465

Дата направления статьи в редакцию:

16-07-2020


Дата публикации:

04-08-2020


Аннотация: Предметом исследования являются наиболее перспективные технологические решения с использованием искусственного интеллекта и мировые тренды их использования вооруженными силами технологически передовых государств мира. Выявляются основные направления применения технологий ИИ рядом стран, в том числе и Российской Федерацией. Проблема исследования заключается в недостаточной степени сбалансированности подхода к применению технологических решений на основе ИИ, определяемого повышенной степенью опасности использования искусственных интеллектуальных систем для обеспечения безопасности и обороны государств, с одной стороны, и невозможностью отказа от них на современном этапе в силу имеющихся международных тенденций, с другой.   Научная новизна работы заключается в попытке проведения комплексного анализа текущей мировой ситуации в сфере определения перспектив и опасностей применения технологий ИИ в вооруженных силах, и в сфере обеспечения национальной безопасности современных государств. В качестве основных выводов работы можно отметить следующее. Технологии ИИ являются наиболее перспективным направлением переоснащения вооруженных сил ведущих военных держав современного мира. Разработки ведутся в различных направлениях, варьирующихся от беспилотных транспортных средств до смертельного автономного оружия. Специалисты отмечают как ярко выраженные положительные перспективы использования ИИ в сфере обеспечения национальной безопасности, так и возможные негативные последствия от его использования.


Ключевые слова:

искусственный интеллект, робот, беспилотное транспортное средство, смертельное автоматическое оружие, национальная безопасность, вооруженные силы, оборона, рой, информационная безопасность, активная безопасность

Abstract: The subject of this research is the most promising technological solutions with application of artificial intelligence and global trends of their implementation by the armed forces of technologically advanced countries. The author determines the key vectors in application of artificial intelligence technologies by a number of countries, including the Russian Federation. The problem of research consist in the lack of balance in the approach towards application of technological solutions based on artificial intelligence, d on the one hand substantiated by the increased risk of application of artificial intelligence systems for ensuring security and defense of the countries, while on the other – impossibility of rejecting them due to current international trends. The scientific novelty consists in the attempt of comprehensive analysis of the current global situation with regards to outlining the prospects and risks of application of artificial intelligence technologies in the armed forces and in the sphere of ensuring national security of modern countries. The following conclusions were made: artificial intelligence technologies are the most promising direction for re-equipment of armed forces of the leading military powers of modern world; explorations are conducted in multiple directions, varying from unmanned vehicles to deadly autonomous weapon. The experts note the evident positive prospects of application of artificial intelligence in the sphere of ensuring national security, as well as potential negative consequences of its implementation.  


Keywords:

artificial intelligence, robot, uninhabited vehicle, deadly automatic weapons, national security, armed forces, defense, swarm, information security, active safety

Искусственный интеллект (далее ИИ) - это быстро развивающаяся область технологий, потенциально имеющая значительные последствия для национальной безопасности любого государства. Многие высокотехнологические страны разрабатывают приложения ИИ, в том числе, для целого ряда военных функций. Исследования ИИ ведутся в области сбора и анализа разведданных, логистики, киберопераций, информационных операций, командования и управления, а также различных полуавтономных и автономных транспортных средствах. При этом интересен подход к развитию технологий ИИ в разных странах. Так, если основные игроки рынка ИИ, ведут ключевые разработки сугубо в гражданских, мирных целях, и лишь потом рассматривают вопрос о передаче этих технологий военным, особенностью российского подхода, как считается, является то, что Российская Федерация внедряет прорывные технологии в первую очередь в оборонной промышленности и только потом ищет им гражданское применение.

Однако, какой бы подход не избирали страны, уже сейчас ИИ вовлечен в локальные боевые операции. Технологии ИИ представляют собой уникальные вызовы для военной интеграции. Развитые в сфере прорывных технологий страны конкурируют за инновационные военные приложения ИИ.[1] Китай общепризнанно является ведущим конкурентом в этом отношении, и намерен захватить глобальное лидерство в развитии ИИ к 2030 году. В настоящее время Китай в первую очередь ориентирован на использование ИИ для принятия более быстрых и обоснованных решений, а также на разработку различных типов воздушных, сухопутных, морских и подводных автономных транспортных средств. Весной 2017 года гражданский Китайский университет во взаимодействии с военными продемонстрировал на авиашоу рой из 107 беспилотных летательных аппаратов с поддержкой искусственного интеллекта. В пресс-релизе, опубликованном после этого, было показано компьютерное моделирование аналогичного формирования роя, обнаружившего и уничтожившего ракетную установку.[2]

Кроме того, по мнению Мульчандани[3]: «Китайские военные и полицейские власти, бесспорно, обладают самыми передовыми в мире возможностями, такими как нерегулируемое распознавание лиц для организации всеобщего наблюдения и контроля за своим населением, мониторинг видео, собранного из их систем, и анализ текстов на китайском языке для интернет-цензуры и цензуры средств массовой информации».[4] США, по его словам, инвестирует, например, в системы, которые одновременно повышают боеспособность истребителей, а также помогают военным защищать и обслуживать Соединенные Штаты, в том числе во время пандемии COVID-19.[4] Так, проект Salus, который был запущен в марте 2020 года, применяет искусственный интеллект для помощи в предсказании нехватки таких вещей, как вода, лекарства и предметы снабжения, необходимые в борьбе с пандемией. Объединенный центр искусственного интеллекта Пентагона разработал проект Salus, как платформу для агрегирования данных, использующую прогнозное моделирование, чтобы сузить требования к цепочке поставок и дефицит в конкретных местах, чтобы задействованные в борьбе с COVID19 службы могли получить необходимое оборудование.[5] Одновременно, по словам американских военных, озвученных на панельной дискуссии Defense One Tech Summit (встреча на высшем уровне оборонных технологий) под названием «Соединение земли, воздуха, моря и космоса, чтобы доминировать на поле боя завтрашнего дня» 17 июня 2020 года, самым важным элементом на поле боя будущего будут не ракеты, пули или роботы, а данные и возможность собирать их из любой точки и отправлять туда, где они должны быть.[6] В процессе обсуждения указанной гипотезы, высказывалось мнение, что «Мозаичная война», концепция, разрабатываемая Агентством перспективных исследовательских проектов Минобороны США (Defense Advanced Research Projects Agency), будет связывать боевые платформы - ракетные батареи, танки, самолеты, корабли и так далее. В такой ситуации, применение сети с ИИ позволило бы военным принять более правильное решение, какой актив наиболее эффективен при выполнении конкретной миссии. Например, если самолеты Военно-Воздушных сил и Военно-Морского флота находятся в районе, подлежащем обстрелу, ИИ может предложить, как использовать их наилучшим образом в сложившейся ситуации. В наземном сценарии мозаичной войны, по мнению американских военных, ИИ может предложить отправить беспилотный летательный аппарат или наземного робота впереди основной боевой силы. Эта беспилотная система могла бы обнаружить вражеский танк и передать координаты обратно, которые затем поступят в систему поражения без прямой видимости в тылу, которая, в свою очередь, запускает свои боеприпасы и уничтожает цель. При этом, искусственный интеллект, возможно, будет развернут на поле боя в многодоменных операциях через пять-десять лет, считает Тим Грейсон, директор отдела стратегических технологий Агентства перспективных оборонных исследовательских проектов.[6]

Еще одной разработкой американских военных подрядчиков (в данном случае Lockheed Martin) является конвойная технология активной безопасности (CAST) - это система, установленная на военных автомобилях и предназначенная для того, чтобы сделать их полуавтономными. Если солдаты, движущиеся в середине колонны, внезапно попадают под огонь противника, экипированная CAST машина может зафиксироваться на машине впереди нее и вести себя с помощью машинного зрения. Это могло бы дать оператору на месте водителя возможность лучше защитить себя в пылу сражения.

В категории «кибербезопасность и специальные миссии» годового отчета за 2017 год компания Raytheon заявила: «Raytheon в рамках обеспечения кибербезопасности и специальных миссий разрабатывает и внедряет ... решения быстрого реагирования, а также поддержку специальных миссий с далеко идущими последствиями для разведывательного сообщества США, Министерства обороны, гражданских федеральных агентств.» Это заявление, по мнению экспертов, может относиться к системе предотвращения (PREVENT) Raytheon, продемонстрированной в цифровом журнале «Technology Today» в 2018 году, и, подробно описывающем исследовательские усилия Raytheon. PREVENT обнаруживает возникновение угроз общественной безопасности, вычисляя и оценивая нормальные модели трафика в исследуемом регионе. PREVENT способен обеспечить раннее предупреждение операторов на основе этого обнаружения с целью проведения дальнейшего анализа выявленных участников, вовлеченных в нерегулярную деятельность.[7]

Американские военные также интегрируют системы искусственного интеллекта в боевые действия через головную инициативу под названием Project Maven, которая использует алгоритмы искусственного интеллекта для идентификации целей повстанцев в Ираке и Сирии. Цель проекта Maven, по словам генерал-лейтенанта ВВС Джона Н. Т. Джека Шанахана, директора по оборонной разведке для поддержки военных истребителей: «состоит в том, чтобы превратить огромный объем данных, доступных Минобороны, в действенную разведку и понимание.»[8] Ожидается, что ИИ будет особенно полезен в разведывательной деятельности благодаря наличию больших массивов данных, доступных для анализа. Например, первый этап проекта Maven включает автоматизацию обработки разведданных в поддержку кампании по борьбе с ИГИЛ. В частности, команда проекта Maven использует алгоритмы компьютерного зрения и машинного обучения в ячейках сбора разведданных, которые будут анализировать кадры с беспилотных воздушных судов и автоматически определять враждебную активность для точечного исследования. В этом качестве ИИ предназначен для автоматизации работы человеческих аналитиков, которые в настоящее время тратят часы на просеивание видео для получения полезной информации. Предполагается, что потенциально освобожденные аналитики должны будут принимать более эффективные и своевременные решения на основе полученных данных.[9]

Еще одно государство-конкурент на рынке ИИ, это Израиль. Хотя Израилю всего 70 лет, он обладает одной из самых современных вооруженных сил в мире. Несмотря на небольшой размер и бюджет Израиля (по сравнению с крупными сверхдержавами мира), около 4,5% его ВВП тратится на исследования и разработки в оборонной сфере, что почти вдвое превышает средний показатель ОЭСР (Организация экономического сотрудничества и развития). Для сравнения, только 2% немецких НИОКР и 17% американских НИОКР предназначены для военных, в то время как 30% израильских НИОКР тратятся на военную продукцию.[10] Военное применение ИИ в 4 крупнейших военных оборонных подрядчиках Израиля охватывает следующие четыре области:

Elbit- автономный барражирующий беспилотный летательный аппарат;

IAI-автономный патрульный беспилотник периметра;

Rafael Advanced Defense Systems- ракетное наведение;

IMI Systems - автономные транспортные средства.

Elbit - крупнейший израильский военный оборонный подрядчик, предлагает Sky-Striker, автономную технологию барражирующих боеприпасов, которая, как утверждается, может помочь военным наносить скрытые и точные авиаудары по целям с помощью автономного устройства с применением ИИ.

Барражирующие боеприпасы - это оружие, которое способно задерживаться в воздухе, когда оно достигает соответствующей цели. Самой ранней формой таких боеприпасов были начиненные взрывчаткой, пилотируемые транспортные средства или «террористы-смертники». Технология барражирующих боеприпасов сегодня, с искусственным интеллектом или без него, продвинулась до такой степени, что человеческое пилотирование больше не требуется. Российская промышленность, к слову, также не так давно представила свое первое технологическое решение с барражирующими боеприпасами – беспилотный летательный аппарат, способный осуществлять разведку и атаковать цель путем прямого попадания. На военно-техническом форуме «Армия-2019», компанией Zala Aero Group (концерн Калашников) впервые было продемонстрированно новое изделие этого класса. Под названием «Ланцет» представлены две версии ударного БПЛА. Изделия «Ланцет-1» и «Ланцет-3» унифицированы по планеру и части внутренних систем. Отличия заключаются в полезной нагрузке и летно-технических характеристиках. Аппараты несут боевые части разной массы, а также отличаются взлетным весом и продолжительностью полета.

Израильская аэрокосмическая промышленность, или IAI, является вторым по величине оборонным израильским подрядчиком в мире. IAI предлагает множество продуктов с функциональностью искусственного интеллекта, один из которых - автономный патрульный беспилотник периметра (Guardium), который, как утверждает IAI, может помочь обеспечить безопасность объектов, сократить расходы и ресурсы на патрулирование и обеспечение безопасности. IAI относится к Guardium как к беспилотному транспортному средству безопасности, так как оно является наземным, а не воздушным, в отличие от традиционных беспилотников. Guardium имеет возможность путешествовать со скоростью до 48 mile per hour (миль в час), что соответствует, приблизительно 75,6 км/ч, чтобы перехватить злоумышленников на пограничном периметре до прибытия сотрудников службы безопасности, и усиливает защиту, не требуя массового развертывания ресурсов. IAI утверждает, что Guardium работает на платформе экспертных систем, а не на более современной системе машинного обучения, и используется на израильской границе с 2008 года. Сегодня эта система рассматривается для размещения в Международном аэропорту им. Бен-Гуриона неподалеку от Тель-Авива.

Россия также активно участвует в разработке военного ИИ, уделяя основное внимание робототехнике.[11] В настоящее время российские военные имеют на вооружении более 2100 беспилотных летательных аппаратов (далее БПЛА), сообщает Министерство обороны Российской Федерации (Минобороны РФ). Это делает российский беспилотный воздушный флот одним из крупнейших в мире, уступая американскому (более 10 000 БПЛА) и, возможно, превосходя китайский флот. Сирийская кампания оказалась беспрецедентной для России в области применения беспилотных летательных аппаратов. По данным Минобороны РФ, российские беспилотники совершили не менее 23 000 боевых вылетов и отработали 140 000 часов, поддерживая разведку, наблюдение, обнаружение и поиск целей, что значительно превышает количество боевых вылетов пилотируемых самолетов в этой кампании.[12] Однако, подавляющее большинство российских военных беспилотников являются невооруженными, легкими, короткоствольными и относительно недорогими.[13] Основная единица российского беспилотного флота сегодня -отечественный БПЛА «Орлан-10» с дальностью полета до 120 км, составляющий почти половину всех БПЛА, эксплуатируемых российской армией.[14] С дальностью полета до 250 км, средней высотой, и большой выносливостью, беспилотники, известные как форпосты, являются самым дальним, из ныне действующих БПЛА России. Беспилотник класса «Форпост» сам по себе является более старой израильской конструкцией Searcher 2, собранной в России по лицензионному соглашению.[15]

Отметим, что в январе 2020 года, Уральский завод гражданской авиации завершил испытания экспериментального образца перспективного беспилотного летательного аппарата «Альтиус-У», оснащенного спутниковым каналом обмена данными и управления, создание которого ведется по проекту «Альтаир». Разработка беспилотника «Альтиус» осуществляется с 2011 года. Изначально работы по проекту вело Конструкторское бюро имени Симонова, которое создало по меньшей мере три летных образца под названием «Альтиус-М», после чего, в конце 2018 года Минобороны РФ передало проект Уральскому заводу гражданской авиации. Первый полет беспилотного аппарата в версии «Альтиус-У» состоялся в августе 2019 года. Максимальная взлетная масса «Альтиуса-У» составляет 6 тонн при длине 12 метров и размахе крыла - около 30 метров. Аппарат способен находиться в воздухе около 48 часов, рассчитан на ведение разведки с высоты 12 тысяч метров, а дальность полета аппарата составляет около десяти тысяч километров. «Альтиус-У» может нести полезную нагрузку массой до 2 тонн.

Кроме того, в ноябре 2016 года Воздушно-космические войска России приступили к опытной эксплуатации перспективных ударных беспилотников «Орион». Экспортная версия данного БПЛА была представлена на авиасалоне МАКС-2017. Максимальная взлетная масса аппарата составляет 1,2 тонны, максимальная продолжительность его полета - 30 часов, а высота - около 8 тысяч метров. Беспилотный аппарат может нести боевую нагрузку массой до 450 килограммов.

Когда речь заходит о российских беспилотных наземных системах, страна разрабатывает целую линейку для удовлетворения различных боевых потребностей.[16] Они включают в себя малые системы, и большие танковые транспортные средства, загруженные дальнобойным, противотанковым и зенитным вооружением. Хотя большинство из них все еще проходят испытания и оценку, некоторые уже прошли испытание огнем. Россия отправила свой самый тяжелый боевой многофункциональный робототехнический комплекс на гусеничном ходу «Уран-9» в Сирию для «околобоевых испытаний», где, правда, пользователи и разработчики обнаружили, что он потерпел неудачу по всем основным критериям - от двигателя до наведения на цель, стрельбы и связи с другими ключевыми системами.[17]

Другая боевая автоматизированная система (далее БАС) «Соратник», также была испытана в условиях, приближенных к боевым при температуре выше 30 градусов по Цельсию. Бронированная гусеничная машина «Соратник» предназначена для разведки и ретрансляции, патрулирования и охраны территорий и важных объектов, разминирования и разграждения.[18] В 2017 году военные получили на вооружение небоевых саперных роботов «Уран-6», и управляемые комплексы «Скарабей» и «Сфера», которые также служили с военными страны в сирийских боях.[19]

Вообще, следует констатировать, что общее развитие искусственного интеллекта в Российской Федерации стремительно растет, как в частном, так и в государственном секторе, и, соответственно, в вооруженных силах страны. Не так давно, Президент Российской Федерации, В.В. Путин заметил, что, по его мнению, самая интересная область национальных исследований связана именно с ИИ, наряду с генетикой.[20] Сегодня в Минобороны России проводится много исследований в области искусственного интеллекта, выделяются финансовые, людские и материальные ресурсы в рамках обширной технической, академической и промышленной инфраструктуры. Развитие ИИ в частном секторе России также переживает возрождение, во многом благодаря общей сильной академической базе STEM, которая способствует развитию высоких технологий.[21]

В России в октябре 2012 года, по аналогии с американским DARPA (Defense Advanced Research Project Agency),[22] был создан Фонд перспективных исследований (ФПИ), который сегодня объединяет 46 исследовательских лабораторий.[23] 20 марта 2018 года ФПИ объявил, что подготовил предложения для Минобороны РФ по стандартизации разработки ИИ, которые включают в себя следующие ключевые направления:[24] распознавание изображений, распознавание речи, позволяющее управлять автономными военными системами, а также поддержка ИИ жизненного цикла оружия. ФПИ объявил об этих принципах в марте 2018 года на научном форуме под названием «Искусственный интеллект: проблемы и решения», организованном Минобороны РФ, Министерством образования и Российской академией наук с целью продвижения предложений, направленных на мобилизацию государства и научного сообщества к работе с ИИ. В своем обращении к участникам конференции Министр обороны России Сергей Шойгу призвал гражданских и военных конструкторов страны объединить усилия по разработке искусственного интеллекта для обеспечения технологической и экономической безопасности страны.[25] Ключевым результатом этого международного симпозиума стала публикация 10-шаговой рекомендации «дорожная карта» развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект».[26] В этой дорожной карте намечены предлагаемые государственно-частные партнерства и краткосрочные и среднесрочные мероприятия, которые следует реализовать. В рамках разработки дорожной карты развития сквозных цифровых технологий (далее СЦТ) «Искусственный интеллект и нейротехнологии» были выделены семь субтехнологий СЦТ (далее суб-СЦТ):

компьютерное зрение;

обработка естественного языка;

распознавание и синтез речи;

рекомендательные системы и интеллектуальные системы поддержки принятия решений;

перспективные методы и технологии в ИИ;

нейропротезирование;

нейроинтерфейсы, нейростимуляция и нейросенсинг.

Для каждой суб-СЦТ определен текущий уровень готовности суб-СЦТ (далее УГТ) (в соответствии с ГОСТ Р 57194.1-2016) (Таблица 1), а также выделены наиболее перспективные потенциальные задачи (технологии), потенциальные научно-технические и технологические решения (target use-cases).

Таблица 1. Уровень готовности субтехнологий[27]

Субтехнология

УГТ

Сопоставление с мировым уровнем

Компьютерное зрение

6

УГТ по ряду технологических решений в России достигает 6, что соответствует мировому уровню

Обработка естественного языка

6

УГТ по ряду технологических решений в России достигает 6, что соответствует мировому уровню

Распознавание и синтез речи

5

УГТ по ряду технологических решений в России достигает 5, что соответствует мировому уровню

Рекомендательные системы и интеллектуальные системы поддержки принятия решений

7

УГТ по ряду технологических решений в России достигает 5, что соответствует мировому уровню

Перспективные методы и

технологии в ИИ

2

УГТ по ряду технологических решений в России достигает 2, что соответствует мировому уровню

Нейропротезирование

5

УГТ по ряду технологических решений в России достигает 5, что соответствует мировому уровню

Нейроинтерфейсы,

нейростимуляция и нейросенсинг

3

УГТ по ряду технологических решений в России достигает 3, что соответствует мировому уровню

В ходе мартовской конференции 2018 года заместитель министра обороны России Николай Панков заявил, что «из 388 научно-исследовательских институтов (Минобороны РФ) 279 сосредоточены в военных училищах, и большинство из них активно занимаются исследованиями в области искусственного интеллекта, робототехники, военной кибернетики и других перспективных направлений.»[28] Примером усилий Минобороны РФ по созданию инфраструктуры, способствующей развитию ИИ, также является создание военно-инновационного «технополиса» в Анапе, на Черноморском побережье, получившего название «Эра».[29] 14 основных направлений исследований, реализуемых этим проектом обозначены как:

технологии искусственного интеллекта;

малые космические аппараты;

робототехника;

информационная безопасность;

автоматизированные системы управления и IT-системы;

технологии энергообеспечения, аппараты и машины жизнеобеспечения;

техническое зрение, распознавание образов;

информатика и вычислительная техника;

биотехнические системы и технологии;

Нанотехнологии и наноматериалы;

гидрометеорологическое (метеорологическое) и геофизическое обеспечение;

гидроакустические системы обнаружения объекта;

геоинформационные платформы нового назначения;

оружие на новых физических принципах.

Кроме того, уже несколько лет ФПИ работает над экспериментальной робототехнической платформой - боевым роботом «Маркер», который призван стать помощником человеку на поле боя.[30] «Маркер» оснащен ключевыми технологиями наземной робототехники: техническое зрение, связь, навигация, автономное движение и применение, а также групповое управление. «Маркер» представляет собой универсальный комплекс с модульной архитектурой, на который можно установить, как в конструкторе Lego, новые узлы, агрегаты, приборы, другое оборудование.

Резюмируя, отметим, что в настоящее время российские военные работают над внедрением элементов искусственного интеллекта в различные системы вооружения, подчеркивая важность ИИ в сборе и анализе данных для облегчения обработки информации. В частности, в марте 2018 года действовавший на тот момент, замминистра обороны Ю.И. Борисов (сейчас председатель Авиационной коллегии при Правительстве Российской Федерации), заявил, что развитие ИИ необходимо для эффективного противодействия противникам в информационном пространстве и победы в кибервойнах.[31]

Российские гражданские разработки ИИ в области распознавания образов и речи также могут быть включены в оборонные и охранные приложения в будущем. При этом, важно отметить, что российское научное сообщество, в целом, положительно относится к возможности применения ИИ-технологий для ведения войны,[32] хотя большинство ученых, все-же высказываются в духе, что: «поспешность и необдуманность военных разработок ИИ могут привести к новой гонке вооружений в мире и постепенному игнорированию норм и принципов международного права». [33] Есть и такие, которые видят в военном применении ИИ неоправданно высокие риски.[34] Так же, как и Google в продолжающемся споре о его роли в американском оборонном секторе.[35]

В целом, конечно, российский оборонный сектор готовится к долгосрочному высокотехнологичному соперничеству со своими предполагаемыми противниками. И, несмотря на то, что некоторые вопросы остаются нерешенными, Минобороны РФ и его военно-промышленный сектор находятся в большей синхронизации, чем когда-либо с момента распада СССР. Начиная с 2012 года в министерстве были созданы управления,[36][37] которые занимаются разработкой беспилотных и роботизированных технологий и созданием системного подхода, направленного на оптимизацию и облегчение создания этого оружия от его первоначальной разработки до окончательного (или потенциального) приобретения. Последние 10 лет развития российского оборонного сектора свидетельствуют о том, что российские военные достигают более высокого технического уровня. Принимая во внимание данный аспект, некоторые западные исследователи считают, что российским потенциальным конкурентам на геополитической арене, в конечном итоге придется столкнуться с более эффективным и способным противником, и им придется разрабатывать новые технологии в противодействии тому, чего они не делали уже много лет – равному противнику, стремящемуся выставить прорывные и передовые военные технологии в бою.[38]

Искусственный интеллект, вероятно, будет ключевой технологией в продвижении военных киберопераций. В своем выступлении в сенатском комитете по вооруженным силам в 2016 году командующий киберкомандованием США адмирал Майкл Роджерс заявил, что полагаться только на человеческий интеллект в киберпространстве-это «проигрышная стратегия.»[39] Кроме того, будущие системы искусственного интеллекта могут использоваться для выявления каналов связи, перерезанных противником, и поиска альтернативных способов распространения информации. По мере того как сложность систем ИИ станет расти, его алгоритмы также могут быть способны предоставлять командирам меню жизнеспособных курсов действий, основанных на анализе боевого пространства в реальном времени, что, в свою очередь, позволит быстрее адаптироваться к сложным событиям.

Как США, так и КНДР тестирует и другие возможности искусственных интеллектуальных систем, чтобы получить кооперативное поведение беспилотных объектов или, по-другому, их «роение». Роение является уникальным подмножеством автономной разработки транспортных средств, с концепциями, начиная от крупных формирований недорогих транспортных средств, предназначенных для подавления оборонительных систем до небольших эскадрилий транспортных средств, которые взаимодействуют для обеспечения электронной атаки, огневой поддержки или локализации навигационно-коммуникационные сети для соединений сухопутных войск. В настоящее время разрабатывается целый ряд различных возможностей Роя. Например, в ноябре 2016 года военно-морской флот США завершил испытание роя из пяти беспилотных лодок с поддержкой искусственного интеллекта, которые совместно патрулировали участок 4-х мильной зоны Чесапикского залива и перехватили судно «Интрудер». Результаты этого эксперимента могут привести к созданию технологии искусственного интеллекта, адаптированной для защиты гаваней, охоты на подводные лодки или разведки перед строем более крупных кораблей.[40]

Чуть позже, Военно-морской флот США провел испытания роя подводных беспилотников,[41] а Управление стратегических возможностей успешно испытало рой из 103 сброшенных с воздуха микро-дронов.[42]

Как уже отмечалось, искусственный интеллект, это быстроразвивающаяся технология, захватывающая все больше и больше значимых сфер, в числе которых, безусловно, и сфера обеспечения национальной безопасности. ИИ обладает рядом уникальных характеристик, которые могут быть важны для рассмотрения, поскольку эти технологии выходят на арену национальной безопасности.

Во-первых, ИИ имеет потенциал для интеграции в различные приложения, улучшая так называемый «Интернет вещей», в котором разрозненные устройства объединены в сеть для оптимизации производительности. Как утверждает Кевин Келли, основатель журнала Wired: «[ИИ] оживит инертные объекты, подобно тому, как это было с электричеством более ста лет назад. Все, что мы раньше электрифицировали, мы теперь будем познавать.»[43] Во-вторых, многие ИИ приложения двойного назначения, то есть они имеют как военные, так и гражданские приложения. В-третьих, ИИ является относительно прозрачным, что означает, что его интеграция в продукт не сразу распознается.

Однако, хотя ИИ обладает большим потенциалом для придания ряда преимуществ в военном контексте, он может также создавать определенные проблемы. Технология ИИ могла бы, например, облегчить автономную работу операции, приводят к более обоснованному принятию военных решений, а также увеличить скорость и масштаб военных действий. Однако, также она может быть непредсказуемой или уязвимой для уникальных форм манипуляции. В результате этих факторов аналитики придерживаются широкого спектра мнений о том, насколько влиятельным ИИ будет в будущих боевых операциях. В то время как некоторые считают, что технология получит минимальное влияние, большинство полагают, что применение ИИ в боевых условиях будет иметь по крайней мере эволюционный, если не революционный эффект.

Тем не менее, развитие военного ИИ детерминирует ряд потенциальных вопросов, ответить на которые представляется необходимым в ближайшее время:

Как государство может повлиять на инициативы реформы оборонных закупок, которые облегчают развитие военного ИИ?

Какие изменения, если таковые имеются, необходимы для осуществления эффективного надзора за развитием ИИ?

Как сбалансировать исследования и разработки, связанные с искусственным интеллектом и автономными системами, с этическими соображениями?

Какие законодательные или нормативные изменения необходимы для интеграции военных приложений ИИ?

Какие меры необходимо принять, чтобы минимизировать риски связанные с использованием ИИ?

Кроме того, довольно остро, причем для всех государств стоит вопрос применения смертоносных автономных систем вооружений, которые могут использовать ИИ для выбора и поражения целей. Смертоносные автономные оружейные системы (LAWs) - это особый класс оружейных систем, способных самостоятельно идентифицировать цель и использовать бортовую оружейную систему для поражения и уничтожения ее без участия человека. LAWs требуют наличия системы компьютерного зрения и продвинутых алгоритмов машинного обучения для классификации объекта как враждебного, принятия решения о захвате и направления оружия к цели.

С 2014 года идут международные дискуссии по вопросам права в рамках Конвенции Организации Объединенных Наций о конкретных видах обычного оружия (КОО). Примерно 25 государств-участников призвали к заключению договора о запрещении «полностью автономных систем вооружений» в силу этических соображений, в то время как другие государства-участники склоняются к принятию официальных постановлений или политических деклараций.[44] В связи с этим обстоятельством, некоторые аналитики обеспокоены тем, что усилия по запрещению или регулированию LAWs могут привести к строгому контролю за приложениями ИИ, которые могут быть адаптированы для смертельного использования, тем самым сдерживая развитие других полезных военных, или даже коммерческих технологий.

В любом случае, развитие ИИ должно увеличить императив для строгих стандартов безопасности, так как алгоритмы ИИ уязвимы для искажения, кражи и манипулирования, особенно если набор обучающих данных недостаточно защищен.

Еще одной проблемой массового применения ИИ технологий, являются возможные враждебные кибероперации и «глубокие фейки», поскольку ИИ обеспечивает все более реалистичные фото, аудио и видео подделки, которые противники могли бы использовать в рамках своих информационных операций.[45] Глубокие фальшивые технологии могут быть применены для создания ложных сообщений новостей, влияния на общественный дискурс, подрыва общественного доверия и попытки шантажа дипломатов и иных государственных служащих. [46]

Хотя большинство предыдущих глубоких подделок, так или иначе обнаруживались экспертами, сложность технологии прогрессирует до такой степени, что вскоре она может быть способна обмануть инструменты экспертного анализа.

Американская компания MediFor разработала некоторые первоначальные инструменты для выявления подделок, произведенных ИИ, но, как отмечается: «ключевая проблема ... заключается в том, что системы машинного обучения могут быть обучены тому, чтобы перехитрить инструменты судебной экспертизы.» [47]

Искусственный интеллект может также использоваться для создания полных «цифровых моделей жизни», в которых цифровой «след» человека сопоставляется с историями покупок, кредитными отчетами, профессиональными резюме и подписками для создания всеобъемлющего поведенческого профиля. Как и в случае с глубокими подделками, эта информация, в свою очередь, может быть использована для целенаправленных операций влияния или шантажа.

Не зря, в 2016 года ИИ был идентифицирован как «новая и разрушительная технология» на ежегодных слушаниях сенатского комитета США по разведке по теме «Оценка глобальной угрозы».[48] Примечательно, что российская политическая и правовая практика, по сути вообще не упоминает о потенциальных опасностях применения ИИ, делая акцент только на положительных аспектах данного явления.[49] По нашему мнению, такой подход не является достаточно взвешенным, и презюмируя возможную пользу сотрудничества естественного и искусственного разумов, необходимо помнить и о негативных последствиях такого коллаборационизма.[50] Поскольку, последствия более широкого внедрения ИИ включают в себя еще и повышенную уязвимость к кибератакам, трудности в установлении атрибутивных признаков объектов, прогресс достижений в области иностранного оружия и разведывательных систем, риск несчастных случаев и связанные с ними вопросы ответственности, а также и возможную безработицу. Повышенная зависимость от ИИ для автономного принятия решений создает новые уязвимые места для кибератак и операций влияния. Системы искусственного интеллекта восприимчивы к целому ряду разрушительных и обманчивых тактик, которые трудно предвидеть или быстро осознать. Попытки ввести в заблуждение или скомпрометировать автоматизированные системы могут создать дополнительные возможности для разрушения или повреждения критической информационной инфраструктуры государства или сетей национальной безопасности.

Подводя итог всему вышеизложенному, следует констатировать, что фраза «Si vis pacem, para bellum», в достаточной степени может быть отнесена к последующему плотному и неизбежному взаимодействию человечества с искусственным интеллектом, в том числе, и в контексте обеспечения национальной безопасности государств: планируя мирное сосуществование двух разумов, мы должны четко понимать, что включая искусственный интеллект в человеческие конфронтации по разные стороны баррикад, нужно быть подготовленным ко всему, в том числе, и к войне.

И хотя позиции Российской Федерации по ряду направлений в данной сфере все еще недостаточно сильны, необходимо понимать, что качественный научный прорыв в области ИИ может произойти в любое время и в любой стране, не только за счет крупных государственных предприятий, но и силами небольших частных компаний и даже отельных энтузиастов. Очевидно, что это событие навсегда изменит баланс сил на мировой арене и вероятно поставит точку в глобальной гонке вооружений.

Библиография
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
31.
32.
33.
34.
35.
36.
37.
38.
39.
40.
41.
42.
43.
44.
45.
46.
47.
48.
49.
50.
References
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
31.
32.
33.
34.
35.
36.
37.
38.
39.
40.
41.
42.
43.
44.
45.
46.
47.
48.
49.
50.

Результаты процедуры рецензирования статьи

В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.

В статье представлен обзор текущего состояния разработок и исследований в сфере искусственного интеллекта в ведущих странах мира. Предметной областью исследования, таким образом, является технологии искусственного интеллекта преимущественно на службе военной индустрии. Актуальность данной проблематики не вызывает сомнений, поскольку искусственный интеллект является одной из передовых разработок глобализационной эры, которая внедряется во все сферы экономики и используется как в военных, так и внутриполитических, социальных, гуманитарных и иных целях. Автор комплексно подошел к проблеме развития данной отрасли в Российской Федерации, обозначив правовые, экономические, международные и технологические аспекты. Однако, несмотря на детальную проработанность темы, использование достаточно большого количества источников и литературы (нужно признать, что автор ссылается на новейшую библиографию) в статье присутствует ряд недостатков с точки зрения оформления структуры и программы исследования. Автором совершенно не артикулированы ни цель, ни задачи, ни методология исследования. Статья не имеет также логических подзаголовков, которые упростили бы ее восприятие. Еще одним существенным аспектом с научной точки зрения является тот факт, что автор, во-первых, не приводит ни одного определения понятия национальной безопасности, существующего в современной политической науке и теории международных отношений, не разрабатывает собственного авторского определения, во-вторых, из контекста употребления данного термина с точки зрения описываемых проблем внедрения искусственного интеллекта в военную отрасль, следует, что автор сводит проблему национальной безопасности исключительно к военной безопасности от внешних угроз. На наш взгляд, подобная точка зрения является анахроничной, поскольку национальная безопасность есть сложная система государства, направленная на защиту общества, населения и государства, как от внешних, так и от внутренних угроз, в том числе и невоенного характера. Тем не менее, частично автор упоминает американские военные разработки в сфере ИИ, используемые для так называемых «гражданских целей» - автоматический мониторинг нехватки ресурсов в условиях пандемии в отдельных регионах. В исследовании отсутствуют ссылки на работы других отечественных и зарубежных исследователей (Архипов В.В., Богатуров А.Д., Шаклеина Т.А., Арбатов А., Радиков И.В, Дворкин В, Бжезинский Зб.), которые занимались проблемами как искусственного интеллекта, так и проблем национальной безопасности, поэтому в ней напрочь отсутствует полемика с оппонентами. Рекомендуется автору ознакомиться также и с другими работами, освещающими кибернетические аспекты национальной безопасности (Kramer F. D., Starr S. H., Wentz L. K. (ed.). Cyberpower and national security. – Potomac Books, Inc., 2009). Для того, чтобы исправить эти небольшие, но важные в методологическом отношении неточности и повысить научную значимость и новизну исследования, автору предлагается ввести деление статьи на главы, а также определить применение концепта национальная безопасность в современной теории мировой политики с точки зрения современного технологического и информационного контекста.
Несомненно, статья представляет весьма значительный интерес для широкой аудитории журнала «Национальная безопасность», она написана на грамотном научном языке, затрагивает международные аспекты развития отрасли искусственного интеллекта, и поэтому может быть рекомендована к публикации после внесения исправлений и выверки опечаток в тексте.