Искусственный интеллект в системе государственного управления России и стран Европейского союза: сравнительно-правовой анализ. Часть II

Полный текст

Опыт Европейского союза Европейский Союз (ЕС) - не только сложный сосед и важнейший торговый партнер Российской Федерации в недавнем прошлом, но и серьезный игрок в формирующейся новой реальности. Оформляющееся цифровое право данного межгосударственного объедения задает вектор для дальнейшего поступательного развития мирового цифрового пространства [1]. Те идеи, которые в европейских странах находят свое практическое воплощение, также реализуются и в других государствах. Безусловно, опыт ЕС в деле регулирования применения искусственного интеллекта не может не представлять интерес для российского исследователя и законодателя. Принято считать, что правовые системы стран ЕС в подавляющем большинстве включены в так называемую континентальную правовую семью, что подтверждает важность анализа такого источника права, как нормативно-правовой акт. Напомним, что в ЕС законодательная инициатива принадлежит в большей степени Европейской комиссии. Более того, право ЕС открывает для Еврокомиссии возможности самостоятельно принимать нормативно-правовой акт, в виду чего правотворческая значимость данного органа публичной власти считается крайне высокой. В целом же, согласно так называемой процедуре совместного принятия решений, акт будет считаться утвержденным при достижении консенсуса между Европарламентом и Советом ЕС. Примечательно, что из всех органов публичной власти ЕС, только в рамках Еврокомиссии ведется целенаправленная работа по подготовке юридически значимых документов в сфере регулирования применения искусственного интеллекта (ИИ). Данное обстоятельство можно объяснить тем, что Еврокомиссия, будучи органом исполнительной власти, более быстро и чутко реагирует на изменения, которые несет с собой в европейское общество процесс цифровизации. В качестве отправной точки в формировании цифрового права стран ЕС можно обозначить принятие в мае 2006 г. Директивы Европейского парламента и Совета ЕС «О машинах и механизмах» (Machinery Directive), в котором достаточно детально регламентирован вопрос использования технологических инноваций. Однако регулирование использования именно современных цифровых технологий в Европе началось относительно недавно. В данном контексте неким поворотным моментом стало предложение Еврокомиссии о формировании Экспертной комиссии в марте 2018 г., которой предстояло обозначить приоритетные направления для грядущего законотворческого процесса. Считается, что создание Экспертной комиссии было обусловлено не только назревшей необходимостью сформировать некие общепринятые правила в условиях стремительно набирающей обороты цифровизации, но и законодательной политикой ЕС в целом. Напомним, что еще в декабре 2017 г. Еврокомиссия, Совет ЕС и Европарламент приняли совместную так называемую «Декларацию законодательных приоритетов» (Joint Declaration on the EU’s legislative priorities), в рамках которой процессу нормотворчества в сфере цифровых отношений было уделено особое внимание. Данный документ апеллировал к цифровым инновациям в целом, а ИИ рассматривался в нем наравне с иными новаторскими идеями. Более того, в этом документе были обозначены и иные ключевые направления дальнейшего законотворческого процесса, среди которых можно выделить такие, как обеспечение безопасности граждан стран ЕС, гарантию их прав и свобод, совершенствование миграционной политики, обеспечение полной занятости и экономического роста, инвестиционную политику стран-членов ЕС. Что касается самой Экспертной комиссии, то перед ней ставилась цель обозначить те направления «от улучшения здравоохранения до более безопасного транспорта и более устойчивого ведения сельского хозяйства», в рамках которых правовое регулирование применения ИИ реализуется в практической плоскости уже в ближайшей перспективе. При этом Еврокомиссией в качестве некоего ориентира было предложено следование так называемым принципам европейской морали для того, чтобы не подорвать доверие населения ЕС к технологическому прогрессу. Как позднее отметил вице-президент Комиссии по Единому цифровому рынку Андрус Ансип: «Шаг за шагом мы создаем для Европы комфортные условия, чтобы максимально использовать то, что может предложить искусственный интеллект. Большие данные, суперкомпьютеры и смелые инвестиции необходимы для развития искусственного интеллекта, наряду с широким общественным обсуждением в сочетании с соблюдением этических принципов при его внедрении. Как выяснилось, при продвижении новейших технологий, доверие общества является обязательным условием»1. В апреле 2018 г. Экспертная комиссия обнародовала документ Artificial intelligence for Europe («Искусственный интеллект в Европе», далее - «ИИ в Европе»), который представляет собой достаточно подробный обзор всего комплекса вопросов, имеющих непосредственное отношение к применению не только искусственного интеллекта, но и иных видов сквозных цифровых технологий (СЦТ). Документ состоит из двух больших разделов. Первый раздел посвящен действующему законодательству, второй - описанию наиболее распространенных в странах ЕС цифровых технологий. Добавим также, что «ИИ в Европе» - это не самостоятельный нормативно-правовой акт, его статус обозначен как рабочий и дополняющий документ. Тем не менее, его научная ценность достаточно высока, так в его положениях отражена специфика европейского подхода к вопросу использования ИИ. Более того, ссылки на «ИИ в Европе» содержатся в ряде аналитических и научных работ, изданных за рубежом. Особенностью «ИИ в Европе» можно назвать четко прослеживаемое апеллирование к защите прав потребителя или пользователя цифровыми технологиями. В документе подчеркивается, что еще в 1985 г. существовавшее тогда Европейское экономическое сообщество утвердило так называемую Product Liability Directive («Директиву ответственности за предоставляемую продукцию»), защищающую права потребителя в сфере розничной торговли. Именно в контексте с данной Директивой в рассматриваемом нами документе излагаются ключевые положения относительно использования ИИ в современной Европе. Что касается законодательства отдельных стран-членов ЕС, то в данном случае авторами приведен пример Германии как страны-первопроходца. Так, весьма успешным видится внедрение норм, регулирующих дорожное движение с применением ИИ. Речь в данном случае идет о Street Traffic Act (Законе дорожного движения), утвержденном в 2017 г. В «ИИ в Европе» говорится и о тех странах, не входящих в объединение, где также ведется работа по формированию цифрового законодательства. В частности, в нем констатируется, что «сейчас в США многие штаты рассматривают необходимость принятия законодательства об автономных транспортных средствах»2, при этом подчеркивается, что эти инициативы существенно разнятся от штата к штату, так как перед региональным законодателем ставятся различные цели. Помимо этого, в США остро стоит проблема борьбы с киберпреступностью и защиты персональных данных. В качестве примера наиболее успешного государства приводится Япония, где Министерство экономики, торговли и промышленности инициирует обсуждение юридических вопросов, касающихся признания за ИИ юридической ответственности. Во второй главе документа дается достаточно интересная трактовка ИИ, под которым понимается цифровая технология, составные элементы которой могут быть материальными частями или устройствами (датчики, исполнительные механизмы, аппаратное обеспечение), различными программными компонентами и приложениями, или же «самими данными». Механизм, состоящий из перечисленных элементов, выполняет функции передачи данных. Заметим, что это определение, пожалуй, единственное, которое нам удалось выявить в ходе анализа наиболее значимых нормативно-правовых актов, изданных в ЕС. Более того, такая трактовка существенно отличается от российского понимания, предполагающего автономность ИИ от волеизлияния человека. Вообще, рассматриваемый нами документ по своей структуре и методу изложения ключевых положений существенно отличается от российских правовых источников. Так, например, по всему тексту документа речь идет об ИИ и иных видах цифровых технологий, причем нередко эти понятия подменяют друг друга. И только лишь в заключительной части законодатель вкратце объясняет разницу между ИИ и интернетом вещей. Думается, что нельзя не уделить внимание планированию в цифровой сфере, несмотря на то, что нормотворчество в сфере прогнозирования, программирования и целеполагания не является отличительной чертой европейской правовой традиции. Как следствие, в отличие от российской правовой системы, в правовом поле ЕС не получило широкое распространение понятие стратегия. Напомним, что в июне 2014 г. в России был принят ФЗ «О стратегическом планировании в Российской Федерации», который закрепил статус целого ряда подобного рода документов на федеральном и региональном уровнях. Точно так же, как и в России, в ЕС периодически принимаются документы стратегического отраслевого планирования, в которых перечисляются задачи и реализуемые в целях их выполнения мероприятия. Цифровая отрасль не стала исключением. Одним из последних подобных нормативно-правовых актов стал Coordinated Plan on Artificial Intelligence 2021 Review («План по координированию деятельности в отношении искусственного интеллекта на 2021 г.»), утвержденный в апреле того же года3. В документе обозначены задачи: · повышение инвестиционной привлекательности проектов, в которых применяется ИИ; · согласование основных положений проводимой политики в отношении использования ИИ со всеми странами-участниками; · ускорение в области инвестиционной деятельности в технологии, связанные с использованием ИИ. Одна из наиболее дискутируемых законодательных инициатив - так называемый A European approach to artificial intelligence («Европейский подход к искусственному интеллекту», далее - Европейский подход), который утверждался поэтапно Еврокомиссией, начиная с 2021 г.4 Эту инициативу сложно назвать нормативно-правовым актом, так как она, во-первых, представляет собой совокупность трех отдельных согласованных и взаимодополняющих друг друга документов, во-вторых, не носит обязывающий характер для всех стран-членов ЕС. В водной части инициативы говорится о том, что Европейский подход «основан на передовом опыте и доверии населения, он направлен на повышение исследовательского и промышленного потенциала Европы и обеспечение основных прав наших граждан»5. Предполагается, что Европейский подход поможет создать «устойчивую Европу, где люди и организации смогут пользоваться преимуществами искусственного интеллекта»6. Заметим, что обсуждение инициативы ведется и среди российских исследователей, что подтверждает его значимость в глазах специалистов7. Первый документ носит название Communication on fostering a european approach to artificial intelligence («Программа стимулирования Европейского подхода к искусственному интеллекту», далее - Программа), он вводит в практический оборот ряд терминов, которые носят более декларативный характер и уже широко используются европейскими аналитиками. Например, достаточно часто встречается такое понятие как «цифровое десятилетие» (digital decade), которое подразумевает период «активного внедрения инноваций в жизнь европейского общества». При этом в Программе подчеркивается направленность подобных инноваций для поддержки среднего и малого бизнеса. В документе также достаточно часто фигурирует так называемый «механизм восстановления и жизнестойкости» (recovery and resilience facility) в отношении пользователей ИИ. Термин включает в себя меры поддержки населения ЕС и субъектов предпринимательской деятельности в целях более эффективного освоения цифровых технологий, прежде всего ИИ. Так называемая «белая книга» (white paper), как предполагается, будет содержать в себе передовые и наиболее востребованные в европейском обществе предложения по реформированию законодательства, регулирующего отношения в сфере применения ИИ, интернета вещей и робототехники. Во втором документе, именуемом Coordinated plan on artificial intelligence 2021 review («Обзор скоординированного плана по искусственному интеллекту на 2021 год», далее - Обзор), речь идет уже о более конкретных направлениях, в рамках которых, как предполагается, будут реализованы соответствующие мероприятия. Документ, занимающий по праву центральное место в рассматриваемой нами инициативе, состоит из четырех глав: · создание благоприятных условий для применения ИИ в практической сфере; · обеспечение эффективности производства ИИ «от лаборатории до рынка»; · ИИ как залог повышения уровня жизни; · ИИ в борьбе за лидерство в сфере освоении новых цифровых инноваций. В Обзор включен самый широкий спектр направлений для более эффективного применения цифровых технологий, например, такие, как охрана окружающей среды и рациональное природопользование, здравоохранение населения, государственное управление, миграция и защита прав беженцев. Думается, что некоторые сферы, такие, как, например, поддержка занятости и регулирование мобильности трудоспособного населения, могут быть стать предметом изучения и российских специалистов. И, наконец, третий документ - это Proposal for a regulation laying down harmonised rules on artificial intelligence («Предложения к регламенту, устанавливающему согласованные правила в отношении искусственного интеллекта», далее - Предложения), ключевым положением которого является идея минимизации рисков, возникающих в ходе применения ИИ. «Предложения направлены на устранение рисков, связанных с конкретным использованием искусственного интеллекта, классифицируя их по четырем различным уровням: неприемлемый риск, высокий риск, ограниченный риск и минимальный риск» - именно так говорится в преамбуле документа8. По значимости данный документ вполне сопоставим с рассмотренной выше российской Концепцией. Документ состоит из двух глав. В первой главе излагаются сами предложения, во второй - содержатся многочисленные отсылочные приложения. Предложения оформлены примерно в том же формате, что и российские законы. Всего в Предложениях 12 глав, 85 статей, включающих многочисленные части и пункты. Мы рассмотрим только, как нам видится, наиболее значимые главы, которые могут представлять для российского исследователя наибольший интерес. Первая глава посвящена общим положениям, в ней изложены цели Предложений и дана трактовка некоторых правовых категорий. Вторая глава описывает сферы деятельности, в рамках которых предлагается запретить использование ИИ. Так, например, такой сферой являются попытки воздействия с помощью ИИ на сознание человека, в результате которых «могут быть зафиксированы непроизвольные изменения его поведения». Также под запрет, как предполагается, попадет деятельность различных участников правоотношений, включая органы публичной власти, направленная на «оценку надежности» граждан, определения сценария их поведения в определенных ситуациях. В целом, положения данной главы, как видится, направлены на защиту интересов и прав граждан, а также на предотвращение утечки конфиденциальной информации. Третья глава, «Системы искусственного интеллекта с высоким уровнем риска», является, пожалуй, ключевой в Предложениях, так как именно в ней рассматриваются те виды ИИ, которые европейский законодатель причисляет к группе с высоким уровнем риска. В приложении к рассматриваемому нами документу дан полный перечень таких цифровых технологий. Так, например, в сфере образования к запрещенным могут быть отнесены те инновации, которые влияют на «доступ физических лиц к образовательным учреждениям», а в области миграционной политики - «системы искусственного интеллекта, предназначенные для использования компетентными государственными органами в качестве детекторов лжи, а также инструменты определения эмоционального состояния физического лица». Предложения предполагают особый режим контроля за использованием подобных видов ИИ и ужесточение юридической ответственности в случае нарушения законодательства. Также особый интерес для российских исследователей и законодателей может представлять глава пятая, именуемая «Меры поддержки инноваций», в которой особое внимание уделяется вопросу поддержки малого и среднего бизнеса. Помимо этого, в документе четко обозначены те направления, которые будут считаться приоритетными для органов публичной власти в целях создания наиболее благоприятных условий для применения ИИ. К подобным направлениям законодатель отнес предупреждение, выявление и расследование правонарушений, сферу здравоохранения и экологическую безопасность. Детальный анализ основных нормативно-правовых актов, принятых в ЕС, продемонстрировал, что ключевой идеей в нормотворческом процессе является стремление органов публичной власти, с одной стороны, добиться максимального доверия у пользователя, с другой - обеспечить себе лидерство сфере внедрения ИИ в повседневную жизнь человека. И достаточно убедительны наши европейские партнеры, констатирующие, что «Европейская комиссия пытается найти необходимый баланс между поддержкой инноваций населением и обеспечением того, чтобы искусственный интеллект приносил пользу более чем 500 миллионам жителей ЕС. Если подготовленные предложения будут приняты, то Европа может оторваться от США и Китая, которые еще не предпринимают все необходимые шаги в деле регулирования применения этой цифровой технологии» [2]. Итак, как видно из вышеизложенного, в ЕС единый и целостный нормативно-правовой акт, регулирующий вопросы применения ИИ, еще не принят [3-10]. Мы рассмотрели основные нормативно-правовые акты и инициативы, а именно: · «Искусственный интеллект в Европе»; · «План по координированию деятельности в отношении искусственного интеллекта на 2021 г.»; · «Европейский подход к искусственному интеллекту». На наш взгляд, в числе этих документов центральное место занимают «Предложения к регламенту, устанавливающему согласованные правила в отношении искусственного интеллекта», которые являются составной частью рассмотренного нами Европейского подхода. Полагаем, что ряд положений Европейского подхода может представлять интерес для российского исследователя. Сравнительный анализ Сравнительный анализ нормативно-правовых актов, принятых в обеих правовых системах на момент проведения данного исследования, позволяет сделать определенные выводы, которые мы изложим в следующем порядке. В начале обозначим положения, свидетельствующие о схожести подходов российского и европейского законодателей, а затем - демонстрирующие существенные расхождения в вопросе регламентирования использования ИИ. Ключевыми из положений первой группы, думается, можно назвать следующие: · к моменту подготовки нашего материала к публикации ни в РФ, ни в ЕС не было принято всеобъемлющего, единого закона, регламентирующего применение ИИ. Данное обстоятельство, на наш взгляд, вызвано тем, что в академическом сообществе России и европейских стран пока еще не выработалось однозначное понимание рассматриваемого нами вида СЦТ. Разночтение и отсутствие четкости в трактовке ИИ - основная и крайне трудноразрешимая задача современной юриспруденции; · и в РФ, и в странах ЕС примерно одинаково складывается правовое поле, в рамках которого предполагается оформить регламентирование применения ИИ. Инициатором этого процесса являются органы публичной власти, а не представители гражданского общества. Дело в том, что процесс децентрализации, представляющий собой концептуальное ядро новой реальности, сопряжен с рисками для государственного устройства в наибольшей степени. Вследствие этого, в формирующемся цифровом праве более проработан административно-правовой механизм регламентирования подобного рода отношений с присущим ему императивным методом построения правоотношений. К существенным различиям, на наш взгляд, можно отнести следующие положения: · в российском законодательстве наблюдается более четкое и однозначное понимание СЦТ, в т.ч. и ИИ. Так, например, в документе «Искусственный интеллект в Европе» наблюдаются разночтения в трактовании таких терминов как искусственный интеллект, интернет вещей и робототехника, их употребление в качестве синонимов, или, наоборот, их противопоставление. При этом, как нам видится, понимание ИИ российскими органами власти можно охарактеризовать несколько более прогрессивным, апеллирующим к невозможности управляемости ИИ человеком. Думается, что подобный крайне прогрессивный, или, по-другому говоря, опережающий время подход может быть пересмотрен, чтобы создать для российского академического сообщества и законодателя более комфортную атмосферу в нормотворческом процессе; · в российском правовом поле категория «искусственный интеллект» более четко и последовательно звучит в контексте с поступательным социально-экономическим развитием страны [11; 12], в то время как в ЕС акцент смещен в пользу защиты прав пользователя и определения границ его ответственности; · деятельность органов публичной власти в сфере продвижения надлежащего применения ИИ более продуманна, структурирована и сбалансирована. Законотворческая и правоприменительная практика ЕС демонстрирует тот факт, что в органах управления отсутствует четкое видение той линии, которая в ближайшей перспективе будет определять не только специфику использования цифровых достижений, но и саму архитектуру общеевропейской безопасности в виртуальном мире. Вероятно, данное обстоятельство предопределено тем, что европейская интеграция не предполагает централизованного подхода в решении подобного рода правовых задач. Еще одна причина может заключаться в том, что вопросы целеполагания, планирования и прогнозирования в европейской правовой традиции не нашли должного регламентирования; · в отличие от российского законодательства, в законотворческом процессе ЕС более четко звучит идея апеллирования к так называемым неюридическим нормам, оформляющимся за рамками основных источников права. Особое место при этом занимают нормы морали и эффект доверия населения цифровым инновациям. Заключение Российская Федерация и Европейский Союз примерно одновременно приступили к реализации идеи о необходимости регламентирования использования ИИ нормами права. Законотворческий процесс в обеих правовых системах имеет немало общего. Например, на момент подготовки данного материала к публикации ни в России, ни в Европе не был принят единый нормативно-правовой акт исключительно по рассматриваемому нами виду СЦТ. Более того, пока еще не оформилось четкое понимание ИИ. Есть также и различия, о которых было сказано выше. По всей видимости, работа специалистов и законодателей в этой сфере в ближайшей перспективе будет и продолжена в формате утверждения стратегий, подходов, планов и инициатив. Вероятно, что институциализация ИИ в правовой системе России и ЕС - дело не ближайшего времени. В качестве некоего знаменателя под проведенное нами исследование хочется сказать о том, что развитие мира цифровых трансформаций, как выясняется, в определенном смысле непредсказуемо. Как бы это символично не звучало, но именно ИИ, как выясняется, и является некой квинтэссенцией этой неопределенности. Более того, академическому сообществу и законодателю необходимо четко и однозначно понимать, что ИИ - это также и разрушительная технология с весьма широким спектром воздействий. В сложившейся ситуации возникают вопросы о том, насколько оправданно интенсивное внедрение современных СЦТ и как будет в дальнейшем строиться диалог между миром социальным и миром техническим, между государством и гражданским обществом. Для того, чтобы ответить на подобные вопросы назревает необходимость пересмотра концепции юриспруденции как науки и самого права как сугубо социального феномена. По всей видимости, право стоит на пороге своего реформирования, в результате которого произойдет сдвиг в сторону несколько иного понимания нормы права. Возможно, что будет пересмотрена и сама концепция источника права и нормативно-правового акта. Безусловно, в столь стремительно меняющемся мире зарубежный опыт должен представлять большой интерес для российских исследователей и законодателей.

Об авторах

Булат Дамирович Нуриев

Государственный университет управления

Автор, ответственный за переписку.
Email: nurievbd@mail.ru
ORCID iD: 0000-0001-8434-2419
SPIN-код: 5615-0500

кандидат философских наук, доцент кафедры государственного и муниципального управления

Россия, 109542, Москва, Рязанский проспект, д. 99

Список литературы

Дополнительные файлы