Искусственный интеллект в правовом пространстве

Полный текст

I. ВВЕДЕНИЕ В настоящее время происходят значимые интенсивные модификации, связанные с объективным участием робототехники в экономике и ориентированные на внедрение искусственного интеллекта в общественную жизнь. Однако мировое сообщество только начинает осознавать реальные и потенциальные нюансы влияния полностью автоматизированных систем на жизненно важные области социальных отношений, на рост связанных с данной тенденцией этических, социальных и правовых проблем. Президент Российской Федерации В.В. Путин, предлагая в Послании Федеральному Собранию в декабре 2016 г. переориентировать экономику страны на цифровую модель, подчеркнул, что «необходимо сосредоточиться на направлениях, где накапливается мощный технологический потенциал будущего, а это цифровые, другие, так называемые сквозные технологии, которые сегодня определяют облик всех сфер жизни»[1]. В начале июля 2017 г. Совет по стратегическому развитию и приоритетным проектам рассмотрел проект программы «Цифровая экономика»[2], разработанный Минкомсвязью по поручению Президента РФ. Цифровые технологии активно используются в реальном мире, деформируя привычные элементы взаимосвязей и подчиняя их своему влиянию: «Все, что не устроено в соответствии с эпохой сетей - политика, система права, образование - может расколоться на части под воздействием информационных технологий» (Kuper, 2017:17). II. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И НОВЫЕ СОЦИАЛЬНЫЕ ВЫЗОВЫ В Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы, утвержденной Указом Президента РФ от 9 мая 2017 г., подчеркнуто, что в России наряду с задачей обеспечения всеобщего доступа к информационным и коммуникационным технологиям актуальной является проблема интенсификации использования самих технологий. Технологии, созданные на основе передовых знаний, в том числе искусственный интеллект, становятся доступными[3]. Тенденция возрастания доступности современных информационных технологий, стремление изменить вектор развития и осуществить тотальную переориентацию «человека природного» в «человека техногенного» с применением методов эвристического кибернетического моделирования обусловливает необходимость решения проблем, касающихся безопасности современного социума, применения наноструктур при создании и использовании искусственного интеллекта, сохранения ценностных детерминант человеческого бытия и в целом безопасной экзистенцией человека, общества и государства (Sokolova, 2016:16). Такие изменения неизбежно влекут трансформацию общественных отношений. Для того чтобы подтвердить необходимость устранения несоответствия существующих отношений и, разумеется, определяющих их категорий новому сетевому пространству нет лучше способа, чем обратить внимание на серьезнейшие вопросы, стоящие на повестке дня. В рамках проблематики настоящей статьи приведем лишь несколько ярких примеров активного внедрения искусственного интеллекта в социальную действительность. Власти китайского города Шэньчжэнь начали применять особых дорожных роботов для борьбы с пробками в утренние часы пик: по команде с пульта управления роботизированные ограждения перемещаются по проезжей части, высвобождая необходимое количество полос движения, что позволило увеличить пропускную способность дороги на 12,1%[4]. Китайской компанией RoboSea был создан первый в мире беспроводной бионический дрон, управляемый со смартфона, оснащенный инфракрасным датчиком позиционирования, способный снимать видео и делать 16-ме-гапиксельные фотографии со скоростью 30 кадров в секунду[5]. Шведская компания «Эпицентр» с 2015 г. начала внедрять микрочипы-импланты под названием RFIC. Все сотрудники этой компании могут внедрить такие микрочипы в большой и указательный пальцы, действуют они на основе технологий, используемых в бесконтактных банковских карточках; далее сотрудники могут получить доступ к своему офису, приложив руку к карточному считывателю[6]. Группой исследователей Института Интеллектуальных Систем и Робототехники во Франции был создан новый алгоритм, основанный на методе проб и ошибок, с помощью которого роботы могут очень быстро (примерно за две минуты) адаптироваться к внешней среде, избегая повреждений при перемещении. Эффективность предложенного метода продемонстрировали на шестиногом роботе, который научился не только «инстинктивно» избегать опасности, но даже смог адаптировать свои движения после того, как экспериментаторы намеренно повредили ему одну из конечностей[7]. Исследователи из Франции и университета Арканзаса (США) создали искусственный синапс (компонент искусственного интеллекта), способный к автономному обучению и изготовленный из сверхтонких сегнетоэлектрических туннельных переходов, которые могут быть настроены для проводимости импульсов напряжения[8]. Ученые из Португалии продолжают совершенствовать уникальную систему управления элементами искусственного интеллекта, представляющую собой специальный шлем, при помощи которого оператор сможет отдавать мысленные команды дрону[9]. Перспективным полем деятельности для создателей искусственного интеллекта являются автомобили, которым не нужны водители. В 2014 г. чудо-автомобили проехали только в одном регионе США около 10 000 миль, ни разу не нарушив правила дорожного движения и не попав в аварию (The Guardian, 2015, November 13, p. 12.). О гражданских беспилотных технологиях говорил Президент РФ В.В. Путин в Ярославле на встрече с рабочими завода «Автодизель»: «В рамках технологической инициативы у нас предусматриваются меры поддержки развития и беспилотной мобильной техники. На первом этапе мы планируем сделать несколько пилотных проектов, чтобы эти аппараты могли использовать на закрытых территориях - для проектной эксплуатации, например, закрытые торговые зоны, производственные зоны»[10]. В исследовании крупнейшей консалтинговой компании McKinsey[11], датированном январем 2017 г., акцентировано внимание на том, что практически в каждой профессии есть множество видов деятельности, предъявляющих неодинаковые требования к желаемому уровню автоматизации. Тем не менее, для частичной автоматизации потенциал есть почти во всех видах деятельности и почти половина функций, за которые платят работникам, может быть автоматизирована с помощью известных технологий. В расходах на оплату труда по всему миру - это $14 трлн в год. Причем, по прогнозам, больше всех пострадают работники гостиничного и ресторанного секторов, на втором месте оказывается добыча полезных ископаемых - там почти 2/3 работ можно предоставить машинам. В производстве, по оценкам McKinsey, можно автоматизировать до 30% имеющихся функций. Например, в декабре 2016 г. стало известно, что Foxconn, тайваньский производитель электроники, выпускающий, помимо прочего, самое большое в мире количество айфонов, к 2020-му году намерен избавиться от большинства человеческих рабочих мест; в Changying Precision Technology Company в результате замены специалистов роботами производительность труда повысилась на 250%, а количество бракованных изделий снизилось с 25% до 5%[12]. Санкт-Петербургские специалисты в конце 2016 г. года запустили робота-рекрутера по поиску резюме соискателей в Интернете, функциями которого являются отбор, обзвон и проведение видеособеседований с наиболее подходящими кандидатами (Cherkasov, 2017:6-7). Таким образом, в ближайшие десятилетия роботы могут взять на себя половину функций, которые сейчас выполняют люди при соответствующей оплате труда и гарантиях социальных выплат. Эту тенденцию аналитики считают революционной, следовательно, определяющей фундаментальные изменения в обществе. Очевидно, что происходящие социальные процессы нуждаются в правовом обеспечении. В 2014 г. новостное агентство The Associated Press начало использовать технологию автоматического создания финансовых отчетов Wordsmith, разработанную компанией Automated Insights. Программа анализирует финансовые данные, сопоставляет их, отмечает ключевые цифры в отчетах компании, а затем преобразует полученные результаты в эргономичную форму (Colford, 2014). В том же 2014 г. юрист Эндрю Арруда основал компанию Ross Intelligence, занимающуюся разработкой виртуального юридического ассистента. Число подобных компаний в США растет, а юридические фирмы видят в виртуальных помощниках способ обогнать конкурентов. На деле роботы действительно грозят перекроить традиционную модель деятельности BigLaw (BigLaw - отраслевое название крупнейших юридических фирм) и оставить начинающих юристов без работы[13]. В конце 2016 г. Сбербанк запустил систему искусственного интеллекта Iron Lady, которая занимается звонками должникам - физическим лицам[14], а робот-юрист с первого полугодия 2017 г. начал обслуживать исковое производство по физическим лицам, что, по мнению заместителя председателя правления Сбербанка Вадима Кулика, позволит высвободить три тысячи рабочих мест[15]. Проект RADAR, разработанный компанией GET Information Technology[16], ориентирован на автоматизацию подготовки новостных материалов по науке, медицине, безопасности, занятости и другим сферам с помощью официальных источников, что позволит создавать более эффективный контент и представлять примерно тридцать тысяч заметок в месяц. Компания Google вложила в проект RADAR больше 800 тыс. долл. Следует обратить внимание на информацию о том, что большая часть материалов про победу Д. Трампа на американских президентских выборах была написана именно роботами[17]. Что касается юридической сферы, то, по мнению Судьи Конституционного Суда РФ, доктора юридических наук, профессора Г.А. Гаджиева, роботы не смогут в ближайшем будущем рассматривать уголовные и гражданские дела, поскольку они не способны учесть все детали, в том числе человеческий фактор: «Роботы не способны принимать решения, которые принимает суд. Ведь в суде происходит не только применение правовых норм, но и во многих случаях большее влияние имеет экономическая эффективность или этическая составляющая. Заложить в программу эти компоненты довольно сложно»[18]. Тем не менее, это не исключает активного внедрения роботов в юридическую среду. «Признать роботов не грудой металла, а искусственным интеллектом, признать его объектом права - новой вещью»[19] - именно этот вопрос стоит на повестке дня. На уровне научной дискуссии рассматривается также возможность считать роботов самостоятельными субъектами гражданского права и законодательно закрепить гражданско-правовые отношения с участием роботов. Вышеприведенные примеры свидетельствуют о дискуссионности вывода Д.А. Керимова, согласно которому тотальная компьютеризация общества, все возрастающими темпами проникающая почти во все сферы его жизнедеятельности, не предполагает соответствующего, все более энергичного вытеснения человека из интеллектуальной сферы деятельности (Kerimov, 2001: 53). К числу наиболее перспективных с точки зрения технологического развития направлений исследований в области информационных технологий отнесены программные технологии поддержки принятия решений в реальном времени с элементами искусственного интеллекта[20]. Стратегией научно-технологического развития Российской Федерации, утвержденной Указом Президента РФ от 1 декабря 2016 г., названы: переход к передовым цифровым, интеллектуальным производственным технологиям, роботизированным системам, новым материалам и способам конструирования; создание систем обработки больших объемов данных, машинного обучения и искусственного интеллекта,[21] который можно интерпретировать как сложную систему коммуникационных и технологических взаимосвязей, результат человеческой деятельности, способный логически мыслить, управлять своими действиями и корректировать свои решения в случае изменения внешних условий. На заре формирования теории искусственного интеллекта ее авторы стремились создать модель человеческого мозга. Еще в 1832 г. коллежский асессор С.Н. Корсаков, пионер российской кибернетики, создал «гомеоскоп» - классифицирующее логическое устройство, которое автоматизировало процесс сравнения идей и понятий. Однако на сегодняшний день человечество смогло воссоздать лишь интеллект четырехлетнего ребенка. Об узкой направленности функционирования искусственного интеллекта был сделан вывод главой робототехнического центра фонда Сколково А. Ефимовым. Таким образом, человечество пока не может создать то, к чему стремились основатели теории искусственного интеллекта. В то же время следует принять во внимание, что искусственный интеллект может существовать фактически вечно, накапливая при этом свой потенциал и продолжая свое развитие. Теоретически в обозримом будущем он может достичь невиданных ранее высот в любой области науки и практики, может получить безграничные возможности, в том числе и власть. Распространяющиеся, постоянно уплотняющиеся компьютерные сети, аккумулированные воедино, отражают то, что мы начинаем понимать как энергетический потенциал глобальной коммуникационной сети, включающий в том числе Интернет, сетевую валюту вроде биткоина и т.д. Энергия данной сети представляет собой исторически новый потенциально всеобъемлющий охват социальной действительности. Таким образом, в эпоху глобальной коммуникации цифровая активность субъектов права становится практически непрерывной, более того, формирующиеся решения, базирующиеся на коммуникационной сети, могут влиять и на психоэмоциональное состояние человека. Можно предположить, что в следующем десятилетии в самых развитых странах мира все - от самоуправляемых автомобилей до военных роботов - станет обычным явлением. Открытым остается вопрос о том, кто непосредственно будет нести ответственность за реализованное в жизни неправильное решение, предложенное «искусственным интеллектом», и как регулировать возможности и степень ответственности роботов и их создателей (Babayev, Shemykina, 2016:28). В настоящее время ответственность за неправомерные последствия функционирования промышленных роботов наступает либо у его владельца, либо производителя, либо оператора. Такого рода правовая неопределенность уже сейчас создает в обществе серьезные проблемы, которые будут нарастать в геометрической прогрессии. III. ПРОБЛЕМЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА Вопрос об ответственности будет возникать все чаще в связи с возрастающей автономностью роботизированных систем. Известны прецеденты, когда итог «принятия решения» в конкретной ситуации автономной системой повлек гибель людей. В частности, в США в ДТП, произошедшем в результате неправильной оценки ситуации автопилотом Tesla, произошло столкновение автомобиля с фурой и погиб водитель, который не успел взять управление на себя[22]. В 2015 г. произошел инцидент в Германии на автомобильном заводе Volkswagen: во время настройки рабочим роботизированной установки последняя вышла из строя, в результате чего специалист получил смертельные травмы, от которых впоследствии скончался[23]. В России одним из инициаторов введения техники с искусственным интеллектом в правовое поле стал основатель Grishin Robotics Дмитрий Гришин, который совместно с юристом Виктором Наумовым разработал концепцию закона о робототехнике[24] и обратил внимание на возможность создания реестра робототехники, аналогичного Единому государственному реестру юридических лиц. В январе 2017 г. в докладе Комитета по правовым вопросам, представленного Европейской Комиссии, было сформулировано предложение о создании системы регистрации так называемых «умных» роботов и Агентства по робототехнике и искусственному интеллекту, которое выполняло бы указанную функцию[25]. Формирование законодательства об искусственном интеллекте обусловливает необходимость, помимо юридической проработки, еще и философского анализа, так как речь идет не просто о машине, а о создании интеллекта, разума, осознающего самого себя, не являющегося личностью, но, тем не менее, отображающего в определенной степени реальный мир. В данном контексте следует принять во внимание рассуждения ряда ведущих философов о том, что формализованное отображение действительного мира неизбежно сопровождается утратой его естественной и исторической сущности. Данное заключение подтверждается весьма убедительной аргументацией, базирующейся на философском выводе о том, что в итоге полной формализации реального мира в лучшем случае можно получить упрощенную, огрубленную, мертвую копию живой действительности (Minayev, 1987:52-53). Такая абсолютная формализация не будет коррелировать с мышлением человека, которое не всегда логично, может быть парадоксальным, эмоциональным и т.п. (Breazeal, 2003: 119-155). По мнению Ш. Теркла, мысль и чувства неразрывны: «Когда их отрывают друг от друга и неправомерно считают взаимоисключающими, познание может свестись к чисто логическому процессу, холодному, сухому и безжизненному, а эмоциональное начало - рассматриваться в качестве примитивно-животного и не поддающегося анализу» (Turkle, 1984: 63). Вопрос спорный, так как, с одной стороны, робототехника сегодня развивается очень активно, в том числе роботы, которые обладают зачатками искусственного интеллекта - ведь речь, в первую очередь, идет именно о них как о субъектах, способных выполнять некие автономные действия, которые могут причинить вред человеку. Но современные робототехнические разработки в области искусственного интеллекта еще далеки от действительно автономных форм, способных полностью просканировать ту или иную ситуацию, учитывая огромное количество параметров, и принять верное с точки зрения человека решение. Данная проблема уже не раз обозначалась учеными, занимающимися исследованиями в сфере робототехники. Профессор роботизации Университета Западной Англии Алан Винфилд отметил, что одна из главных проблем искусственного интеллекта заключается в отсутствии возможности выявления алгоритма принятия конкретного решения. Известная технология «глубокого изучения» основывается на том, что робот пытается выполнить поставленную задачу путем подбора подходящего алгоритма, причем количество попыток может превосходить сотни тысяч. Однако избранную им стратегию зачастую не могут объяснить даже разработчики машины, потому что в конечном итоге она не основана на человеческой логике[26]. В настоящее время одним из самых проблемных аспектов роботов является понимание контекста. Так, например, 24 апреля 2017 г. специалисты Научно-технологического университета города Хэфэй в Китае организовали для американского журналиста Кевина Келли интервью с человекоподобным роботом Цзя Цзя, который создавался около трех лет, способен подключаться к различным облачным сервисам и почтительно склонять голову перед собеседниками. Тем не менее, киборг не смог ответить ни на один заданный вопрос[27]. Однако программное обеспечение Cleverbot, предназначенное для общения с человеком, узнает новые фразы из услышанных разговоров, и поэтому получило достаточно высокие баллы в тесте Тьюринга, так как большая доля людей, участвующих в эксперименте, полагала, что общается именно с человеком[28]. Высокая вероятность того, что роботы смогут принимать решения, логика которых не может быть объяснена человеком, обусловила стремление ученых и практиков к регламентации искусственного интеллекта (Calo, 2015:513-565). Следует отметить, что вопрос о правовой основе деятельности объектов искусственного интеллекта в системе гражданского законодательства и иные гражданско-правовые аспекты робототехники рассматривались в ряде публикаций российских авторов (Brumshtein, Ilmensky and Kolesnikov, 2016:49-64). Дискуссия по вопросу правового статуса исследуемых объектов отражена в статье автора, опубликованной в марте 2017 г. (Yastrebov, 2017). В 2016 г. Парламент ЕС предложил рассмотреть вопрос наделения искусственного интеллекта статусом «электронного лица». Такая мера призвана способствовать более эффективному регулированию налогообложения и ответственности при использовании искусственного интеллекта. В США была проведена общественная консультация о правовых и этических аспектах применения искусственного интеллекта, результаты которой могут быть приняты во внимание при разработке правового регулирования в этой сфере. В рамках Российского интернет-форума «РИФ + КИБ 2017» впервые на достаточно серьезном уровне поднимались такие вопросы, как правовое регулирование понятия «робот» и самой робототехники, а также вопросы доступности технологий с применением искусственного интеллекта (Morgu-novskaya, 2017:38). Ряд правовых проблем искусственного интеллекта обсуждали ведущие эксперты юридического сообщества в рамках VII Петербургского международного юридического форума[29]. В действующем российском законодательстве, так же как в законодательстве других стран на постсоветском пространстве, отсутствует релевантное и юридически полное определение понятий «искусственный интеллект», «электронное лицо», «робот». Так, одним из примеров использования не определенного легально в законодательстве Республики Молдова понятия «робот» является Приложение № 1 к Постановлению Правительства Республики Молдова № 474 от 19 июня 2014 г. «Об утверждении Перечня специальных средств, видов огнестрельного оружия, боеприпасов и правил их применения», в которое добавлен пункт «Робот EOD» (беспилотный робот разминирования)[30] без юридического определения данного технического средства. Таким образом, необходимо констатировать наличие определенного юридического вакуума, когда существование правового явления фактически признано, но при этом регламентирующий его правовой режим еще не разработан. IV. ЗАКЛЮЧЕНИЕ Глобальные изменения в организации научной, научно-технической и инновационной деятельности привели к возникновению ряда значимых для научно-технологического развития Российской Федерации факторов, в числе которых - размывание дисциплинарных и отраслевых границ в исследованиях и разработках. Очевидно, что познание проблем искусственного интеллекта базируется на всем комплексе естественно-научных, технических и гуманитарных знаний. В обозначенном контексте следует обратить внимание на возможность формирования новой парадигмы научного познания и возрастающее влияния ценностной составляющей (Kotlyarova, 2015:99-102), обусловливающих создание правовой концепции искусственного интеллекта. Одним из важнейших направлений развития российского права на сегодняшний день является регулирование искусственного интеллекта и «электронного лица», что требует также научного обоснования. Законодательное закрепление правового режима функционирования объектов искусственного интеллекта должно включать не только частноправовые, но и публично-правовые нормы в рамках существующих отраслей публичного права, что обусловливает необходимость совершенствования, прежде всего, административного права и внесения соответствующих изменений в КоАП. В теоретико-методологическом плане необходимо обратить внимание на эвристическое значение и семантику правовых категорий «искусственный интеллект», «электронное лицо», «робот», «робототехника», а также на разработку соответствующих юридических конструкций.

Об авторах

Олег Александрович Ястребов

Автор, ответственный за переписку.
Email: yastrebov_oa@rudn.university

директор Юридического института РУДН, главный редактор журнала «Вестник РУДН. Серия: Юридические науки», доктор юридических наук, профессор, заведующий кафедрой административного и финансового права Российского университета дружбы народов (РУДН)

Список литературы