“Digital Leviathan”: Scenarios for the Development of the Hobbesian Monster in the 21st Century
- Authors: Mamychev A.Y.1
-
Affiliations:
- Lomonosov Moscow State University
- Issue: Vol 24, No 3 (2022): Internet and Politics
- Pages: 367-392
- Section: DIGITAL POLITICS
- URL: https://journals.rudn.ru/political-science/article/view/31845
- DOI: https://doi.org/10.22363/2313-1438-2022-24-3-367-392
- ID: 31845
Cite item
Full Text
Abstract
In the research, the Hobbesian concept of “Leviathan” is used as a metaphor and a “heuristic scheme” describing the change of epochs and the formation of a new universal scale for innovative forms of socio-political organization. The subject of the research is the phenomenon of digitalization, as well as key changes caused by the digital transformation of public policy and power relations. “Digitalization” is considered as an ambiguous and multilevel phenomenon, reflecting a whole series of cardinal transformations in the sociopolitical life of society, which at the ideological, institutional, instrumental, technological and praxiological levels “clears space” for new forms of social organization. Аrgues that currently there is an acute competition to define, legitimize and promote a certain “projective image of the future” corresponding to the latest socio-political order and normative sociotechnological system (“engineering law”). In particular, the author considers contradictory trends, on the one hand, aimed at preserving and reproducing traditional political institutions, and on the other, related to forming new digital era institutions, digital governance structures and practices of public-power interactions. The research pays special attention to the competition of the state and new digital and technological actors in the political space. It discusses various scenarios of digital transformation of society, state, and government and considers such digital effects in the modern political process as “information noise”, “information overload”, “profile reconfigurations” of relations, the formation of alternative digital spaces (metaverses), as well as their influence on the current political order, power relations, socio-political dynamics.
Full Text
Введение Долговременная вирусная пандемия (СOVID-19) и современная геополитическая напряженность, которая выражается в целом многообразии локальных конфликтов (действующих и латентных), обозначили ключевой инструментарий и общий вектор глобальной трансформации существующего миропорядка, международной экономической, правовой и политической систем. Данный вектор условно можно представить в качестве, с одной стороны, специфической конфигурации форм и контекстов человеческой жизнедеятельности, а с другой - ключевых акторов и инструментов, задействованных в этой глобальной трансформации. В первом случае речь идет о специфических измерениях (реальностях), в которых разворачивается общественная жизнедеятельность, а также особом режиме взаимодействия (приоритеты, напряжения, конфликты) между ними. Поясним: традиционно человеческая жизнедеятельность разворачивалась в природном, биологическом и социокультурных измерениях. Очевидно, что начиная с эпохи Нового времени (новая историческая ситуация и парадигма научно-технического развития) доминирующей реальностью, подчинившей все иные измерения, ставя «их на службу человека»[8], стала искусственно сформированная в рамках человеческого взаимодействия социокультурная реальность. Принципиальность современного (или постсовременного) исторического контекста, как известно, в том, что формируется новое, относительно автономное измерение человеческой жизнедеятельности - цифровая реальность. При этом последняя становится одним из доминирующих условий и контекстов человеческого существования, используя ресурсы и возможности остальных. Например, информация, образы, символы, повседневная практика (социокультурная реальность) используются для совершенствования машинного обучения, создания цифровых продуктов, развития электронных сетей и т.п.; или траектории развития и распространения новой коронавирусной инфекции - СOVID-19, иных вирусов и инфекций (биологическая реальность)[9], применяются для моделирования специфических треков развития цифровых технологий, для алгоритмического распознавания и дифференциации разнообразных социальных процессов; или природные явления, развитие животного мира, климатические изменения и т.п. уже давно осмысляются и описываются через алгоритмические процедуры и компьютерное прогнозирование. Во втором случае речь идет о новых глобальных акторах, которые продвигают инновационные проекты социально-технологического устройства, форм и порядка организации человеческой жизнедеятельности, а также конструируют соответствующие последним режимы функционирования цифровых технологий, обеспечивающих данный переход. В качестве таких акторов сегодня выступают новые «элитарные альянсы»[10] между: y политической и цифровой элитой, которые начали формироваться в рамках государственно-частного партнерства в сфере инновационного технологического развития властно-управленческой деятельности и модернизации военно-промышленного комплекса; y IT-корпорациями, ориентированными на создание альтернативных государству виртуальных пространств общественно-политического взаимодействия, которые начали свое восхождение с интерактивных площадок и сервисов, представляющих на альтернативной основе публичные и частные услуги пользователям, а сегодня перешли в режим конструирования внегосударственного, глобального цифрового пространства (метавселенной); y инжиниринговыми центрами, сформировавшимися на базе ведущих университетов (например, Массачусетский технологический университет) и ведущих технологических лабораторий (например, исследовательские центры Силиконовой долины США), которые стали влиятельными относительно независимыми акторами, осуществляющими прогнозирование и проектирование развития социальных и технологических систем, разрабатывающими сценарии «связки человека и машины», осуществляющими настройку и управление виртуальными массами и интерактивными коммуникациями, играющими решающую роль «в разработке конкретных планов вмешательства» в социально-сетевое взаимодействие и с точностью предсказывая результаты последнего [Пентленд 2018: 19] для экономических, политических и других заинтересованных субъектов. Кроме того, в качестве новых специфических акторов в современном общественно-политическом пространстве выделяются и так называемые цифровые агрегаторы, цифровые актанты (действующие автономные цифровые сущности). Посредством цифровых агрегаторов все больше и чаще реализуется определяющее социально-технологическое воздействие в мягких или более жестких формах, меняющих режимы и практики публично-властной коммуникации. Действия последних формируют цифровой контекст и симулятивные условия развития публично-властных отношений, порождая новые социально-технологические смыслы, образы, дискурсы. Например, отчетливо прослеживаются специфические лингвистические и смысловые формы легитимации различных политических решений, которые апеллируют не к социальным ожиданиям, потребностям, демократическому характеру и проч., а к дискурсу технологичности, продвинутости, комфорта, удобства, интерактивности и т.д. При этом приоритеты развития цифровых технологий и сетей, их кибербезопасности и энергообеспечения становятся ведущими в публичном дискурсе, оттесняя многие традиционные индикаторы общественно-политической динамики, а по заключению многих экспертов вообще формируют новую ценностно-нормативную систему, в которой доминирующее положение занимают «потребности систем», а «соразмерные человеку масштабы и его желания больше не являются главными мерилами ценности» [Гринфилд 2018: 249]. Цифровизация: теоретико-концептуальные рамки Теоретико-методологическая оптика настоящей работы выстроена на основе ключевых положений натурфилософа и одного из родоначальников политической философии Т. Гоббса. Нам представляется, что предложенный им концепт Левиафана, как великого мифического чудовища в «материалистическом обличии», не только весьма интересен в качестве аллегории современной трансформации политико-правовой организации общества как единого живого организма, но и в качестве эвристической схемы, описывающей смену эпох и формирование нового всеобщего масштаба развития человечества. Напомним, известную цитату Т. Гоббсса: «…только в государстве существует всеобщий масштаб для измерения добродетелей и пороков. И таким масштабом могут служить лишь законы каждого государства» [Гоббс 2001]. Взяв концепт Гоббса «Левиафан» в качестве метафоры, можно предложить такой ракурс рассмотрения современных изменений: кардинальные трансформации, происходящие в истории и ведущие к смене парадигмы общественно-политического развития, всегда порождали новый «лик Левиафана», который задает всеобщий масштаб происходящему, новый формат мыследеятельности, организации и ценностно-нормативной системы. Развивая данную метафору, заметим, что смена эпох всегда возвращает образ Левиафана, инициирует процесс «вечного возвращения», т.е. возвращение Левиафана на новом историческом ветке развития, с новым общественно-политическим сознанием, волей к власти, сверхчеловеком… [Ницше 2005]. Отметим другой, теоретико-методологический аспект: в качестве одного из ключевых цифровых эффектов современной трансформации, по мнению подавляющего большинства экспертов[11], является системный кризис социального доверия к фундаментальным институтам, традиционным ценностям и нормам. Именно последнее ведет, как отмечал П. Штомпка, к утрате всеобщего масштаба и общего смысла как в повседневной жизнедеятельности, так и на уровне институциональной организации общества [Штомпка 2012]. И если общественная система не может «втянуть» весь спектр «инноваций в масштаб традиции» [Чистов 1986], то происходит крушение всеобщего каркаса и ценностно-нормативных требований (социокультурных императивов [Markarian 1992]), что ведет к производству нового всеобщего масштаба, культурных и нормативных императивов (нового Левиафана). В цифровой общественно-политической реальности создается ситуация, когда происходит утрата общественного доверия к традиционным политическим институциям и традиционным форматам политики, а многие политические феномены просто исчезают в качестве значимых[12]. При этом действующие автономные алгоритмические системы, с одной стороны, все активнее выступают инициаторами общественных дискуссий (например, массового обсуждения принятых властно-управленческих решений) и социальных акций (например, акции несогласных с существующей повесткой дня), которые реализуются не только в виртуальном пространстве, но и в дополненной и общественно-политической реальности [Аутсорсинг 2021]. Кроме того, данные системы начинают консолидировать и реинтерпретировать общественно-политические явления, события, процессы, общественные смыслы и ценности, а также активно принимают участие в общественной оценке и принятии решений [Гринфильд 2018]. Обратим внимание еще на один концепт, значимый для настоящей работы, - «цифровизация». Цифровизация разом определяет нашу эпоху, объясняет то, что с нами происходит сейчас, и набрасывает штрихами эскиз будущего. «Наше новое все» формирует новый масштаб существования общества, реконфигурирует отношения человека с машиной, технологией и природой. С помощью данного концепта сегодня описываются сущностные, инструментальные, институциональные, процессуальные и другие характеристики трансформационного периода[13]. Так, цифровизацией, как правило, обозначают: y смену аналоговых форм на цифровой формат, автоматизацию и алгоритмизацию стандартных социальных процедур (например, бюрократических процессов, формализованных процедур в страховой, финансовой и других сферах деятельности); y переход на цифровой формат функционирования традиционных институтов, а также формирование новых цифровых институций (например, цифровых платформ); y смену в приоритетах развития техники и технологий, доминирующих в третью промышленную революцию, на цифровую технику (коды, архетектуры, сетевое оборудование, серверы и др.) и цифровые технологии (системы машинного обучения, большие данные, блокчейн и т.п.); y исторический переход, т.е. формирование новой аналитической матрицы осмысления и описания транзита от одного качественного состояния общественной система и социального уклада (промышленного, информационного) к принципиально иному - цифровому будущему; y смену социокультурных траекторий развития, т.е. цифровые технологии - это, прежде всего, культурные явления/продукты, вектор их развития обусловливается социально-экономическими, политико-правовыми и иными социальными факторами (т.е. цифровизация описывает именно изменения социальной и технологической динамики общества); y формирование новой культурной матрицы, со своей мировоззренческой системой, структурой социально-технологических потребностей, специфической организации (социальная физика), нормативной системой (социально-поведенческий инжиниринг) и т.д.; y новый формат футуризма[14], научно-фантастического проектирования будущего, моделирование образов цифрового будущего (исследование будущего, сценарное проектирование будущего, а особенно ретрополяционные практики[15][16]). «Цифровой Левиафан»: новый всеобщий масштаб? В современной общественно-политической реальности уже очевиден масштаб социально-политического влияния социально-технологических акторов и инновационных инструментов на жизнедеятельность общества. Например, такие глобальные корпорации, как Google, Microsoft, Facebook9, Apple и др., являются крупнейшими политическими лоббистами, потеснив с этих позиций естественные (энергетические) монополии, торговые и промышленные гиганты[17], существенно влияя на законодательные приоритеты, направления государственной политики и политическую повестку дня[18]. Данные корпорации самые активные и в продвижения своего влияния через академические сообщества, аналитические центры и экспертное сообщество, через неправительственные организации, военно-промышленный комплекс, торговые и разнообразные отраслевые и профессиональные ассоциации[19]. Их влияние особенно возросло при расширении практики использования цифровых технологий для прогнозирования и моделирования разнообразных социальных процессов, применения алгоритмических и экспертных систем в реальном управленческом процессе, в расширении инструментария определяющего (властного) воздействия на поведение, политическую идентификацию и мобилизацию, принятие публично значимых решений. Например, эксперты фиксируют влияние поведенческих прогнозов на исходы Brexit[20]; таргетированной новостной ленты и рекламы на выборах (например, выборы в США 2016[21]); автономных цифровых ботов на принятие законодательных решений или формирование правотворческих новел [Уолш 2019] и т.д. В период пандемии резко возросли лоббистские практики техногигантов, особенно в контексте фискальной и стимулирующей политики государства, определения ключевых сфер и направлений инновационного развития. В свою очередь, расширение цифрового инструментария и информационных форм влияния сегодня ведет к существенному повышению того, что мы называем «информационным шумом» и «профильной реконфигурацией» отношений, которые обусловливают процессы информационной перегрузки общественно-политического пространства и его качественной трансформации. Так, согласно отчету международной Организации экономического сотрудничества и развития (OECD), стремительное развитие цифровых инструментов не способствует, вразрез общественным ожиданиям, быстрому развитию транспарентного режима функционирования различных институтов и интерактивному участию граждан в реализации власти и контроля за результатами ее деятельности. Это связано с тем, что интенсивное развитие интерактивных форм и средств порождает существенную перегрузку цифрового пространства, которая и снижает эффективность как традиционных, так и инновационных форм гражданского участия. Примерами такой перегрузки выступает процесс, в котором «миллионы людей, часто плохо информированных, пытаются влиять на общественное мнение и правительства с помощью таких средств, как социальные сети или процесс распространения «избыточного потока информации и данных, которые существенно снижают какую-либо значимую активность, позицию, мнение»[22]. Эффект «профильной реконфигурации» социальной коммуникации мы характеризуем как изменение «смысловой матрицы» в публичной политике, при котором происходит смена одного из ключевых концептов «социального актора» и его общественно-политической активности на концепт «пользователя сети» и его «индивидуализированную профильную динамику»[23]. Социальная активность постепенно сменяется профильной динамикой, измеримой не классическими социологическими методиками, а цифровыми инструментариями (сбор цифровых следов, маркеров и иной сетевой активности). При этом приоритет смещается с политических эффектов от тех или иных событий и процессов в традиционной политической реальности в сторону данных и сетевой активности в цифровом пространстве. Очевидно, что последнее существенно изменяют устойчивые модели отношений в системе личность- общество-государство, а также порождают новые типы взаимодействия, новые отношения, институты и т.д. «Цифровой Левиафан»: версии и трактовки В современных исследовательских проектах достаточно часто используется концепт «цифровой Левиафан». Можно выделить три основные версии содержательного пояснения его смысла и назначения. В первом случае «цифровой Левиафан» отражает качественные изменения института государства и механизма государственного управления, описывает новые форматы и практики публично-властной деятельности, интеркоммуникативные способы взаимодействия в системе личность-общество-государство. В данном аспекте «цифровой Левиафан» предстает в таких обличиях, как «электронное правительство» или «цифровое государство» [Золаев 2021], «интерактивная публично-властная сеть» или «публичная цифровая сетевая структура» [Михайлова 2013], «цифровой публичный сервис» [Зайковский 2014], а также в качестве «публичной цифровой платформы» [Петров… 2018]. В.А. Осипов, рассуждая о «цифровом Левиафане», предлагает интегративную версию теоретического обобщения двух разных позиций, а именно выделяет две ипостаси Левиафана - это виртуальное государство и кибергосударство. В первом случае речь идет о публично-властной коммуникации и деятельности (например, цифровые государственные сервисы), существующих исключительно в сети Интернет, в виртуальном пространстве. Во втором случае речь идет о цифровом суверенитете, реальной возможности государства осуществлять свою деятельность и регулировать процессы в цифровом пространстве [Осипов 2021]. Другой, более широкий ракурс трактовки данного концепта предложен А.И. Овчинниковым, для которого «цифровой Левиафан» - это новый формат жизнедеятельности общества. Последний описывает не только кардинальные изменения в социальной сущности и структурно-функциональных характеристиках традиционных юридических, политических, экономических и других институтов, но и особую динамику общественной организации, которая фиксирует «приближающуюся катастрофу и цифровую деградацию человечества» [Овчинников 2021: 229-230]. В этом аспекте противопоставление традиционного государства и «цифрового Левиафана» важно для моделирования рисков и угроз будущего образа цифровой государственно-правовой организации, сценарного описания основных траекторий цифровой трансформации традиционных политико-правовых институтов для адекватного противодействия им, с целью сохранения традиционного политико-правового «чудовища» и низвержения прихода его эрзаца (цифрового суррогата). Третий аспект рассуждений о «цифровом Левиафане» связан с описанием контуров цифрового будущего. Здесь акцентируется внимание не на процессах трансформации, кардинальных изменениях, а на возможных вариантах будущего. Поэтому новый Левиафан предстает как «гибридная сущность, кибернетический организм и одновременно сложная сеть из систем искусственного интеллекта, их разработчиков» и т.д. Это «очередная реинкарнация идеи безличного и безразличного Государства как машины, кибернетической системы», которая стремится «не к национальному, а к глобальному доминированию» [Шнуренко 2021: 16; 36]. Отметим, что на протяжении всей истории развития техники и технологий человек стремился создать технологически совершенную среду, функционирующую с механистической точностью и беспристрастностью. При этом цифра всегда порождает, как отмечает известный историк И.А. Исаев, альтернативную реальность - объективную, непредвзятую, математически совершенную. Ведь само «исчисление кроме раскрытия и выявления означает создание (искусственное по сути) новой реальности. Этот процесс… запускает все новые процессы во всех сферах жизни, как органической, так и неорганической… Собственно, механизация и математизация жизни впервые и придают по-настоящему машинный тип давно существующим машинам власти. Технические элементы в них все более замещают собой человеческие элементы. Прежние гуманитарные и органические связи все чаще заменяются техническими, этически нейтральными приемами» [Исаев 2021: 6-7]. Об этих процессах создания социально-технологической среды, смене гуманитарных приоритетов на технические потребности поговорим далее. Рис. 1. Цифровизация и цифровая трансформация традиционных форм общественно-политической организации Источник: составлено автором. Fig. 1. Digitalization and digital transformation of traditional forms of socio-political organization Source: made by author. На рис. 1 представлена упрощенная модель цифровизации и схема цифровой трансформации общественно-политической организации, которая позволяет рассмотреть: во-первых, теоретико-концептуальное разграничение таких понятий, как «цифровая трансформация», «цифровизация», «цифровой Левиафан»; во-вторых, традиционный (классический) формат общественно-политической динамики и основные (типичные) модели публично-властных отношений; в-третьих, процесс цифровизации традиционных моделей и развитие ключевых сценариев последних; в-четвертых, содержательное описание процесса цифровой трансформации как проектирования образа будущего, а также процессы формирования «цифрового Левиафана» и его основные модели организации. 1. Соотношение понятий. В отечественном социально-гуманитарном дискурсе, как правило, «цифровизация» используется в качестве достаточно широкого, комплексного термина (на разнообразные трактовки последнего указывалось выше). Так, цифровизация рассматривается как феномен социокультурной жизнедеятельности человека и общества, т.е. явления, с которым мы сталкиваемся в своей жизнедеятельности, а также как серия событий, которые возникают и меняют нашу мысль и деятельность. При этом цифровизация рассматривается в качестве процесса, имеющего инструментальное выражение (например, перевод аналоговой информации, аналоговых инструментов в цифровой формат), т.е. процесса оцифровки данных, системы их сбора, хранения, применения и использования. Вместе с тем цифровизация связывается с процессами качественных изменений, которые возникают в процессе внедрения и эксплуатации цифровых технологий. Отметим, что в англоязычной литературе для обозначения двух последних аспектов используются два взаимосвязанных, но разных понятия: digitization, отражающее преимущественно технические характеристики процесса оцифровки данных, средств и форм их хранения и использования, digitalization - понятие, ориентированное на отражение «цифровых эффектов» в социокультурной жизни общества, возникающих в процессе внедрения и использования технологий в сознательно-практической деятельности людей [Кудрявцева … 2021: 149-150]. В этом плане цифровизация отражает качественные изменения, которые можно уже сегодня проследить в функционировании традиционных политических институтов, в форматах и характере политического взаимодействия, в усложнении структуры публично-властных отношений, в формах общественно-политической мобилизации и т.д. Все эти процессы кардинального изменения, под воздействием внедрения и эксплуатации цифровых технологий, различных алгоритмических решений, можно обобщить с помощью данного понятия. В свою очередь, понятие цифровая трансформация содержательно описывает транзит от одного качественного состояния общественно-политической системы и социально-культурного уклада к принципиально иному - цифровому. При этом данный процесс транзита следует трактовать как в субъективном, так и в объективном планах. В первом случае он представляется в качестве одного из проектов трансформации общественно-политической организации наряду с модернизационными или консервативными доктринально-программными положениями. Во втором - цифровая трансформация рассматривается как эволюционное, революционное (скачкообразное) или маятниковое развитие политических институтов и отношений. Концепт «цифровой Левиафан» используется в качестве собирательного образа для разрабатываемых проектов общественной организации и ее ключевых характеристик в цифровую эпоху [Что мы думаем… 2017]. Это формат конструирования футуристических и научно-фантастических проектов будущего, моделирование образов цифрового устройства и сценарного проектирования целей и задач достижения того или иного цифрового будущего. Здесь созидание и проектирование будущего, как отмечает Ник Монтфорт, это работа «по созданию определенного образа будущего и осознанное стремление внести в него свой вклад», что отличает его от прогрессистских (совершенствование институтов и практик ради лучшего будущего) и от регрессистских (восстановление лучшего устройства и противодействие угрозам его разрушения) проектов [Монтфорт 2021: 14]. 2. Традиционный формат общественно-политической организации. На рис. 1. отражены типичные модели традиционной общественно-политической организации и модели публично-властных отношений между личностью - обществом - государством. Если интересы личности (Л) являются основополагающими, то такую форму, как правило, характеризуют как либерально-демократическую, интересы последней определяют функционирование частных и публичных институтов. В свою очередь, если в общественно-политическом устройстве доминируют интересы общества (О), социально-культурной целостности, над интересами личности, интересами государственного аппарата и бюрократии, то таковую форму обычно обозначают в качестве авторитарной. Ситуацию доминирования интересов государства (Г) над интересами личности и общества, когда государство создает общество и личность, обычно характеризуют в качестве тоталитарной формы публично-властных отношений (классический пример «Доктрина фашизма» Б. Муссолини: «Не нация создает государство… Наоборот, государство создает нацию, давая волю, а следовательно, эффективное существование народу… и конкретному индивиду»). Это упрощенная схема общественно-политического устройства и принципов организации публично-властных отношений необходимо для представления процессов цифровизации и ключевых изменений общественной организации будущего («цифрового Левиафана»). 3. Процесс цифровизации традиционных моделей и сценарии развития публично-властных отношений. В рамках цифровизации личностно ориентированной модели (Л) реализуется цифровая сервисная модель. Данная модель ориентирована на совершенствование интерактивных форматов взаимодействия и индивидуально настраиваемый, с помощью цифровых инструментов, режим взаимоотношений с государственными и негосударственными организациями. Здесь можно зафиксировать доминирование персональных цифровых профилей (например, на государственных платформах) над традиционными форматами политико-правовой идентификации (например, официальный статус, партийная принадлежность), а главный тренд - формирование субъективно ориентированных электронных публичных услуг, онлайн-консультирования и т.п. Все это в целом ведет к «сближению» корпоративных и политических элит, расширению форматов государственно-частного партнерства, формированию новых «властных альянсов» между государством и IT-корпорациями, а также инновационных режимов реализации «цифровых аутсорсингов» в оказании публично-властных услуг и проч. В обеспечении общественных интересов (О) начинают доминировать цифровые платформы, которые становятся новым «институциональным каркасом» и интегрируют различные среды общественного взаимодействия (экономическая, политическая, правовая, культурная и т.д.). Они направляют и координируют публично-властное взаимодействие и частную коммуникацию общества, обладают широкими возможностями и инструментарием для продвижения тех или иных общественно-политических концептов, идей, смыслов и проч. В рамках общественного развития платформенные решения, связанные со сбором, обработкой и использованием данных, выступают ключевыми драйверами социально-экономической и общественно-политической динамики, формируя не просто удобную и мобильную площадку для разнообразных интеракций, а, главным образом, новую искусственную социально-технологическую среду (виртуальная экосистема) со своей ценностно-нормативной системой, символикой, цифровой идентификацией, которая постепенно вытесняет социально-культурную идентификацию и традиционные общественные институты. При доминировании интересов государства (Г) основной акцент в процессах цифровизации делается на развитие национальных цифровых платформ, использующих информационные сети для мониторинга, предотвращения и противодействия различным рискам, вызовам, угрозам. Главные траектории развития связаны с формированием национальных виртуальных сетей, которые должны контролироваться и регулироваться в рамках суверенной юрисдикции конкретного государства, поскольку последнее обеспечивает защиту национально-культурной специфики общества, права, свободы и законных интересов личности. При этом процессы суверенизации цифрового пространства ориентированы на обеспечение стабильности и легитимности действующего политического режима, устойчивости общественно-политического процесса, противодействие использованию цифровых технологий в массовом манипулировании и т.п. Именно государственно ориентированная правовая политика позволяет эффективно осуществлять управление цифровой коммуникацией граждан и их организаций, реально влиять на функционирование общественных и политических институтов, а также обеспечивать доминирование национальных цифровых сервисов и платформ (пример таковой государственной политики реализуется в Китайской Народной Республике). 4. Процесс цифровой трансформации и формирование цифрового Левиафана. Конструируемый образ будущего цифрового общества и нового масштаба человеческой организации в цифровую эпоху, которую мы обозначали выше в качестве «цифрового Левиафана», принципиально меняет всю триаду основополагающих интересов (Л-О-Г). В специализированной литературе уже неоднократно подчеркивалось, что гуманитарное измерение разворачивающихся в обществе событий и процессов больше не является определяющей ценностно-нормативной матрицей для принимаемых стратегических решений[24]. На первый план выходят потребности технологического характера, например развитие и усложнение цифровых алгоритмических систем, для которых принципиально важны потоки данных и частота их производства, необходимые для машинного обучения, разработки и тестирования новых поведенческих продуктов и сценариев. Справедливо в этом плане отмечает М.Л. Альпидовская, что «грядущий глобальный „цифровой Левиафан‟, технократически трансформируя человеческое общество, рассматривает людей в качестве ресурса, капитала, „новой нефти‟, то есть товара. И эти процессы, действительно, неслучайны и закономерны» [Альпидовская 2021: 160]. Если раньше технологии и машины на различных этапах трансформации выступали в инструментальном качестве, т.е. улучшая сенсорные, моторные и другие способности человека, то сегодня они направлены на трансформацию самой природы человека и форм его мыследеятельности. Неслучайно главный идеолог новой цифровой глобализации К. Шваб утверждает, что разворачивающаяся четвертая промышленная революция ничего общего не имеет с кардинальными изменениями в производственных отношениях, промышленном росте и экономической системе. Напротив, это «принудительная революция» (термин К. Шваба), которая меняет нас, модифицирует социально-биологическую природу человека [Шваб 2016]. Это порождение принципиально нового Левиафана, который, как отмечает Ш. Зубофф, «кормится людьми, но не рождается от их плоти и крови». Он ориентирован на извлечение данных и управление человеческим поведением, на производство прогнозных продуктов. Этот новый масштаб в человеческой организации «строится вокруг постепенного устранения хаоса, неопределенности, конфликта, разнообразия и отклонения от нормы в пользу предсказуемости, автоматической регулярности, прозрачности, слияния, убеждения и умиротворения» [Зубофф 2022: 662]. Поэтому вполне очевидна и ключевая тенденция данной цифровой глобализации - делегитимация государственных органов и структур (особенно осуществляющих контроль, мониторинг и регулирование цифрового пространства, разрабатывающих и принимающих ограничительные стандарты и требования), которые препятствуют свободному развитию цифрового взаимодействия, ограничивают виртуальные интеракции и разнообразный цифровой опыт пользователей. Конструируемый негативный образ государственной власти (традиционного Левиафана) также влияет на разработку альтернативных публичных цифровых сервисов, которые перетягивают пользователей со всеми их данными на свои платформы, через которые и предлагается осуществлять публичную и частную жизнь. Прогнозируем, что таким образом расширяется конфликтогенное пространство между государственными цифровыми публичными сервисами, платформенными решениями и негосударственными корпоративными и финансовыми структурами, которые агрессивно переводят данные (личные, финансовые, биометрические и т.д.) с государственных платформ в виртуальное пространство данных структур. При этом делегитимация политического института государства и действующей системы социального нормативного регулирования (право, обычаи, мораль и т.д.) открывает возможность сформировать собственную систему поведенческого инжиниринга, которые выступают основой для формирования тотального прогнозирования и управления социальным поведением через цифровые агрегаторы и платформенные решения, что в итоге формирует новый формат негосударственного цифрового властного господства. Так в рамках продвигаемых проектов «метавселенная» формируется не только альтернативное измерение существования человека, но и специфическое цифровое пространство с собственными (корпоративными) формами и способами идентификации, системой социально-технологических норм и стандартов взаимодействия. Данная «метавселенная» ориентирована на поэтапное создание «инновационной нормативной технологии регулирования», своеобразного поведенческого инжиниринга, где кодирование разнообразных интеракций осуществляется автоматизированными алгоритмическими системами. Более того, как анонсирует К. Шваб в рамках этой альтернативной вселенной, изменяется и сам человек, происходит его гибридизация, т.е. одновременное присутствие человека в общественно-политической реальности и погружение (объективное), присутствие (субъективное) в цифровой симуляции. Или другой пример - выстраивание специфических симбиотических связей между человеческим (субъективным) сознанием, общественным (объективным) сознанием и электронными сетями (симулятивным). «Современные информационные и коммуникативные технологии экстериоризуют и в форме электроцепей удваивают человеческую нервную систему», что кардинально меняет наше субъективное восприятие и ощущение погруженности в мир (реальный и виртуальный), где «визуальные режимы репрезентации сменились сенсорно-нейронными режимами симуляции» [Брайдотти 2021: 174]. В рамках метавселенных стимулируется появление, кроме выше обсуждаемых цифровых актантов, и новых симбиотических акторов - «социальных киборгов», которые становятся «господствующей социокультурной формой, целиком включенной в социальное производство, что влечет массу экономических и политических следствий» [Там же]. Концепт «киборг» позволяет разорвать связь между обществом, государством и социокультурной (нормативной) моделью личности, заново переосмыслить и переопределить общественно-политическую онтологию. При этом традиционная триада интересов и потребностей личности-общества-государства в рамках новой цифровой общественно-политической онтологии сменяется на индивидуальный профиль пользователя - UPI (как источника данных и объекта алгоритмического управленческого воздействии), потребности развития технологических систем (ТС) и траекторий развития новой социально-сетевой (роевой) структуры отношений (РО). В современных исследовательских проектах, в основном западноевропейского толка, которые до сих пор задают тон и основные направления развития социогуманитарной системы знания, социальный киборг описывается как существо постсоциальное, гармонично сочетающее социальные и технологические, природные и культурные характеристики. Он постгендерный и постэтнический субъект, лишенный всех традиционных классификаций и идентификаций. Он представляет нового субъекта цифровой истории человечества, у которого «нет начала, как и нет привязанностей и зависимостей» [Харауэй 2000]. Данный субъект (постчеловек) - симбионт, т.е. «гибрид человеческого и машинного», «природного и социального», без исторического и национально-культурного контекста, но с цифровым будущим и свободной электронной мобильностью [Clough 2018]. Основные характеристики данного субъекта - это его профильные UPI и биогенетические данные, а место обитания - социально-сетевое (виртуальное) пространство. Сообщество данных постсубъектов «цифровой пролетариат», т.е. это в основном «низкооплачиваемый цифровой пролетариат, подпитывающий высокотехнологичную глобальную экономику, никогда при этом не получая к ней доступ» [Брайдотти 2021]. Формируемая новая политическая онтология конструирует и новый объект властных отношений, и техники властного господства. Так, если предшествующая эпоха в качестве объектов властного воздействия «видела» тело и душу человека (biopolitics), а в качестве основных властных техник использовала дисциплинарные формы господства и контроля [Фуко 2010; 2016]; то цифровая эпоха сводит последние к источнику поведенческих данных и биогенетической информации (zoepolitics). Здесь «биогенетическая природа развитого капитализма сводит тела к носителям витальной информации, наделенной финансовой ценностью, и тем самым превращает их в капитал. Эти тела представляют собой материал для новых классификаций целых популяций» [Брайдотти 2021: 174]. При этом «аффективная способность тел, статистически представленная в виде факторов риска, может восприниматься как таковая и без субъекта[25], даже без тела индивидуального субъекта. Это приводит к появлению конкурирующих бюрократических процедур контроля и политического управления во имя защиты жизни населения» [Clough 2008: 18]. Для развития общества в новых условиях принципиальное значение имеют не индивидуальные мотивы и интересы, а паттерны личного взаимодействия, масштабные поведенческие сценарии, поток и каналы распространения идей в социально-сетевой структуре общества. «Социальная физика», по утверждению главного столпа этого нового научного направления, рассматривает человека в качестве источника данных и объекта алгоритмического управленческого воздействия. Это воздействие основывается на системе машинных стимулов, посылаемых алгоритмами в социальную сеть, которые изменяют рамки восприятия, формирует требуемые потоки идей и образов, инструментально настраивают определенные поведенческие реакции. Это научно-практическое направление, ориентированное на формирование таких «социально-сетевых стимулов», которые «намного эффективнее помогают изменить поведение, чем традиционный метод использования индивидуальных стимулов» [Пентленд 2018: 76]. Кроме того, «цифровой Левиафан» предлагает и новый формат сруктурации людей - «цифровые улья», а также новую науку управления - «социальную физику» [Пентленд 2018] и новую идеологию будущего - «проективное будущее». Цифровые ульи описывают в структурно-организационном и динамическом формате социально-сетевые отношений различных агентов цифрового пространства, взаимодействие которых моделируется на основе концепции цифрового роя. При этом управление цифровым роем моделируется посредством цифровых платформенных решений. Поясним последнее. Цифровой рой - это концепт, который комплексно описывает, с одной стороны, массовое поведение в сети и децентрализованные формы сетевой организации, а также типы взаимодействия между различными агентами в сети (пользователь и цифровые сообщества, автономные роботы и аппараты, боты и другие алгоритмические системы), а с другой - эффекты возникновения и распространения по сети синхронного коллективного поведения (цифрового роевого интеллекта)[26]. В рамках современных междисциплинарных проектов уже достаточно давно разрабатываются и соответствующие платформы управления роевым взаимодействием, т.е. цифровые платформенные инструменты, которые интегрируют действующих в сети пользователей и других агентов сети в режиме реального времени в онлайн-рои для решения разнообразных задач. При этом «спроектированная наподобие биологические роев платформа дает возможность онлайн-группам синхронно работать вместе, налаживая объединенную динамическую систему, которая может быстро отвечать на вопросы и принимать решения» [Розенберг 2017]. Тем самым складывается единая направленность сетевого взаимодействия, которая «отсекает» разнообразные альтернативы, формирует коллективную мудрость и коллективное сетевое действие вокруг данного направления. Подчеркнем, что в современной концепции цифрового роя важным является не только процесс самоорганизации социальной группы вокруг решения какой-либо задачи или реализации того или иного события, но и процесс взаимодействия социальных акторов с иными агентами сети. Другими словами, на месте традиционного субъекта и системы общественных отношений возникает принципиально иное пространство «союзов человеческих и не-человеческих агентов», в этом пространстве ассамбляжей[27] «кишит целый рой различных витальностей. Отныне главная задача состоит в том, чтобы определить контуры этого роя и тип отношений, существующих между частями» [Баннет 2018: 56]. Так, в своей новой политической онтологии Дж. Баннетт задается вопросом, почему так важно говорить об агентности, а не рассуждать о субъектах и традиционных форматах их самоорганизации в социальные системы, общественные структуры, культурные среды и т.п. Ее ответ таков: «…потому, что категория материальной агентности несет в себе более серьезный вызов для человеческой исключительности, т.е. для распространенной тенденции недооценивать тот факт, что люди, животные, артефакты, технологии и силы природы делят между собой полномочия и действуют в диссонирующем союзе друг с другом» [Баннет 2018: 60]. В этой новой политической онтологии статус человеческого субъекта сводится к простой активности в сети отношений с иными агентами - роботами, технологиями и различными материальностями (смартфонами, серверами и проч.). В свою очередь, цифровые ульи - это алгоритмически и технически структурированное и динамически функционирующее сетевое пространство, состоящее не только из активных пользователей, их цифровых двойников, но из различных цифровых сущностей (ботов, алгоритмов), где динамика и целевая направленность функционирования и взаимодействия последних управляется различными платформенными решениями. Например, платформенные решения могут формировать системы алгоритмических требований наподобие рекомендательных, запрещающих или обязывающих норм (реализующиеся в концепции инжиниринговой нормативной системы, о которой речь шла выше), а также «развивать систему стимулов и коллективных привычек, которые диктуют нам, как действовать и реагировать в различных ситуациях» [Пентленд 2018: 80]. В свою очередь, идеология проективного будущего представляет особый стиль мыследеятельности, восприятия времени и пространства, не совпадающий с прогрессом, регрессом или циклической системой (перманентизм), поскольку ориентирован на построение радикально отличного образа социально-технологического существования. Проективное будущее не наполнено позитивными коннотациями, а, напротив, содержит целый спектр опасений, рисков, угроз. В его содержании от прогресса сохраняется общая логика линейного движения вперед, однако, в отличие от прогресса, это движение не к более совершенному, а к рикогенному. В этом проектировании будущего задействованы, конечно, и другие типы мыследеятельности - регресс и циклизм (перманентизм), усиливая эти негативные коннотации. Одна из ключевых проблем «проективного будущего» заключается в том, что рискогенность и негативность, которые присутствуют в нем, «вкладываются» в систему принятия управленческих решений, в проектирование различных социальных институтов, нормативных комплексов. Это ориентируют и моделируют определенный образ будущего и конструируют соответствующую, адекватную этому будущему институциональную, нормативную, ценностную организацию общества [Мамычев… 2020]. Проективное будущее, как своеобразную идеологию цифровой эпохи, скорее всего, можно идентифицировать как обновленную доктрину футуризма и футуристической общественно-политической мысли, старающуюся обосновать новый внеисторический и внепространственный проект социально-технологической организации, замещающий публичную политику алгоритмизацией, тотальной предсказуемостью и алгоритмической регламентацией. Заключение Цифровизацию следует рассматривать как сложный, многоуровневый феномен, действие которого можно проследить по различным направлениям, где четко проявляются как позитивные изменения, так и риски и угрозы общественно-политической динамики. При этом цифровая трансформация как феномен, скорее всего, представляет собой переходную форму, которая не дает всеобщий масштаб и конструктивный потенциал общественно-политической динамики. В свою очередь, рассматривая процессы цифровизации, важно подчеркнуть, что не машины и цифровые технологии трансформируют социально-политическую организацию, а сам человек в процессе своей сознательно-волевой деятельности с помощью данных машин и технологий преобразует себя и общество. Именно посредством последних не только перестраивается его мыследеятельность, но и качественно изменяется общественная организация, ценностно-нормативная система, структура потребностей и т. д., а значит, будущее, еще не предрешено.About the authors
Andrey Yu. Mamychev
Lomonosov Moscow State University
Author for correspondence.
Email: mamychev@yandex.ru
ORCID iD: 0000-0003-1325-7967
Doctor of Political Science, Professor of the Department of Russian Politics, Head of the Laboratory of Political and Legal Studies, Faculty of Political Science
Moscow, Russian FederationReferences
- Alabina, T.A., Dzangieva, H.S., & Yushkovskaya, A.A. (2022). Metaverse as a global economic trend. Economy. Profession. Business, (1), 5–12. (In Russian).
- Alpidovskaya, M.L. (2021). Notes on the new reality: comprehension of global plans. Moscow: Prometey Publishing House. (In Russian).
- Braidotti, R. (2021). The Posthuman. Moscow: Publishing house of the Gaidar Institute. (In Russian). [Braidotti, R. (2013). The Posthuman. Polity Press.]
- Brockman, J. (2017). What to Think About Machines That Think: Today’s Leading Thinkers on the Age of Machine Intelligence: The world’s leading scientists about artificial intelligence. Moscow: Alpina non-fiction. (In Russian). [Brockman, J. (2015). What to Think About Machines That Think: Leading Thinkers on Artificial Intelligence and What It Means to Be Human. Edge Question]
- Bennett, J. (2018). Vibrant Matter: The Political Ecology of Things. Perm: Gile Press. (In Russian). [Bennett, J. (2010). Vibrant Matter: The Political Ecology of Things. Duke University Press. Retrieved from https://doi.org/10.1215/9780822391623]
- Chistov, K.V. (1986). Folk traditions and folklore: Essays on theory. Leningrad: Nauka. (In Russian).
- Clough, P. (2018). The affective turn: political economy, biomedia and bodies. Theory, Culture and Society, 25(1), 1–22.
- Coleman, S. (2018). Can the Internet strengthen democracy? St. Petersburg: Aleteya. (In Russian). [Coleman, S. (2017). Can the Internet strengthen democracy? Polity Press].
- De Landa, M. (2014). War in the era of intelligent machines. Moscow: Institute of General Humanitarian Research. (In Russian). [De Landa, M. (1991). War in the era of intelligent machines. New York: Zone Books]
- De Landa, M. (2018). A New Philosophy of Society: Assemblage theory and social complexity. Perm: Gile Press. (In Russian). [De Landa, M. (2006). A New Philosophy of Society: Assemblage theory and social complexity. London & New York: Continuum. Retrieved from https://doi.org/10.5040/9781350096769]
- Filipova, I.A. (2020). Legal regulation of artificial intelligence. Nizhny Novgorod: Nizhny Novgorod State University. (In Russian).
- Foucault, M. (2010). The Birth of Biopolitics: Lectures at the Collège de France,1978-1979. St. Petersburg: Nauka. (In Russian). [Foucault, M. (2008). The Birth of Biopolitics: Lectures at the Collège de France, 1978–1979. New York: Palgrave MacMillan.]
- Foucault, M. (2016). The discipline and punish. The Birth of the prison. Moscow: Ad Marginem Press. (In Russian). [Foucault, M. (1975). Surveiller et punir: Naissance de la prison. Paris: Gallimard.]
- Gaase, K., Danilov, V., Dudenkova, I., Kralechkin, D., & Safonov, P. (Eds.) (2020). Goodbye, COVID? Moscow: Publishing House of the Gaidar Institute. (In Russian).
- Greenfield, A. (2017). Radical technologies: The design of everyday life. Moscow: Publishing House “Delo” RANEPA. (In Russian). [Greenfield, A. (2018). Radical technologies: The design of everyday life. Verso.]
- Haraway, D. (1991). A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century. Simians, Cyborgs and Women: The Reinvention of Nature (pp.149181). New York; Routledge.
- Hobbes, T. (2001) Leviathan, or matter, forme and power of a commonwealth ecclesiasticall and civill. Moscow: Mysl. (In Russian). [Hobbes, T. (1651). Leviathan: Or the matter, forme, and power of a commonwealth ecclesiasticall and civill.]
- Isaev, I.A. (2021). “Power machine” in virtual space (image formation). Moscow: Prospect. (In Russian).
- Jaspers, K. (1994). The origin and goal of history. Moscow: Republic. (In Russian). [Jaspers, K. (1953). The origin and goal of history. Yale University Press.]
- Kochetkov, A.P. (2020). Transnational elites in the global world. Moscow: Aspect Press. (In Russian).]
- Koroleva, E.V. (2009). Strategic alliances: foreign experience and Russian features. Russian Foreign Economic Bulletin, 5 (May), 3–12. (In Russian).
- Kudryavtseva, T.Yu., & Kozhina, K.S. (2021). Basic concepts of digitalization. Bulletin of the Academy of Knowledge, 44(3), 149–151. (In Russian).
- Mamychev, A.Yu., Kim, A.A., & Frolova, E.E. (2020). “The future” as an attractor of modern political-legal and socio-economic transformations: an overview of the main problems and approaches. Advances in Law studies, 8, Special issue, 3–17. (In Russian).
- Markarian, E.S. (1992). Tradition as an Object of System Study. World Futures, 34. Retrieved from https://www.semanticscholar.org/paper/Tradition-as-an-Object-of-system-study-Markar ian/7043008ceaef26fe7e83446663160119c49026b2
- Mikhailova, O.V. (2013). Networks in politics and public administration. Moscow: KDU Publishing House. (In Russian).
- Montfort, N. (2021). The future: Principles and practices of creation. Moscow: Strelka Press. (In Russian). [Montfort, N. (2017). The future. The MIT Press.]
- Morkhat, P.R. (2018). Law and artificial intelligence. Moscow: UNITY-DANA. (In Russian).
- Nietzsche, F. (2005). The will to power. Experience of revaluation of all values: The unfinished treatise of Friedrich Nietzsche in the reconstruction of Elisabeth Foerster-Nietzsche and Peter Gast. M.: Cultural Revolution. (In Russian). [Nietzsche, F. (1901). The will to power.]
- Osipov, V.A. (2021). Digitizing Leviathan: about some cases of virtual and cyberstates (pp. 64-68). In L.A. Gainutdinova (Ed.), Herzen Readings: Russia-2021. Topical issues of political knowledge. Proceedings of the scientific and practical conference. St. Petersburg: Publishing House of the A.I. Herzen State Pedagogical University. (In Russian).
- Outsourcing of political judgments: problems of communication on digital platforms. (2021). Moscow: Political Encyclopedia (ROSSPEN). (In Russian).
- Ovchinnikov, A.I. (2021). “Digital Leviathan” and human rights: risks of innovations in law and public administration. Legal Technique, (15), 227–230. (In Russian).
- Pentland, A. (2018). Social Physics: How good ideas spread — The lessons of a new science. Moscow: Publishing House AST. (In Russian). [Pentland, A. (2014). Social Physics: How good ideas spread — The lessons of a new science. Penguin Press.]
- Petrov, M., Burov, V., Shklyaruk, M., & Sharov, A. (2018). The state as a platform. (Cyber) the state for the digital economy. Moscow: Center for Strategic Research. Retrieved from https://www. csr.ru/upload/iblock/313/3132b2de9ccef0db1eecd56071b98f5f.pdf (accessed: 10.05.2022). (In Russian).
- Rosenberg, L.B. (2017). The effect of a human bee swarm, a technique of parallel distribution of intelligence in real time. Science and Technology. Retrieved May 25, 2022, from: https://okoplanet.su/science/scienceday/386345-effekt-chelovecheskogo-pchelinogo-roya-metodikaparallelnogo-raspredelennogo-intellekta-v-rezhime-realnogo-vremeni.html (In Russian).
- Rozin, V.M. (Ed.). (1997). Philosophy of Technology: history and modernity. Moscow: IFRAN. (In Russian).
- Savchuk, V.V. (Ed.). (2020). Critique of the digital mind. St. Petersburg: Academy of Culture Research. (In Russian).
- Schwab, K. (2016). The fourth industrial revolution. Moscow: EKSMO. (In Russian). [Schwab, K. (2016). The fourth industrial revolution. World Economic Forum.]
- Schwab, K., & Mallere, T. (2022). COVID-19: The Great Reset. Geneva: World Economic Forum Publishing House.
- Shnurenko, I.A. (2021). To kill the leviathan. Nasha zavtra (In Russian).
- Sztompka, P. (2012). Trust is the basis of society. Moscow: Logos. (In Russian). [Sztompka, P. (2007) Zaufanie: Fundament spoleczenstwa. Krakow, Znak]
- Skinner, K. (2018). Digital human: The fourth revolution of humanity includes everyone. Moscow: Mann, Ivanov and Ferber. (In Russian). [Skinner, K. (2018). Digital human: The fourth revolution of humanity includes everyone. Marshall Cavendish International (Asia)].
- Tikhomirov, Yu.A., & Nanba, S.B. (Eds.). (2019). The legal concept of robotization. Moscow: Prospect. (In Russian).
- Thacker, E. (2020). Three texts about infection. Perm: Gile Press. (In Russian).
- Veselov, Yu.V. (2020). Trust in digital society. Bulletin of St. Petersburg University. Sociology, 13(2), 129–143. Retrieved from https://doi.org/10.21638/spbu12.2020.202 (In Russian).
- Vetrenko, I.A. (Ed.). (2022). Digitalization of society and the social credit system: Problems, prospects. St. Petersburg: CPI SZIU RANEPA. (In Russian).
- Volodenkov, S.V., & Fedorchenko, S.N. (2022). Traditional political institutions in the conditions of digitalization: risks and prospects of transformation. Discourse-Pi, 19(1), 84–103. Retrieved from https://doi.org/10.17506/18179568_2022_19_1_84 (In Russian).
- Walsh, T. (2019). 2062: The World that AI Made. Moscow: AST Publishing House. (In Russian). [Walsh, T. (2018). 2062: The World that AI Made. La Trobe University Press.]
- Zaikovsky, V.N. (2014). “Service state”: a new paradigm or a modern technology of public administration? National interests: priorities and security, 24(261), 18–28. (In Russian).
- Zolaev, E.A. (2021). Digital state as a new stage of society development. Creative Economy, 15(5), 1583–1594. Retrieved from https://doi.org/10.18334/ce.15.5.112164 (In Russian).
- Zuboff, S. (2022). The Age of Surveillance Capitalism: The Fight for the Human Future at the New Frontier of Power. Moscow: Publishing House of the Gaidar Institute (In Russian). [Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for the Human Future at the New Frontier of Power. Profile books].
Supplementary files









