Deepfakes as digital artifacts created with deep machine learning have already become a common phenomenon with multiple forms, but social consequences of this technology are still controversial. The authors conducted a sociological analysis based on the social construction of technology theory (SCOT) and cultural sociology to identify three intertwined levels of the deepfake as an artifact: (a) technical - based on generative neural networks capable of creating highly realistic content and providing artificial intelligence (AI) with features of a perfect mimetic object, thus, overcome barriers of social recognition; (b) media - mechanisms of pragmatic impact, including creolization, intertextuality and metanarrativity; (c) social - functions and dysfunctions of deepfakes and also social domains that change under their influence. The social significance of deepfakes is ambivalent: on the one hand, this technology is highly risky, produces significant threats to privacy, cybersecurity, and social stability; on the other hand, it provides previously unseen opportunities for development in the fields of art, education, healthcare and business. This approach allows to overcome the limitations of the dominant alarmist discourse that reduces deepfakes to tools of disinformation and fraud, thus revealing the social construction of technical artifacts. Despite the obvious discursive stigmatization in the very portmanteau “deepfake”, it is important to see the satirical potential of such media as a tool for maintaining democratic culture. In the mixed communication perspective, deepfakes ensure visible prosopopean transmobility of AI, creating new forms of social agency through the mechanisms of social mimesis. The most technically advanced deepfakes generate virtual personas capable of effective mimetic communication beyond the “uncanny valley”. Their quasi-human subjectivity is recognized as normal and credible, since the conditions for constructing a significant Other are mimetic: mimicry (of human visceral features); imitation (of social actions); emulation (of meaningfulness and empathy). As with other innovative technologies, the key to controlling deepfakes is not its prohibition but a deep understanding of its social construction together with reasonable modes of its management in the interests of the public good.
Дипфейки как медиаобъекты, созданные с применением технологий глубокого машинного обучения, стали привычным явлением цифрового общества, но социальное значение дипфейков до сих пор вызывает споры. Социологический анализ с позиции социального конструктивизма (SCOT) и культурсоциологии позволяет выделить три взаимосвязанных структурных уровня дипфейка как артефакта: (а) технический - основанный на использовании генеративных нейросетей, способных создавать высоко реалистичный контент и позволяющих искусственному интеллекту (далее - ИИ) приобретать свойства совершенного миметического объекта и проходить барьеры социального признания; (б) медиакоммуникативный - где реализуются механизмы прагматического символического воздействия, включая поликодовость, интертекстуальность и метанарративность; (в) социальный - где выделяются функции и дисфункции дипфейков, а также сферы общественной жизнедеятельности, трансформирующиеся под их влиянием. Социальное значение дипфейков амбивалентно: с одной стороны, эта технология высоко рискогенна, производит значимые угрозы для частной жизни, кибербезопасности и общественной стабильности; с другой стороны, несет в себе ранее невиданные возможности для развития в области искусства, образования, здравоохранения и бизнеса. Такой подход позволяет преодолеть ограничения алармистского дискурса (в его стремлении свести дипфейки лишь к инструментам дезинформации и мошенничества) и раскрыть конструктивистскую природу социотехнической реальности. Несмотря на явную дискурсивную стигматизацию портманто «дипфейк», важно выделять сатирический потенциал таких медиатекстов как инструмента поддержания демократической культуры. С точки зрения анализа смешанных коммуникаций дипфейк осуществляет видимую прозопопическую трансмобильность ИИ, создавая новые формы социальной агентности через механизмы социального подражания. Наиболее технически совершенные дипфейки создают такие виртуальные личности (симуланты), которые способны к эффективной коммуникации за пределами «зловещей долины». Квазичеловеческая субъектность дипфейковых актантов распознается как нормальная и внушающая доверие, поскольку миметическим образом создаются условия конструирования значимого Другого: мимикрия (подражание висцеральным признакам человека); имитация (подражание социальным действиям); эмуляция (подражание осмысленности и эмпатичности действия). Как и в случае с другими инновационными технологиями, ключ к контролю над дипфейком лежит не в запрете, а в глубоком понимании механизмов его социального конструирования и выявлении оптимальных моделей его управления в интересах общественного блага.