postgraduate of the School of International Relations
аспирант факультета международных отношений
The digitalization of public life modifies old phenomena. Some of these changes prove to be detrimental to certain public spheres, including politics. Digital hate speech is one of the most obvious examples of digitalization’s impact on political processes. The manifestation of hatred online became an urgent challenge to political systems globally. In this respect, a theoretical and practical elaboration is necessary to counter the new threat. This study aims to identify the social mechanisms that make hate speech an instrument in information campaigns. The article illustrates the discursive and emotional aspects of the public manifestation of hatred. The theoretical basis of this work is the theory of “emotional regimes” and the concept of “regimes of truth”, which express the mutual influence of subjectivity and public discourse. Comparing the theoretical framework with the practical aspects of hate speech demonstrates that digital platforms and social networks form an environment that accelerates and facilitates the dissemination of hatred in the public space. As a result, various forms of hatred are accepted as a new social norm, which leads to such phenomena as harassment, humiliation, or even physical persecution. The modern technical reality allows to instrumentalize hate speech for manipulation, which results in three main scenarios for social impact: 1) large impact with low personalization; 2) targeted impact with high personalization; 3) broad and decentralized targeted impact using artificial intelligence. While countering each of these scenarios, a key challenge is to combine long-term and specialized measures.
Повсеместное проникновение цифровой реальности в общественную жизнь ведет к видоизменению старых явлений. Некоторые из этих изменений имеют сильные негативные последствия в отдельных сферах, в частности в политике. Цифровая риторика ненависти (hate speech) является одним из наиболее показательных примеров влияния цифровизации на политические процессы. Проявление ненависти в сети стало серьезным вызовом для политических систем по всему миру. Для противодействия новой угрозе требуется ее теоретическое и практическое осмысление. Целью данной работы является выявление социальных механизмов, делающих риторику ненависти инструментом в информационных кампаниях. Для этого в рамках работы рассматриваются дискурсивные и эмоциональные аспекты, связанные с публичной манифестацией ненависти. Теоретической основой выступает теория «эмоциональных режимов» и концепция «дискурсов правды», выражающие взаимовлияние субъективности и общественного дискурса. Сопоставление теоретических рамок с практическими аспектами риторики ненависти демонстрирует, что цифровые платформы и социальные сети формируют среду, ускоряющую и облегчающую проникновение ненависти в общественное пространство. Результатом этого процесса становится принятие различных форм ненависти в качестве новой социальной нормы, что приводит к таким явлениям, как притеснение, уничижение или даже физическое преследование. Современные технические реалии позволяют инструментализировать риторику ненависти в целях манипуляций. Подобные манипуляции приводят к трем основным сценариям воздействия на общество: 1) широкое воздействие с низкой персонализацией; 2) точечное воздействие с высокой персонализацией; 3) перспективный сценарий децентрализованного широкого точечного воздействия с применением искусственного интеллекта. Ключевой задачей в контексте противодействия каждому из сценариев является сочетание долгосрочных и специализированных мер.