Цифровая трансформация социотехнологической реальности: проблемы и риски

Полный текст

Введение

Традиционная картина мира, существовавшая и в науке, и в обыденных представлениях людей, меняется глубоко, стремительно и в беспрецедентных масштабах прямо на наших глазах. Истекшее десятилетие внесло множество значимых перемен в привычный уклад жизни, «органически» включив в него новые формы технизации — цифровизацию и информатизацию. В настоящее время практически во всех сферах социальной жизни можно обнаружить  широкий спектр различных практик, подверженных цифровым изменениям. Качественные трансформации затронули буквально все: и технологии, и производство, и политику, и культуру, и образование, и иные сферы. Разработка, управление и использование информации, вычислительных ресурсов, а также возникновение новых способов коммуникации стали жизненно важными  вопросами для современной цивилизации. Сегодня многие процессы (технологические, информационные, социальные) существенно модифицированы,  и их уже довольно сложно представить в отрыве от цифровой реальности.

Многоаспектность цифровизации — сигнал о том, что мир оказался в беспрецедентной ситуации. Особенно наглядно это проявляется в сфере развития технологий искусственного интеллекта. Прежде всего, стоит отметить, что в течение последнего десятилетия наблюдался взрывной рост объема  вычислений, используемых для обучения различных моделей: увеличение на порядок (в десять раз!) каждый год. В этой связи уже более тридцати стран мира, включая Российскую Федерацию, США и Китай, приняли национальные стратегии и программы развития этой сферы. Кроме того, искусственный интеллект представляет собой уникальную технологию, в том числе, в том смысле, что ее создатели в процессе разработки сталкиваются с серьезными сложностями, однако в плане ее широкого массового использования особых затруднений не возникает. Стоит подчеркнуть, что на протяжении исторического пути человечества ничего подобного не было: ни одна из технических систем и технологий еще не обладала способностью столь стремительного и глубокого проникновения в фундамент современного социума, не становилась настолько распространенной и общедоступной практически во всех уголках земного шара. Спектр использования этих технологий чрезвычайно широк и охватывает практически все сферы человеческой деятельности —  от производственно-технологической до государственного управления. Бесспорно, успешен и уникален опыт применения систем искусственного интеллекта в исследованиях космоса, в медицине, здравоохранении, энергетике, бизнес-процессах, банковском деле, страховании, оборонной области, на транспорте и пр. Предполагается, что четвертая промышленная революция в значительной степени будет опираться на новые достижения в этой сфере. Речь идет об использовании более скоростных квантовых вычислений, постоянно усложняющихся независимых роботизированных систем, беспилотников, безэкипажных аппаратов, систем с самосовершенствующимися возможностями и т.п. Отметим также, что информационно-коммуникационные  технологии обрели статус средств научного познания, способствующих кардинальному преобразованию научно-исследовательской деятельности.  Активное применение вычислительной техники позволяет автоматизировать многие эксперименты в сфере естественных и технических наук, значительно сокращая время обработки статистических данных и упрощая исследовательские процедуры.

Гуманитарно-социальные проблемы цифровизации

Мы все, ныне живущие, являемся свидетелями и участниками высокоскоростного движения человечества по технологическим рельсам. Это движение демонстрирует, что на данном этапе цифровизация перестала представлять собой преимущественно технологическую проблему, связанную с разработкой непрерывно усложняющихся технических норм, алгоритмов,  генеративных моделей и пр. На сегодняшний день практически каждая возможность, предоставляемая цифровыми технологиями, несмотря на их востребованность и подтвержденный позитивный эффект в определенных сферах деятельности, сопровождается целым спектром вполне реальных рисков и опасностей. Неоспоримое общественное благо и серьезнейшие угрозы  обществу, которые несут с собой технологии цифровой реальности, находятся в весьма тесной взаимосвязи. И, к сожалению, баланса здесь не просматривается. Современная техногенная реальность кардинально и, судя по всему, необратимо трансформирует все мироустройство, привнося радикальные изменения не только в материальную сферу жизни, но и в духовно-нравственное состояние человека. Мы все оказались погруженными в новое  мироздание, где небывалыми темпами технизируется быт, трудовая деятельность, сознание, мышление и организм человека, его взаимоотношения  с другими людьми.

С сожалением необходимо признать, что фундаментальное встраивание информационно-коммуникационных систем в жизнь современного социума происходит без надежной опоры на результаты предварительных опытно-экспериментальных исследований, без учета глубокой профессиональной  и ответственной оценки социальных и психологических последствий их воздействия на отдельную личность и на общество в целом. Да и теоретическое осмысление изменений, которые происходят под влиянием совершенствования технологий, существенным образом отстает от темпов прогресса самих технологий и темпов их внедрения. В итоге на основе цифровых платформ осуществляется множество действий, далеко не всегда созидательных  и гуманных. А характерное для масс неистребимое стремление к комфорту, удобству и упрощению всего и вся оборачивается множеством проблем  с долгосрочными, порой необратимыми и нежелательными последствиями.

В результате погружения в цифровые миры сетевых коммуникаций, в лоно виртуальных, дополненных и смешанных реальностей наблюдается хаотизация мировоззрения человека, его подчинение техническим нормам  и алгоритмам (вольное или невольное). Происходит формирование «цифрового» поколения с качественной трансформацией устной речи, атрофией навыков самостоятельного мышления, анализа информации, способности к принятию решений [1. C. 120]. Стремительная переориентация способа получения и обработки информации с понятийной (большие тексты) на образную (визуально воспринимаемые изображения) способствовала порождению негативного явления, известного как «клиповое сознание». Все это свидетельствует о серьезном ударе по когнитивным и аналитическим способностям молодежи и подрастающего поколения [2. C. 273—276]. Вместе со снижением уровня образованности происходит «обмельчание» разносторонней сути человека, которая, наряду с рациональным началом, включает в себя и иррациональное. Человек вынужден вступать в контакт с потоками информации, которая подчас несет чуждые ему ценностно-смысловые ориентиры. Сегодня медиа-средства, реклама нередко являются источником дестабилизирующей, дезориентирующей информации. Просматривается тенденция искажения  категорий добра и зла. Пропагандируются, культивируются чуждые российскому обществу ценностные установки: гедонизм, релятивизм, меркантилизм и пр., что свидетельствует о движении в сторону принудительной деградации — превращения молодежи в манипулируемые элементы потребительского общества.

Обесценивается человеческий труд, в том числе и интеллектуальный, — заменяется цифровыми программами. Все острее высвечиваются последствия воздействия технизации на занятость населения. В итоге происходит «отчуждение человека от процесса труда, продукта труда, от своей родовой сущности и от другого человека. Это приводит к тому, что жизнь начинает  подменяться имитацией жизни» [3. C. 129]. Труд постепенно становится привилегией. С целью снижения финансовых затрат осуществляется активное внедрение робототехники, автоматизация производственных циклов,  ширится применение технологий методом 3D-принтеров, что позволяет заместить ряд традиционных методов производства. Наряду с сокращением рабочих мест масштабируется проблема, связанная с процедурой поиска работы. Радикальные изменения рынка труда способствуют, в том числе, внедрению цифровых платформ-«помощников» в деятельность отделов кадров и рекрутинговых кампаний. В результате существенно увеличилась вероятность  возникновения неблагоприятных ситуаций при попытке устройства на работу людей среднего и старшего поколения. Алгоритм программы искусственного интеллекта в подавляющем большинстве случаев автоматически отбрасывает резюме и анкеты претендентов, чей возраст превысил определенную отметку (нередко — 45 лет), тем самым не только лишая трудоспособных и не достигших пенсионного возраста людей средств к существованию, но и погружая их в тяжелейшее, крайне подавленное психологическое состояние из-за вынужденной оторванности от мира. «Возраст как приговор» — так может быть обозначен этот сегрегационный вызов, брошенный высокотехнологичной эпохой современной личности.

Стремление к широкому внедрению цифровых технологий инициировало активную деятельность профильного министерства в плане найма  правительственных чиновников при помощи искусственного интеллекта. Минцифры считает, что это «позволит автоматизировать процессы отбора, профессионального развития, мотивации, оценки чиновников, формирования профессиональной культуры и пр. Целью эксперимента является апробация методов осуществления кадровой работы с использованием информационно-коммуникационных технологий»^[1]. Под это из федерального бюджета выделяются большие средства. На наш взгляд, подбор сотрудников на основе  заложенных в программу формальных критериев, без личного общения, неизбежно приведет к несправедливому отсечению немалого числа достойных кандидатов. Вполне очевидно, что такая ситуация будет распространяться, реализовываясь при подборе кадров и в другие организации, как государственные, так и частные.

Цифровые технологии и проблемы безопасности

Существует еще немалый перечень негативных явлений, связанных  с ползучей тотальной цифровизацией. События 2020-го високосного и пандемийного года не оставили сомнений в том, что сильные мира сего выбрали безопасность в ущерб свободе, чтобы получить законное право контролировать поведение людей [4. С. 775—778]. В итоге цифровое общество, пройдя эту точку бифуркации, очутилось на пути к установлению тотального  контроля над всем происходящим.

Наряду с этим наблюдается перманентный процесс криминализации киберпространства. Как известно, эпоха цифровых технологий явилась залогом процветания онлайн-бизнеса. Соответственно, лавинообразно увеличивается количество и качество сведений о покупателях в глобальной сети. Как справедливо констатируют специалисты, «сбор и использование больших объемов данных для создания подробных личных профилей пользователей имеют очевидные последствия» [5. C. 243], а именно — нарушение конфиденциальности из-за угрозы утечки персональных данных или потери контроля над ними. В этой связи со спринтерской скоростью эволюционируют различные формы кибермошенничества: махинации с платежными реквизитами, с учетными записями пользователей, распространение вредоносного программного обеспечения, заражение «вирусом-вымогателем» и др., наносящие финансовый и иной ущерб, как гражданам, так и организациям. Несмотря на то, что данная ситуация наличествует уже не первый год, «пользователи по-прежнему в значительной степени не замечают механику рынка онлайн-информации, включая процессы сбора данных, предполагаемое использование данных, а также количество вовлеченных в него действующих лиц» [5. C. 243].

Комплекс серьезных проблем связан с активным использованием систем искусственного интеллекта, способствующим быстрому совершенствованию процессов синтезирования изображения и создания звуковых дорожек с определенными заданными параметрами. Эта технология, в 2017 г. получившая название Deepfake, демонстрирует впечатляющие результаты обучения нейронных сетей на сотнях и тысячах «примерах» лиц и голосов. Сгенерированные лица и синтезированные голоса, становясь все более и более реалистичными, могут быть использованы для составления фальшивок, а значит, будут представлять собой вредоносные данные. Все движется к тому, что со временем отличить подделку от изображения реального персонажа станет крайне сложно, что может привести к непредсказуемым последствиям: как минимум, к распространению искаженных данных и подрыву доверия к средствам массовой информации. Не менее серьезную опасность несут в себе постоянно совершенствующиеся технологии синтетической генерации аудиоконтента. Компьютерный голос, созданный искусственным интеллектом (включая характерные интонации, паузы, покашливание и пр.), окажется практически неотличимым от голоса реального человека. Специалисты утверждают, что голос — результат работы современных нейросетей — уже сегодня способен «обойти» биометрические системы идентификации  с различными защитными функциями распознавания оригинала и идентификации подделки, которые обычно устанавливаются в Интернете вещей  (IoT-устройствах с функцией управления голосом), в различных корпоративных системах и т.п. Считается, что на данном этапе биометрические системы видеораспознавания лиц гораздо более надежны по сравнению с голосовыми системами идентификации. Однако возможность «провести» их с помощью сгенерированного нейронной сетью цифрового лица все же существует. И это крайне опасно, поскольку аппаратура с функцией аутентификации внешности (например, технология FaceID) широко используется как частными, так  и государственными службами безопасности. Для противостояния подобным угрозам ведется активная работа по созданию новых, более сложных методов биометрической аутентификации, использующих так называемые «закрытые данные», в частности, — форму мочек ушей человека, рисунок внутриглазных сосудов, сердечный пульс и т.п. [6. С. 174].

Представляется важным коснуться еще одного аспекта проблемы цифровизации, связанного с возможностью использования информационных технологий в качестве инструмента реализации информационно-психологического воздействия. Сегодня в сценарии развития информационного противоборства рассматриваются не только угрозы информационно-технического плана  (киберугрозы, кибершпионаж), но и информационно-гуманитарные, проявляющиеся в целенаправленном токсичном воздействии на общественное сознание стран-мишеней [7. C. 82]. В контексте социальной инженерии информация превращается в мощную политическую силу, предоставляя все более  широкие возможности для специфического субъективного отражения действительности и для разжигания информационных войн. Психологические войны, предполагающие применение различных и, как правило, хорошо завуалированных методов воздействия на когнитивную и эмоциональную сферу человека, имеют многовековую историю. Уже в VI в. до н.э. выдающийся  китайский военачальник и мыслитель Сунь Цзы рассматривал специфику психологических мер, ориентированных на противника, и давал вполне конкретные рекомендации по их реализации, в том числе, такие:

«— Разлагайте все хорошее, что имеется в стране вашего противника.

— Подрывайте престиж руководства противника и выставляйте его  в нужный момент на позор общественности.

— Используйте в этих целях сотрудничество с самыми подлыми  и гнусными людьми.

— Разжигайте ссоры и столкновения среди граждан враждебной вам страны.

— Подстрекайте молодежь против стариков.

— Делайте все возможное, чтобы обесценить традиции ваших врагов и подорвать их веру в своих богов.

— Будьте щедры на предложения и подарки для покупки информации и сообщников. Вообще не экономьте ни на деньгах, ни на обещаниях, так как они приносят прекрасные результаты» [8. C. 4—5].

Современное информационно-психологическое противоборство реализуется на базе постоянно расширяющегося использования социальных сетей и технологий искусственного интеллекта, что предоставляет возможность без использования военной силы или непосредственного принуждения достичь неоспоримого превосходства и привлечь на свою сторону определенные слои общества противника [9. C. 25]. Подобная дестабилизирующая деятельность, в частности, подразумевает:

«— проведение информационных акций, направленных на разделение населения по уровню жизни и дискредитацию органов власти;

— оказание всесторонней поддержки оппозиционным и националистическим организациям;

— ограничение доступа товаров и услуг;

— подготовку деструктивных сил посредством выделения крупных финансовых средств на проведение различных организационных мероприятий (учебные курсы оппозиционного актива, учредительные сессии «демократических» сил страны и т. п.);

— массовые антиправительственные митинги и «акции протеста»  оппозиции с использованием незащищенных слоев населения: молодежи, пожилых людей, детей и инвалидов;

— организацию массовых беспорядков с оказанием вооруженного сопротивления правоохранительным органам, блокированием административных зданий и другими противоправными действиями;

— фальсификацию фотои видеоматериалов о «незаконных действиях» силовых структур и «чрезмерно жестоком» подавлении «мирных акций протеста» [10. C. 35].

Этот (конечно, далеко неполный) перечень действий иллюстрирует, что использование информационных технологий для реализации социальнодеструктивных сценариев представляет собой серьезную угрозу национальной безопасности государства. Военные эксперты свидетельствуют, что на современном этапе «прослеживается тенденция замещения периода нарастания агрессии фазой «управляемого хаоса», используемого для изменения главного геополитического потенциала государства — национального менталитета, культуры, морального состояния людей» [11. C. 21]. Основной мишенью агрессивной злонамеренной деятельности по навязыванию чуждой  системы ценностей, фальсификации истории и т.п., безусловно, является  молодежь (безотказно работает древнее правило: «хочешь победить врага — воспитай его детей»).

Феномен поведенческих войн

Год от года информационно-гуманитарные действия в киберпространстве, реализуемые странами Запада в целях дестабилизации нашего общества, разрушения его ценностных основ, переформатирования сознания, мировоззрения и духовно-нравственных качеств граждан, становятся все более  масштабными, агрессивными и изощренными. В этой связи все большую  значимость обретает сфера высоких гуманитарных технологий, базирующихся на изучении закономерностей поведения личности и социальных групп  [12. C. 111]. Речь идет о методиках программирования и внешнего управления человеческим поведением (поведенческо-когнитивных технологиях,  осуществлении «поведенческо-когнитивного противоборства с использованием Больших Данных» [13. C. 101]). Например, концепция «Надж» (от англ. nudge — «подталкивание»), суть которой состоит в провоцировании человека или группы людей к принятию запрограмированных разработчиками решений и реализации на их основе определенных действий. Подобные методики были довольно успешно апробированы в некоторых азиатских и африканских  государствах [14. C. 197].

Поведенческие войны — еще более сложный и многоаспектный феномен, чем войны «просто» информационные. Разработки методик деструктивного воздействия проводятся с опорой преимущественно на достижения в сфере NBICS-технологий. Это результаты когнитивных наук, супербольшие данные о реальном поведении людей в различных ситуациях (черпаемые в интернете и хранящиеся в мощных суперкомпьютерах, в основном на территории Соединенных Штатов, в том числе, в специальном, гигантском  по информационной емкости центре Агентства Национальной Безопасности (АНБ) США в штате Юта), и на фундаментальную базу психологической науки о закономерностях и особенностях человеческого поведения  [15. C. 142]. Создание наукоемких аналитических и прогностических технологий, использующих супербольшие данные, ведется на основе новейших теоретических и практических достижений в области искусственного интеллекта. Наряду с этим активно используются последние достижения математической науки (в частности — теория категорий и функторов), которые,  по оценке профессионалов, «на порядки превосходят в плане возможности выявления нетривиальных зависимостей и связей, мощности и точности прогнозирования те методы стандартной математической статистики, которые описываются как основной инструмент во всей специализированной литературе по „большим данным“» [15. C. 139].

Заключение

Таким образом, прогресс информационно-коммуникационных технологий, и особенно технологий искусственного интеллекта, набирает обороты, все глубже погружая социум в новые обстоятельства и требуя решительных действий, ориентированных на преодоление угроз, специфичных для нынешней высокотехнологичной эпохи. Это свидетельствует о потребности  в значительном увеличении надежности защиты информационных сетей (как военных, так и гражданских) с целью овладения конкурентным преимуществом в виртуальной сфере, в недопущении ментальной колонизации (специальных мероприятий по системному вредоносному воздействию на психику и поведение населения со стороны противника), а значит — укреплении  внутренней стабильности общества. Способность и готовность успешно  противостоять постоянно нарастающим угрозам разрушительного воздействия высокотехнологичных методик, обеспечение информационной  безопасности является задачей государственной важности, от решения которой зависит не только нормальное функционирование, но и в прямом смысле сохранение нашей страны как суверенной державы.

В этой связи вселяет определенный оптимизм информация о поисках плодотворного научного решения этих проблем путем создания новейших методик противодействия токсичным социальным технологиям. Так, в отчете (2022 г.) Федерального исследовательского центра «Информатика и управление РАН» содержатся сведения о том, что «с помощью технологий искусственного интеллекта разработан метод получения достоверной информации о психологических особенностях человека, способный предсказывать социально опасные явления и деструктивные процессы в обществе на основе  анализа сообщений в социальных сетях и мессенджерах. Разработаны методы  и программные инструменты нейросетевого прогнозирования, реализующие новые алгоритмы анализа данных в сложных системах, обеспечивающие  существенно более высокую точность по отношению к мировым аналогам» [16. C. 55]. Представляется жизненно важным более значительное вложение сил и средств в сферу аналитики и защиты виртуального пространства, соцсетей и различных отечественных платформ от масштабного пласта вредоносной информации. Все это, безусловно, делает весьма актуальной задачу  дальнейшего философского осмысления проблем личности в эпоху информатизации и цифровизации, создания стратегии обеспечения духовной безопасности, а также разработку мер противодействия деструктивным проявлениям информационно-психологических факторов, угрожающим личностной,  общественной и государственной безопасности. Необходимо осознание того, что развитие высоких технологий может служить во благо только при адекватном понимании приоритетов, когда на первом месте стоят подлинные  интересы страны и населяющего ее народа. На наш взгляд, сегодня, в условиях ценностного кризиса технократического пути развития мировой цивилизации, требуется серьезное переосмысление романтизации технологического прогресса. Необходимо научиться, наконец, своевременно и профессионально предвидеть и преодолевать риски, дабы поставить мощный заслон  и избежать такого развития сценария, когда цифровые технологии в какой-то момент превратятся в абсолютно непреодолимую силу.

_{¹ Устинова А. Наем сотрудников в правительство поручат искусственному интеллекту. Минцифры создает рекрутинговую платформу с технологией ИИ. Режим доступа: https://www.vedomosti.ru/technology/articles/2023/08/23/991427-naem-sotrudnikov-v-pravitelstvo-poruchat-iskusstvennomu-intellektu (дата обращения: 23.08.2023).}

Об авторах

Екатерина Николаевна Гнатик

Автор, ответственный за переписку.
Email: gnatik-en@rudn.ru
ORCID iD: 0000-0003-0745-5019

доктор философских наук, профессор, профессор, кафедра онтологии и теории познания, факультет гуманитарных и социальных наук

Список литературы