Искусственный интеллект: кодозависимость как новый фактор социального неравенства

Полный текст

Рецензируемая книга — пример экспертной технологической журналистики, и по поднятым гуманистическим и социальным вопросам она будет полезна социологам, интересующимся не столько позитивными (техническими и коммуникационными) возможностями ИИ, сколько неоднозначными его последствиями (социальными, экономическими и политическими). Экспертно-журналистский и, значит, научно-публицистический стиль изложения делает книгу интересной для широкой аудитории — она легко читается, предлагает понятные примеры, разбита на небольшие главы, содержательно самостоятельные (очерки), напрямую обращается к читателю, разъясняет сложные технические понятия и сбалансированно сочетает обещания (прекрасного технологического будущего) и угрозы (пугающего социального настоящего), в целом тяготея к критической оценке цифрового капитализма [1; 2; 3], где жизнь человека «превращается в пакет данных, выставляемых на продажу… и мы все оказываемся продуктами» (С. 12).

Формально ИИ мало что меняет в логике функционирования цифрового капитализма: «это сложное статистическое программное обеспечение, применяемое для поиска закономерностей в больших наборах реальных данных. Значительный прогресс этой технологии в последние несколько лет обусловлен тремя факторами: взрывным ростом объема доступных данных о человеческом поведении и творчестве (инфоследов), повышением мощности микросхем, необходимых для работы с этими данными, а также консолидацией усилий нескольких крупных технологических компаний, способных выделять существенные ресурсы для ускорения ее развития» (С. 13). Реально же «ИИ коварно пробирается в нашу жизнь» (такова оценка «закоренелого технооптимиста»): «мы живем в тесном соседстве с автоматизированными системами, основанными на данных, и их внутренние механизмы влияют на наши личные связи, расстановку сил в рабочем коллективе и наши отношения с государством. Мы опираемся на алгоритмические технологии, как в прошлом опирались друг на друга, и образ жизни людей во всем мире меняется, постепенно подстраиваясь под эти технологии… Порождающий, или генеративный, ИИ, обученный на продуктах нашей научной и творческой деятельности, может гораздо более эффективно, чем когда-либо ранее, манипулировать нашими эмоциями и настроением, а также диктовать нам, что думать и как себя вести» (С. 13–15).

Книга — своего рода сборник «кейсов»: автор посетила разные страны и провела интервью с представителями разных социально-профессиональных групп («врач из индийской глубинки, доставщик еды из Питтсбурга, инженер-афроамериканец, иракская беженка в Болгарии, британская поэтесса, аргентинский чиновник, мать-одиночка из Амстердама, китайская активистка в изгнании и священник из Рима»), чтобы представить «реальные примеры нашего взаимодействия с ИИ, которые явно показали бы, чем грозит наша зависимость от автоматизированных систем» не только в сфере занятости, творчества и образования, но также в области «здравоохранения, охраны правопорядка, общественного благосостояния и военного дела, что приводит к долгосрочным последствиям и социальным трансформациям» (С. 15–16). С одной стороны, «не понимая, как работают ИИ-системы, мы просто не замечаем, когда они выходят из строя или причиняют вред, особенно представителям уязвимых групп», с другой стороны, «не понимая природу, этику, историю людей и саму нашу человеческую сущность, ИИ-системы никак не могут нам помочь» (С. 19).

Автор называет ту «довольно мрачную картину», что представлена в книге, «колониализмом данных» [6; 7]: «власть над технологиями сосредоточена в руках немногочисленных компаний, которые и заказывают музыку», но «вместо территорий объектом колонизации становятся человеческие жизни, преобразованные в непрерывные потоки информации. Конкурентная борьба за эти данные представляет собой историческое продолжение колониализма и усугубляет неравенства прошлого в условиях “датафикации” общества, которая есть не что иное, как новая форма грабежа и угнетения» (С. 17–18). Конечно, ведущие компании борются за лучших специалистов в области компьютерных технологий и платят им сотни тысяч долларов, но, чтобы обучать свои системы и внедрять их в эксплуатацию с помощью реальных данных, эти же компании создают «армии низкооплачиваемых сотрудников (для разметки и аннотирования данных — «обучения» технологий), которые обладают базовой цифровой грамотностью, но не имеют стабильной занятости» (С. 35). Как правило, это представители уязвимых групп в странах третьего мира, работающие удаленно и соглашающиеся на очень низкие зарплаты как единственный способ заработка в их сложной жизненной ситуации, причем у них нет возможностей бороться за свои права (ресурсов для протеста или рычагов давления). «Возможность самостоятельно решать, как и когда работать, дает чувство независимости и контроля, но… их доход слишком мал, чтобы обеспечивать семью» (С. 61).

Более того, эти люди получают мизерную оплату за обучение ИИ-систем, которые впоследствии их заменят, ускорив их уход с рынка труда. Будучи заворожены возможностями ИИ, мы не замечаем очередной этап в развитии глобального капитализма — многочисленные низкооплачиваемые работники в раздробленной по технологическим задачам ИИ-сфере мало чем отличаются по положению от тех «своих собратьев по несчастью», что в разных частях третьего мира создают элементы самых дорогих товаров для бутиков в странах первого мира (С. 46). Если же такие работники «проявляют инициативу или выражают неповиновение… их быстро и безжалостно ставят на место», тем более что подрядчики глобальных компаний «связаны жесткими соглашениями о неразглашении, которые заставляют их молчать… Работа по аннотированию данных в развивающихся странах давала людям новые возможности и некоторую стабильность, но компании относились к своим сотрудниками как к легко заменимым роботам, стоящим ниже их коллег из других стран» (С. 65).

Другой элемент «мрачной картины» — результаты массовой доступности ИИ-технологий, в частности, для создания поддельных гиперреалистичных изображений и видео, «своего рода фотошопа нового времени — дипфейков» (С. 71), а также GAN (порождающих состязательных сетей) и других инструментов ИИ-арта, которые «могут создавать высококачественные изображения и видеоролики быстрее и дешевле, чем профессиональные студии визуальных эффектов, что делает их привлекательной альтернативой в индустрии развлечений» (С. 73). Автор отмечает два основных негативных последствий распространения и все ускоряющегося развития подобных технологических решений: во-первых, абсолютная незащищенность человека от того, что таким образом будут созданы и распространены (по недостаточно контролируемым социальным сетям и даже на порнографических сайтах) его сфабрикованные интимные изображения — практически отсутствуют юридические инструменты защиты от таких ситуаций (хотя количество подобных дел в судах растет, но пока они носят прецедентный характер). «Дипфейки не относятся к числу непредвиденных последствий ИИ. Это инструменты, намеренно используемые не по назначению… их негативное влияние усугубляется простотой использования технологии и институциональным бездушием — отсутствием государственного регулирования и нежеланием крупных онлайн-платформ отвечать за распространение подобного контента» (С. 75–76). Во-вторых, ИИ-арт в перспективе может лишить работы представителей творческих профессий: «создатели порождающего ИИ утверждают, что новая технология откроет новую эпоху в истории человечества, обеспечив доступ к дешевому интеллекту и массовому творчеству… мы станем более продуктивными, более успешными, более разумными, более талантливыми. Но реальность такова, что новые технологии уже годятся для того, чтобы заменить людей, которые сегодня работают иллюстраторами, копирайтерами, дизайнерами видеоигр, актерами озвучки, аниматорами, и других представителей творческих профессий» (С. 329).

Еще один элемент «мрачной картины» — ошибки, совершаемые ИИ-технологиями и разрушающие жизни людей, например технологии распознавания лиц часто ошибочно идентифицируют людей как преступников. Проблема не только в алгоритмах, которые дают сбой, а в том, что технические ошибки накладываются на устойчивые социальные стереотипизации, т.е. срабатывает человеческий фактор [8; 9]: «алгоритмы гораздо более точно распознают мужские и европеоидные лица и часто ошибаются при распознавании лиц темнокожих людей и женщин… технология часто дает ложные срабатывания, а люди склонны искать подтверждение своей точки зрения… и под ударом оказываются невинные люди… вместе с ИИ люди могут создать гораздо более опасную полицейскую систему, чем существует сегодня» (С. 115–116).

В принципе «ИИ создан для того, чтобы давать однозначный ответ, ему не достает тонкости… он не всесилен и может ошибаться… поэтому следует помнить о предвзятости автоматизации… когда люди в своей работе начинают чрезмерно на нее полагаться» (С. 153). Мы постоянно сталкиваемся с ошибками расчетов алгоритмов: когда они неправильно прокладывают маршрут и оценивают его продолжительность, когда наш товар теряют или отправляют не туда почтовые службы и маркетплейсы, когда нас забрасывают рекламными предложениями, по определению не имеющими к нам никакого отношения, когда водители и курьеры рассказывают нам о странных «решениях» технических систем, ориентированных в распределении задач только на скорость и максимизацию во времени (не учитывают непредвиденные задержки, удлинение маршрута из-за пробок, погодные условия, дорожные работы и пр.) и т.д. Нередко мы прекрасно понимаем, как можно решить проблему (будь мы программистами), или решаем ее с помощью живого человека, однако общение с ним становится все более труднодостижимой роскошью в мире повсеместного внедрения ИИ-алгоритмов. Рабочие приложения, как и вся система, основанная на ИИ, воспринимаются сотрудниками как «своевольные, самовластные и не несущие никакой ответственности» (С. 247). В итоге мы оказываемся в «кафкианском лабиринте»: «человек, работающий в автоматизированной системе, испытывает досаду и страдает от паранойи, ему не хватает товарищества с коллегами и чувства локтя, и он при этом не может ничего изменить — таков парадокс структуры, которая полностью зависит от работы людей, но обращается со своими сотрудниками, как с роботами» (С. 249).

Хотя автор заявляет о своем технологическом оптимизме (признавая существующие угрозы и возникающие риски, например, фабрикацию информации и «галлюцинирование» ИИ-программ, основанных на больших языковых моделях), в социальной сфере она склонна к радикальным оценкам. Это ярко проявляется всякий раз, как речь заходит о Китае — повествование переключается с характерного для других разделов поиска баланса между возможностями и ограничениями цифровизации и ИИ на резкую критику цифрового тоталитаризма. Сегодня многие страны стремятся к широкомасштабной цифровизации, поскольку она облегчает осуществление контроля и коммуникации [4], и Китай — один из лидеров технологических новаций, на которого ориентируются многие страны. Никто не отрицает перекосы китайских систем социального рейтингования и повсеместного цифрового наблюдения, однако неверно забывать и об успешных попытках китайского правительства не только карательно, но превентивно-коллективно сдерживать распространение неэтичных практик в цифровой среде [5].

Автор находит основания и для социального оптимизма: «закрепощение людей под началом ИИ имеет неожиданный побочный эффект… укрепляет агентность людей, сплачивает их и подталкивает к сопротивлению системе» (С. 258). Причем люди используют против системы ее же технологические приемы, например, в Индонезии курьеры на мопедах используют сторонние приложения и находят обходные пути (манипулируют данными GPS или применяют приложение «UberCheats» — «обмани Убер»), чтобы «не идти на поводу у своевольного алгоритма и хотя бы немного контролировать ситуацию (на своей работе)» (С. 258), а в Великобритании курьеры изменили название службы доставки «Deliveroo» («доставлять» + «кенгуру» как официальный символ) на «slaveroo» («раб» + «кенгуру», где к изображению был добавлен чугунный шар, прикованный к одной ноге кенгуру). Сплочение гиг-работников против ИИ-систем, которые «настраивают их друг против друга (заставляют конкурировать) и используют непрозрачные алгоритмы распределения заказов и расчета заработков», автор считает принципиально важным именно сейчас, когда гиг-экономика перестала быть преимущественной сферой занятости студентов и ищущих подработку — сегодня в ней работают иммигранты, выходцы из сельской местности и депрессивных регионов, женщины и многие другие, для кого такая занятость не источник дополнительного заработка, а единственный способ обеспечить себя и свои семьи (С. 262). Трудно не согласиться с автором, что «разработка идеально этичной ИИ-системы должна стать коллективным делом (государств, культур, крупных компаний, продавцов ИИ-продуктов, творческой интеллигенции и др.)» (С. 352), но пока слабо верится как в подобное солидарное усилие, так и в этично функционирующий ИИ.

Об авторах

Андрей Викторович Нименский

Автор, ответственный за переписку.
Email: 1142220897@rudn.ru
аспирант кафедры социологии ул. Миклухо-Маклая, 6, Москва, 117198, Россия

Андрей Денисович Герасимов

Email: 1132249118@rudn.ru
магистрант Инженерной академии ул. Миклухо-Маклая, 6, Москва, 117198, Россия

Список литературы

Дополнительные файлы

В статье упоминается Стэнфордский университет, внесенный Министерством юстиции РФ в перечень организаций, деятельность которых признана нежелательной на территории РФ.