Социальные проблемы развития и применения искусственного интеллекта

Полный текст

Сегодня мир переживает период стремительного развития искусственного интеллекта (далее — ИИ), что будет иметь далеко идущие социокультурные последствия и актуализирует социальные проблемы развития и применения ИИ. Алгоритмы стали играть решающую роль в выборе не только информации и новостей, но и решений, которые принимают люди. В области научных исследований ИИ занимает ведущие позиции в анализе и интерпретации данных. Продолжающееся замещение труда людей интеллектуальными технологиями требует новых инструментов обеспечения жизнеспособности и гибкости трудовых ресурсов [18. С. 422]. Все чаще ученые высказывают опасения, что ИИ может создать угрозу для существования человечества, поскольку способен взять под контроль многие аспекты нашей повседневной жизни и организации общественной сферы.

Идея ИИ с древнейших времен имеет большое социальное и культурное значение. В виде представлений об «искусственно созданных», «умных» существах, машинах или инструментах она проходит пунктиром через всю историю человечества. В различных формах она представлена в западных и восточных религиях, мифологии, литературе и философии, что свидетельствует об извечном интересе человечества к такого рода сущностям, и хотя проявления этого интереса имели разные культурные формы, само явление носит всеобщий характер. Сегодня увлеченность ИИ, в том числе социокультурными его аспектами, усиливается благодаря его развитию и использованию в реальных условиях.

В 1950-е годы термин «искусственный интеллект» был введен для обозначения машин, способных выполнять нестандартные задачи. По мере увеличения вычислительных мощностей термин стал применяться к машинам, которые обладают способностью к обучению. Хотя единого определения ИИ не существует, общепризнано, что системы, основанные на ИИ, или «когнитивных вычислениях», потенциально способны имитировать и даже превосходить человеческие способности — чувственное восприятие, языковое взаимодействие, логическое мышление и анализ, решение задач и даже творчество [3. С. 12]. Более того, «интеллектуальные машины» могут демонстрировать сходные с человеческими способности к обучению, подкрепленные механизмами самоотнесения и самокоррекции и основанные на алгоритмах машинного или глубинного обучения с использованием нейронных сетей, имитирующих функционирование человеческого мозга.

В последнее время крупные транснациональные технологические компании во многих регионах мира начали вкладывать значительные средства в интеграцию ИИ в свою продукцию. Вычислительная техника стала достаточно мощной, чтобы выполнять сложные алгоритмы и работать с большими данными — огромными массивами информации, которую можно использовать для машинного обучения. Эти компании имеют доступ к практически неограниченным вычислительным мощностям и данным, которые собраны с миллиардов людей и которые можно загружать в системы ИИ в качестве исходного материала для обучения. Кроме того, благодаря продукции этих компаний стремительно растет влияние ИИ на повседневную жизнь и на такие профессиональные сферы, как здравоохранение, образование, научные исследования, коммуникации, транспорт, искусство и др.

Несмотря на многочисленность и разнообразие определений ИИ, в западной исследовательской литературе сложился определенный консенсус в отношении возможности разграничения двух концепций ИИ — теоретической, или научной, и прагматической, или технологической. Теоретический, или научный, подход разрабатывается, например, в рамках информационной эпистемологии и предполагает «использование понятийного аппарата и моделей ИИ для поиска ответов на вопросы о людях и других живых существах» [10. С. 18]. Теоретическая концепция ИИ связана с философией, логикой, лингвистикой, психологией и когнитологией, занимаясь следующими вопросами: что такое интеллект и чем естественный интеллект отличается от искусственного; нужен ли символический язык для мыслительных процессов; можно ли создать «сильный ИИ» (подлинный интеллект того же типа и уровня универсальности, что человеческий интеллект) в противоположность «слабому ИИ» (интеллект, который имитирует человеческий интеллект и способен выполнять ограниченное число узко определенных задач). Хотя подобные вопросы носят теоретический характер, они связаны с рядом метафизических, духовных проблем (в том числе касающихся уникальности человека или свободы воли), которые имеют косвенные, но, тем не менее, серьезные социальные и этические последствия.

Прагматическая, или технологическая, концепция ИИ ориентирована на инженерную сторону дела — чтобы на основе различных компонентов ИИ (хрестоматийными примерами являются обработка естественного языка, представление знаний, машинная логика, машинное обучение, глубинное обучение, компьютерное зрение и робототехника) создавать машины и программы, способные самостоятельно выполнять задачи, которые в ином случае требуют человеческого интеллекта и участия [16]. Практический подход к ИИ стал чрезвычайно успешным за счет того, что его начали применять в сочетании с информационно-коммуникационными технологиями.

Широкое применение систем ИИ породило определенные социальные и культурные проблемы. Особенно значимым представляется тот факт, что люди еще не привыкли к этому виду интеллекта. Всякий раз, как мы сталкиваемся с запоминающимися произведениями искусства или выдающимися научными работами, мы предполагаем, что за ними стоит «сознательный» интеллект, работа которого определяется уникальным личностным фактором человека с богатым внутренним миром, мировоззрением и т.д. Тот факт, что мы не должны применять это привычное эмпирическое правило к блестящим результатам высокофункциональных систем на основе ИИ, создает серьезные социальные и культурные проблемы. Поскольку мы привыкли взаимодействовать с разумными в поведенческом плане субъектами, мы начинаем эмоционально и социально взаимодействовать с высокофункциональным ИИ, не обладающим сознанием, например, с «эмоциональными» или «социальными» роботами, такими как «умные помощники» Алиса, Siri, Alexa или Google-ассистент. На современном этапе технологического развития высокофункциональный ИИ, не обладающий сознанием, не может отвечать на сложные эмоциональные и социальные ожидания людей, но его внешнее поведение в сочетании с человеческим воображением может породить надежду на подлинное взаимодействие с людьми. При этом важно помнить, что «эмоциональный» разум ИИ скорее плод нашего воображения, чем реальность. Практически все исследователи сходятся во мнении, что системы на основе ИИ не обладают сознанием как человеческим переживанием, даже если могут отвечать на вопросы о контексте своих действий. Важно не отождествлять переживание с интеллектом, даже если последние разработки в сфере ИИ служат причиной пересмотра важности наличия такого переживания или осознания для того, чтобы быть человеком.

Искусственный интеллект в образовательном процессе

Одной из основных социальных проблем, связанных с ИИ, является вытеснение рабочей силы. Скорость изменений, обусловленных внедрением ИИ, имеет беспрецедентные по масштабам последствия: в ближайшем будущем она обусловит необходимость переподготовки большого числа работников и будет иметь серьезные последствия для карьерных перспектив учащихся. По данным экспертного опроса, проведенного в 2018 году, руководители все чаще рассматривают инвестиции в переподготовку и повышение квалификации сотрудников в качестве неотложной задачи [12].

Соответственно, ИИ будет подталкивать общество к переосмыслению образования и его социальной роли. Предлагаемое университетами традиционное образование может оказаться недостаточным в период ускоренного развития цифровой экономики и распространения приложений на базе ИИ. До настоящего времени стандартная модель образования, как правило, была нацелена на обеспечение функциональной грамотности в широком смысле слова. В XXI веке информация и знания присутствуют повсеместно, поэтому возникает потребность не только в «грамотном обращении с данными», которое позволяет учащимся воспринимать и анализировать информацию и эффективно управлять ею, но и в «ИИ-грамотности» — необходимой для критического осмысления того, каким образом интеллектуальные компьютерные системы участвуют в выявлении информационных потребностей, а также в выборе, интерпретации, хранении и представлении данных.

В условиях постоянно развивающегося рынка труда система образования больше не может быть нацелена на обучение людей одной конкретной профессии, на формирование узких специалистов. Образование должно делать людей разносторонними и адаптируемыми, готовыми к жизни в мире, в котором технологии формируют динамичный рынок труда и в котором работники должны самостоятельно переучиваться на регулярной основе [19. С. 536]. Нынешние представления об «обучении на протяжении всей жизни», возможно, потребуют трансформации в модель непрерывного образования, предполагающего разработку новых видов академических квалификаций.

Роль искусственного интеллекта в научном познании

По прогнозу многих экспертов, применение ИИ способно оказать значительное воздействие на научную работу. В сфере естественных и общественных наук в связи с распространением технологий ИИ возникают фундаментальные вопросы о научном понимании и объяснении, что также влияет на то, каким образом мы применяем научные знания в социальном контексте. Вследствие применения все более мощных форм машинного и глубинного обучения ИИ ставит под сомнение представления о том, что считается удовлетворительным научным объяснением и чего следует ожидать от предсказуемо успешных научных теорий. С точки зрения дедуктивно-номологической модели науки надлежащее научное объяснение должно обеспечивать достоверное прогнозирование конкретных явлений на основе научных законов. Такие прогнозы, как правило¸ основываются на понимании причинно-следственных связей или на унифицирующей интерпретации кажущихся разнородными явлений. ИИ же, напротив, может стабильно выдавать впечатляюще точные прогнозы на основе наборов данных, не предъявляя объяснений, основанных на причинно-следственных связях или носящих унифицирующий характер. Алгоритмы ИИ не работают с теми семантическими понятиями, которые используют люди в процессе формирования научного понимания того или иного явления. Этот разрыв между успешными прогнозами, с одной стороны, и удовлетворительным научным объяснением — с другой, вероятно, будет играть важную роль в научной практике и в принятии решений с помощью ИИ.

Все это может сказаться на доверии к традиционному научному исследованию, обычно основанному на научном методе, который систематически и прозрачным образом объясняет явления и позволяет делать осмысленные прогнозы, базирующиеся на фактах. Очевидный успех алгоритмов машинного обучения, выражающийся в том, что они демонстрируют сопоставимые результаты без привлечения такой научно обоснованной модели, может иметь последствия для восприятия и оценки науки и научных исследований обществом. Кроме того, качество машинного обучения в значительной степени зависит от данных, которые используют для тренировки алгоритмов [14. С. 488]. Однако поскольку большинство приложений на базе ИИ разрабатываются частными компаниями, эти данные не всегда прозрачны, что отличает их от традиционного научного метода, который гарантирует достоверность результатов, требуя их воспроизводимости.

В частности, ИИ может принести пользу экологической науке — в обработке и интерпретации данных в сфере экологии, системной биологии, биоинформатики, космических и климатических исследований, что будет способствовать углублению научного понимания различных процессов и механизмов. Совершенствование методов переработки отходов, экологического мониторинга и восстановления окружающей среды, более эффективное энергопотребление могут обеспечить прямые экологические выгоды. В сфере сельского хозяйства ИИ может способствовать повышению урожайности (например, за счет автоматизированного внесения удобрений и орошения), улучшению условий жизни животных, а также снижению рисков, связанных с болезнями, вредителями и неблагоприятными погодными условиями. В то же время ИИ способен изменить наше восприятие природы — как в позитивном ключе, обогащая представления людей о красоте и независимости, так и в негативном — за счет инструментализации природы или отчуждения человека от животного мира и окружающей среды в целом.

Искусственный интеллект в медицине и системе здравоохранения

Развитие технологий ИИ в медицине с годами значительно изменило ландшафт здравоохранения и биоэтики. Эти технологии могут принести положительные результаты, например, в плане повышения точности роботизированной хирургии и улучшения ухода за больными, но в то же время вызывают вопросы социального и этического характера (например, связанные с ними расходы в контексте нехватки ресурсов в системе здравоохранения и прозрачность, которую они должны обеспечить в целях соблюдения прав пациентов на принятие самостоятельных решений). Отдельным людям, не являющимся профессионалами в области медицины, ИИ дает возможность по-новому подойти к решению вопросов, связанных со здоровьем. Использование интернет-сайтов и рост числа мобильных приложений для самодиагностики позволяют ставить себе диагнозы без обращения к врачу, что может сказаться как на авторитете медицины, так и на восприятии приемлемости самолечения со всеми сопутствующими рисками. Меняются отношения между врачом и пациентом, что свидетельствует о необходимости введений той или иной формы регулирования, не препятствующей инновациям и не ограничивающей автономии пациента.

Технологии ИИ могут помочь медицинским работникам высвободить дополнительное время для работы с пациентами, например, за счет облегчения ввода данных и канцелярской работы, однако эти же технологии могут подменить собой целостный и гуманистический подход к пациенту. Аналогичные опасения вызывает разработка автоматических программ-собеседников для общения с людьми, обращающимися за психологической и иной медицинской помощью. Кроме того, для пожилых людей внедряются такие ИИ-технологии, как социальные роботы-помощники, которые с медицинской точки зрения могут быть полезны, но одновременно вызывают обеспокоенность по поводу уменьшения роли людей в уходе за больными и, как следствие, углубление их социальной изоляции.

ИИ привносит новый ракурс в продолжающуюся дискуссию о том, где заканчивается лечение и начинается «усовершенствование» человека. Существуют проекты по интеграции ИИ с человеческим мозгом с помощью нейронного интерфейса — ячеистой структуры, которая растет вместе с мозгом и выполняет роль бесшовного интерфейса между мозгом и компьютером, действуя через систему кровообращения [13]. Эти технологические разработки напрямую связаны с вопросами о том, что значит быть человеком и что такое «нормальное» функционирование человека.

Искусственный интеллект и культурное разнообразие

Хотя ИИ может оказать позитивное воздействие на культурный сектор, не все творческие работники обладают навыками и ресурсами, необходимыми для использования технологий ИИ при создании и распространении своих произведений. Коммерческая логика крупных платформ может привести к концентрации предложения товаров и услуг, данных и доходов в области культуры в руках небольшого числа участников рынка, что может иметь негативные последствия для разнообразия форм культурного самовыражения в целом, в том числе опасность креативного разрыва и усиление маргинализации развивающихся стран. По мере превращения этих платформ в доминирующие механизмы распространения произведений искусства важно обеспечить разнообразие и справедливый доступ к этим платформам для творческих работников всех жанров и направлений. Творческие работники и предприниматели, работающие в сфере культуры, должны иметь доступ к программам профессиональной подготовки, финансовым услугам, инфраструктуре и оборудованию, необходимым для участия в работе нового культурного сектора.

ИИ может сыграть важную роль в сохранении культурного наследия — например, использоваться для мониторинга и анализа изменений объектов культурного наследия, вызванных проблемами развития, стихийными бедствиями и вооруженными конфликтами. ИИ может использоваться для отслеживания незаконного оборота культурных ценностей и разрушения культурных объектов, для сбора данных в целях проведения работ по их восстановлению и реконструкции.

Роль искусственного интеллекта в творческой деятельности

 ИИ все шире используется в творчестве и художественной практике — от программ автоподстройки, автоматически корректирующих высоту нот, взятых певцом, до алгоритмов, помогающих создавать произведения изобразительного искусства, сочинять музыку и писать литературные произведения, романы и стихи. Творчество, под которым понимается способность создавать новый, оригинальный контент, задействуя воображение или изобретательность, играет центральную роль в открытом и плюралистическом обществе. Хотя ИИ является мощным инструментом творчества, в связи с распространением технологий ИИ возникают вопросы о будущем искусства, правах творческих работников, целостности цепочек создания художественных ценностей и их духовной значимости.

Хорошей иллюстрацией является проект «Еще один Рембрандт», в ходе которого новая картина Рембрандта была создана с помощью ИИ и трехмерного принтера [17]. Такие произведения искусства требуют новой оценки их духовной и культурной значимости, а также нового определения понятия авторства, которое позволило бы справедливо оценить творческий вклад как «оригинального» автора, так и алгоритмов и технологий, создавших это произведение. Возникают и другие вопросы: нужно ли создавать подобные художественные произведения, которые являются суррогатом реальных; имеют ли они культурную и художественную ценность; если живого автора заменяют машины и алгоритмы, в какой степени можно говорить о духовном значении искусства, и должен ли алгоритм признаваться в качестве автора и пользоваться теми же правами, что и художник.

Хотя очевидно, что ИИ способен создавать оригинальные художественные произведения, в разработке технологий и алгоритмов ИИ, а зачастую и в создании произведений искусства как источника художественных работ ИИ, всегда участвуют люди. С этой точки зрения ИИ можно рассматривать в качестве новой художественной техники, использование которой приводит к созданию произведений искусства нового типа.

Искусственный интеллект и язык

 В нашем глобальном мире все возрастающую роль, по-видимому, будет играть машинный перевод — ИИ будет менять язык и средства выражения человеческой мысли во всех сферах жизни. Это влечет за собой ответственность за бережное отношение к естественным языкам (которые следует отличать от искусственных языков и компьютерного кода) и к их разнообразию. Язык является основой идентичности, социальной гармонии, образования и развития человеческого потенциала.

Центральным элементом сложной взаимосвязи между ИИ и языком выступает посредническая роль формальных языков (программирования, по сути, математической модели реальных языков). Технологии ИИ во многих случаях требуют, чтобы слова и предложения на любом из естественных языков были переведены на один из формальных языков, который может быть воспринят компьютером. Во многих случаях перевод с естественного языка на формальный не является нейтральным процессом, поскольку приводит к смысловым потерям — не все языковые оттенки и особенности могут быть формализованы. Другой проблемой является перевод с одного естественного языка на другой при посредстве формальных языков. Есть несколько объективных сложностей, с которыми сталкивается машинный перевод: в разных языках слова могут иметь разные значения, а лингвистические или понятийные соответствия между языками могут отсутствовать — перевод становится очень сложной, даже технически невыполнимой задачей. Не всегда в полной мере поддаются переводу контекстуальные и культурные коннотации. Несмотря на значительный прогресс, достигнутый в последние годы, автоматический или машинный перевод зачастую остается слишком ненадежным, чтобы его можно было использовать, например, в технических или медицинских областях, где решающее значение имеет лексическая и понятийная точность. И совершенно невозможно представить адекватное использование такого перевода в культурной сфере и литературе, полных контекстуального смысла и являющихся результатом творческой деятельности человека.

Применение искусственного интеллекта в социальной коммуникации

ИИ играет все более важную роль в обработке, структурировании и предоставлении информации. Автоматизированная журналистика и алгоритмические новостные ленты в социальных сетях — лишь некоторые из примеров этой тенденции, в связи с которой возникают вопросы доступа к информации, дезинформации, дискриминации, свободы выражения мнений, неприкосновенности частной жизни, медийной и информационной грамотности, а также новых цифровых разрывов между странами и внутри социальных групп.

ИИ может способствовать свободному обмену информацией и журналистской деятельности, но может использоваться и для дезинформации, распространения «фальшивых новостей». Показателен пример Cambridge Analytica (CA) — английской компании, которая использовала технологии глубинного анализа данных (в частности, социальных сетей) для разработки стратегической коммуникации в ходе избирательных кампаний в Интернете. CA занималась сбором данных о пользователях Интернета и соцсетей, составлением их психологических портретов и разработкой персонализированной рекламы. Пример СА показал, что алгоритмы, которые были созданы, чтобы избежать свойственной человеку политической предвзятости при размещении контента в социальных сетях, могут использоваться для намеренного распространения сфабрикованной, манипулятивной или сеющей рознь информации среди целевых групп. В некоторых случаях такой контент может включать информацию, в обманных целях оформленную в виде новостных сообщений, а также материалы, использующиеся как средства эмоциональной пропаганды.

Подобная практика, которая в последние годы активно применяется, может негативно сказаться на нормах цивилизованной и предметной дискуссии, общественном доверии к информации, публичных дебатах и др. Существование различных, иногда поляризованных мнений — характерная особенность современного открытого общества. Однако алгоритмы социальных сетей могут усугублять поляризацию мнений, усиливая и умножая эмоциональный контент при помощи «одобрений», «пересылки ссылок», «повторов сообщений», автозаполнения поисковых запросов и других форм онлайн-рекомендаций и инструментов вовлечения, что приводит к созданию «фильтрующих пузырей» и «эхо-камер», подменяющих собой инфраструктуру общественных дискуссий. Пользователи, попавшие в один «пузырь», подвергаются воздействию потока отфильтрованной информации, вследствие чего открытые публичные пространства заполняются представителями все более гомогенных групп — сторонников того или иного мнения, которые будут занимать все более полярные позиции по отношению друг к другу.

Итак, развитие ИИ сопряжено с существенными социальными и культурными последствиями. Как многие другие информационные технологии, ИИ порождает вопросы о свободе выражения мнений, неприкосновенности частной жизни и слежки, праве собственности на данные, предвзятости и дискриминации, манипулирования информацией и доверия, властных отношений и воздействия на окружающую среду вследствие потребления энергии. ИИ создает новые проблемы — связанные с его взаимодействием с когнитивными способностями человека. Системы, основанные на ИИ, чреваты последствиями для человеческого понимания и опыта. Алгоритмы социальных сетей и новостных сайтов могут способствовать распространению дезинформации и сказываться на политическом взаимодействии и активности. Машинное обучение может усиливать и углублять цифровое и социальное неравенство и отчужденность, создавая угрозу для культурного разнообразия. «Цифровой разрыв» внутри стран и между ними может усугубляться отсутствием доступа к таким ключевым элементам современной жизни, как алгоритмы обучения и классификации, данные для тренировки и оценки алгоритмов, человеческие ресурсы для разработки и настройки программного обеспечения и подготовки данных, вычислительные ресурсы для хранения и обработки данных. Все вышесказанное свидетельствует о назревшей необходимости разработки нормативных этических принципов применения систем ИИ, которые должны способствовать расширению прав и возможностей пользователей этих систем.

Об авторах

Владимир Анатольевич Цвык

Российский университет дружбы народов

Автор, ответственный за переписку.
Email: tsvyk-va@rudn.ru

доктор философских наук, заведующий кафедрой этики и декан факультета гуманитарных и социальных наук

ул. Миклухо-Маклая, 6, Москва, 117198, Россия

Ирина Вячеславовна Цвык

Московский авиационный институт

Email: tsvykirina@mail.ru

доктор философских наук, профессор кафедры философии

Волоколамское шоссе, 4, Москва, 125993, Россия

Список литературы