Вызовы генеративного искусственного интеллекта для системы высшего образования

Полный текст

Постановка проблемы. Искусственный интеллект (ИИ) - это быстро развивающаяся область, которая трансформирует многие отрасли и меняет образ жизни и работы людей. В соответствии с федеральным проектом «Искусственный интеллект» среди прочих поставлена «задача повышения уровня информированности населения о возможных сферах использования ИИ»[10]. В последние годы разработчики технологий ИИ добились значительных успехов и все чаще используют их для решения сложных проблем и повышения точности результатов в различных областях, включая образование, здравоохранение, финансы и многое другое. Цифровые гиганты - от западных Google и Amazon до китайских платформ Alibaba и Baidu - не только используют достижения машинного обучения, но и вкладывают огромные средства в исследования и приобретение перспективных стартапов. По оценкам Grand View Research, мировой рынок ИИ вырастет к 2030 г. в 13 раз и достигнет 1811,8 млрд долл. ИИ является одной из самых активно развивающихся технологий в мире, которая имеет огромные перспективы для использования в социальной сфере, включая высшее образование. ИИ обладает потенциалом революционизировать то, как вузы работают и предоставляют образовательные услуги своим студентам. В то же время использование ИИ в профессиональном образовании находится в зачаточном состоянии, а его возможности оценены не в полной мере [1]. Цель исследования - выявить технологические, когнитивные и педагогические особенности генеративного искусст- венного интеллекта и обосновать перспективные решения по его применению в образовании. Методология. Генеративный ИИ - это подмножество технологий искусственного интеллекта, которое включает в себя обучающие модели на базе нейронных сетей для генерации новых данных, аналогичных данным обучающей выборки. Генеративный ИИ может включать в себя создание изображений, текста, аудио, видео. Близки и перспективы появления сильного мультимодального и гипермодального генеративного ИИ, самообучаемого, сочетающего перечисленные типы информации и реализованного в среде гипермедиа. Генеративный ИИ использовался первоначально для создания реалистичных изображений и видео несуществующих людей, животных и мест. Эта технология основана на алгоритмах глубокого обучения нейронных сетей, которые способны изучать сложные закономерности в данных и генерировать новые данные, имитирующие эти закономерности. В последние годы генеративный искусственный интеллект превратился в мощную технологию, имеющую приложения в различных областях, таких как синтез изображений, обработка естественного языка и сочинение музыки. Однако, несмотря на свои многочисленные преимущества, генеративный ИИ имеет и ряд проблем, которые необходимо решить, особенно в вузах. Сейчас специалисты в области искусственного интеллекта и глубокого обучения активно обсуждают AGI (artificial general intelligence) - общий искусственный интеллект или, как его еще называют, сильный ИИ. Еще три года назад все считали, что в ближайшие десять лет мы к таким обсуждениям даже не приблизимся. Однако команда Open AI в конце прошлого года выпустила общедоступный генеративный предобученный трансформер ChatGPT (generative pre-trained transformer) и его продвинутую версию GPT-4 - модели генеративного языкового моделирования. В исследовании мы с позиций прикладной информатики рассмотрим вызовы генеративного ИИ для системы высшего образования и предложим возможные пути для их решения. Результаты и обсуждение. В целом исследования в области цифрового моделирования профессиональной среды все еще находятся на ранних стадиях, и в этой области существует большой потенциал для будущего развития и инноваций. В то же время некоторые исследования показали многообещающие результаты. Так, в центре внимания англоязычных авторов находятся перспективы применения таких технологий, как: а) цифровые двойники [2-4]; б) виртуальная реальность и интернет вещей [5]; в) 3D-модели [6]. В отечественной литературе, помимо упомянутых, изучаются: а) представление знаний в информационных системах [7]; б) методологии и технологии проектирования информационных систем [8]; в) бизнес-моделирование и интеллектуальный анализ данных[11] [9]. Хотя ИИ находит множество применений в различных отраслях промышленности, в своем генеративном «поколении» он имеет определенные препятствия. Назовем некоторые из них. 1. Недостаток ресурсов. Генеративный ИИ требует большой вычислительной мощности и специализированного оборудования, такого как графические процессоры (GPU) в большом количестве для эффективного обучения моделей. Это может быть дорого для отдельных компаний, у которых не хватает ресурсов для покупки и обслуживания необходимого оборудования. 2. Сложность технологии. Генеративный ИИ - это сложная технология, требующая глубокого понимания алгоритмов машинного обучения и языков программирования. Без специального образования сложно изучить и применить эти концепции, особенно если у специалиста или их группы ограниченный опыт программирования моделей машинного обучения (ML). 3. Проблемы в обучающих выборках. Генеративные модели ИИ могут генерировать только те данные, которые аналогичны обучающим выборкам. Если данные в обучающих выборках не отличаются разнообразием, сгенерированные данные могут быть необъективными и тиражировать существующие стереотипы и искажения. Разработчики должны убедиться, что их данные в обучающих выборках валидны и репрезентативны для разных полов, на- циональностей и культур. 4. Ограниченные варианты использования. Хотя генеративный ИИ имеет много потенциальных применений, он может стать неприемлемым для некоторых вузовских дисциплин. Например, генеративный ИИ может быть не так полезен на занятиях по истории или культурологии, как в изучении информатики, программирования или дизайна. 5. Генеративный ИИ вызвал этические проблемы, особенно в отношении создания дипфейков, представляющих собой сгенерированные изображения и видео, которые можно использовать для распространения дезинформации или причинения вреда отдельным лицам. В этом плане перед вузами встает задача обучать студентов этическим последствиям генеративного ИИ и тому, как ответственно использовать эту технологию. Решая эти проблемы, вузы могут помочь студентам развить навыки и знания, необходимые для понимания и использования генеративного ИИ продуктивным, ответственным и этичным образом. При надлежащем уровне цифровой культуры студенты могут использовать возможности генеративного ИИ для создания инновационных решений и внести свой вклад в лучшее будущее. Наряду с опасениями по поводу бесконтрольного развития генеративного ИИ (Илон Маск, Стив Возняк и др.), высказываются мнения о пользе его использования. Демис Хассабис, генеральный директор и соучредитель DeepMind, утверждает, что преимущества исследований в области искусственного интеллекта намного перевешивают потенциальные риски и что важно продолжать развивать эту область, помня об этических последствиях[12]. Стюарт Рассел, профессор электротехники и компьютерных наук Калифорнийского университета в Беркли выступал за разработку доказуемо полезных систем искусственного интеллекта, разработанных в соответствии с человеческими предпочтениями и ценностями. В своей книге «Совместимость с человеком» он утверждает, что «целью искусственного интеллекта должна быть максимизация человеческого счастья и процветания и что нам нужно разрабатывать системы искусственного интеллекта, которые были бы безопасными, прозрачными и соответствовали человеческим ценностям» [10]. Поскольку мы имеем дело с языковыми моделями, а точнее, с пред- обученными трансформерами, такими как ChatGPT, LaMDA, Bard, Claude и подобными, то трудно предоставить надежный метод проверки того, была ли домашняя работа студента написана моделью или самим студентом. Однако есть несколько подходов, которые можно использовать для проверки на плагиат или подтверждения подлинности работы студента. Первое, что приходит в голову, - проверка на плагиат. Система «Антиплагиат» может помочь определить случаи плагиата, сравнивая работу студента с базой данных существующих текстов. Однако это работает только в том случае, если генеративный ИИ использовал ресурсы интернета. Если студент скопировал контент из другого источника, он может не появиться в результатах поиска. Но возможности данной системы пока еще не включают выявление сгенерированного, но не размещенного в Сети текста. «Использование ИИ в образовательных и научных целях не регулируется законодательно, и в настоящее время пытаются регулировать его по аналогии с плагиатом, что неправильно с точки зрения сложности технологии. Эксперты считают, что в ближайшее время официальное разрешение на использование генеративных сетей в России невозможно»[13]. В то же время, несмотря на то что Комиссия по этике в сфере ИИ состоит из представителей «Сбербанка», «Яндекса», МТС, фонда «Сколково», ЦСР, Центра искусственного интеллекта МГИМО, «Сколтеха», ИТМО и МГТУ имени Н.Э. Баумана, очень странно видеть такое заявление, учитывая, что студенты активно используют языковые модели генеративного ИИ. Появляются автоматизированные системы проверки текста на генеративность роботом, но пока они еще несовершенны. Преподавателю в данном случае необходимо анализировать стиль текста. Языковые модели ИИ используют особый стиль письма, который хоть и сложно, но при тщательном анализе, можно отличить от стиля студента. Также при выполнении серии заданий появляется возможность проанализировать стиль написания очередной работы студента, чтобы увидеть, соответствует ли он стилю предыдущей работы, которую он представил преподавателю ранее. Преподаватель всегда имеет возможность задать уточняющие вопросы. В ситуации, когда мы подозреваем, что работа студента не является подлинной, мы можем задать уточняющие вопросы, связанные с содержанием, чтобы узнать, глубоко ли студент усвоил материал. В текстах, сгенерированных предобученной моделью, стиль письма является последовательным и может логически отличаться от студенческих работ, использующих частое цитирование. Так, языковые модели ИИ способны генерировать сложные и изощренные предложения и абзацы. Если работа студента включает в себя уровень сложности, который кажется выше его обычных способностей, это может быть признаком того, что он использовал внешнюю помощь. Языковые модели ИИ обладают обширным словарным запасом и способны использовать специализированную терминологию в определенных областях. Если домашнее задание студента включает расширенный словарный запас, нетипичный для его уровня обучения или опыта, это может указывать на то, что он использовал такого интеллектуального помощника. Один из способов проверить, является ли домашнее задание студента его собственной работой, - предоставить ему случайные подсказки и попросить ответ сразу же. Если студент изо всех сил пытается создать связный и хорошо организованный контент, это может указывать на то, что он использовал языковые модели ИИ или внешнюю помощь. Можно попросить дополнительные обоснования и пояснения по выполненной работе. Если студент не может логично обсуждать свою работу или отвечать на вопросы, связанные с содержанием, это может быть признаком того, что он воспользовался генеративной моделью ИИ. Не следует недооценивать экспертную оценку: если вы подозреваете, что студент использовал языковые модели ИИ для создания своей домашней работы, есть возможность попросить коллегу проверить работу. Эксперт может оценить точность и актуальность контента и определить с высокой вероятностью, был ли он сгенерирован языковой моделью ИИ или нет. В то же время языковые модели ИИ пока еще несовершенны и могут иногда допускать грамматические или синтаксические ошибки. Любые ошибки или несоответствия в домашнем задании студента могут также свидетельствовать о тексте, сгенерированном ИИ. Конечно, на помощь преподавателю может прийти и мониторинг успешности студента, зафиксированный в его цифровом следе. Правда, для этого необходимо использовать интеллектуальный анализ данных, о необходимости которого в образовании мы писали в своих предыдущих работах [7]. Важно помнить, что эти подходы не являются надежными, и всегда существует риск того, что студент может заняться плагиатом. Однако, проявляя бдительность и используя несколько подходов, можно увеличить вероятность обнаружения случаев плагиата или академических нарушений. Кроме того, очень важно поощрять студентов развивать свои навыки академического письма и уделять первоочередное внимание обучению этике высшей школы. Проверка того, была ли написана домашняя работа студента с помощью ChatGPT или другого подобного сервиса, может быть сложной задачей, но важно использовать комбинацию стратегий, чтобы повысить вероятность обнаружения потенциальных проблем. Какие же решения могут принимать вузы при использовании генеративного ИИ? 1. Облачные вычисления и использование готовых моделей. Вузы могут использовать ресурсы облачных вычислений, такие как ЯндексОблако или Google Cloud, для обучения генеративным моделям ИИ без необходимости вкладывать средства в дорогостоящее оборудование. Это может помочь снизить затраты и сделать эту технологию более доступной для студентов. Для этого преподаватели могут использовать удобные инструменты и платформы, которые упрощают процесс. Например, некоторые платформы предлагают предварительно обученные модели, которые можно легко настроить и развернуть. 2. Сотрудничество с экспертами отрасли. Вузы (особенно федеральные и научно-исследовательские университеты) должны сотрудничать с отраслевыми экспертами, чтобы предоставить студентам реальные примеры использования и приложения генеративного ИИ. Это может включать в себя приглашение докладчиков, организацию экскурсий в технологические компании или партнерство с компаниями в разработке программ производственной практики и стажировок. Положительным примером такого сотрудничества являются Дни больших данных в МГПУ, где спикеры - представители IT-отрасли и специалисты компаний, занимающихся аналитикой больших данных, рассказывают о том, чем может быть полезен анализ данных различным компаниям, какие ошибки всплывают в проектах с использованием машинного обучения и чего можно добиться, анализируя огромные объемы данных[14]. 3. Использование междисциплинарных подходов. Генеративный ИИ - это технология, которую можно использовать в различных дисциплинах, включая информатику, дизайн, программирование и даже социальные науки. Вузы могут поощрять междисциплинарный подход, включив генеративный ИИ в несколько модулей или курсов и предложив междисциплинарные проекты. Вузы должны определить соответствующие варианты использования генеративного ИИ в своих учебных планах. Это может включать работу с экспертами в предметной области, чтобы определить, где можно использовать генеративный ИИ для улучшения обучения студентов. 4. Поощрение экспериментов, творчества и командообразования. Генеративный ИИ предоставляет студентам возможность экспериментировать и творчески подходить к своим проектам. Вузы могут поощрять эксперименты, предоставляя студентам свободу исследовать и тестировать различные идеи и подходы. Проекты генеративного ИИ часто требуют сотрудничества и командной работы. Вузы могут способствовать сотрудничеству, поощряя студентов к совместной работе над проектами и предоставляя им возможности для развития навыков командообразования. 5. Обеспечение постоянной поддержки и наставничество. Изучение генеративного ИИ может быть сложной задачей, и для достижения успеха студентам может потребоваться постоянная поддержка и наставничество. Вузы могут оказывать такую поддержку, предлагая семинары, вебинары с участием экспертов или программы наставничества, которые помогают студентам развивать необходимые навыки и знания. 6. Решение этических проблем использования генеративного ИИ в высшей школе. Вузы должны уделять важное внимание обучению этике высшей школы и предоставлять студентам инструменты и знания, необходимые им для ответственного использования генеративного ИИ. Это может включать обсуждение этических последствий и поощрение обучаемых к рассмотрению потенциального воздействия их проектов, созданных с генеративным ИИ. Перечисленные проблемы охватывают различные аспекты генеративного ИИ, включая машинное обучение, глубокое обучение, компьютерное зрение, робототехнику и др. Они также решают этические и социальные проблемы, связанные с генеративным ИИ, такие как предвзятость, толерантность и доказательность выводов. Кроме того, в некоторых зарубежных источниках обсуждается важность разнообразия в обучающих выборках и необходимость уделять приоритетное внимание этическим аспектам [11; 12]. Заключение. Генеративный ИИ - это мощная технология с многочисленными приложениями в различных областях, способная их преобразить. На горизонте уже видны новые возможности генеративного ИИ (AUTO-GPT), иногда называемого GPT-5. Кратко перечислим его возможности. 1. Дополненная диалогичность - управление как краткосрочными, так и про- шлыми диалогами с доступом в интернет, способность исправлять свои ошибки. 2. Дополненная интерактивность - генерирование динамичных сюжетных линий в мультимедиа, создание виртуальных миров в комплексе с виртуальными культурами и историями. 3. Дополненная мультимодальность - мультимодальное понимание, анализ и генерирование контекстуальных конструкций в различных медиаформатах, появление автономно генерирующих персонализированных медиа. 4. Прогностичность - генерирование автономных промптов, планирование, обоснование решений и прогнозирование на базе сценариев на языке Python, использование рассуждений для решения проблем, требующих долгосрочного планирования, создание списков задач и их последовательное решение, способность предсказывать результаты будущего с большей точностью, чем когда-либо прежде. 5. Мультиплатформенность - доступ не только в Сеть, но и к различным платформам, что позволяет агенту взаимодействовать с широким спектром ресурсов и сервисов. 6. Мультиагентность - использование нескольких агентов (например, в GPT) благодаря API, каждый из которых решает свои собственные задачи, но взаимодействует с другими и критикует их. 7. Автономность - возможность работать без авторизации пользователя, чтобы быть на 100 % автономным, то есть работать в непрерывном режиме, что в перспективе ведет к появлению автономных роботов с общим интеллектом и соединение моделей ИИ в более общую и мощную модель, например в саморазвивающийся интернет. 8. Персонализация - создание виртуального персонального помощника, который легко интегрируется со всеми аспектами нашей жизни и демонстрирует общий ИИ во многих областях, создавая единую интеллектуальную экосистему, адаптированную к потребностям личности, помогая достичь личных целей и адаптироваться к устройствам, с которыми мы взаимодействуем. В то же время основным способом противостоять бесконтрольному использованию языковых моделей ИИ является индивидуализация образовательных траекторий и персонализация контрольных заданий. Так, например, на нашем сайте разработано более 150 лабораторных работ с персонализированными вариантами заданий[15]. Цифровая трансформация образования позволяет более обосновано организовать взаимосвязь всех компонентов образовательной системы и более эффективно реализовывать основные ее функции. Преподавателям вузов необходимо проектировать и разрабатывать новые методы обучения и системы оценки, моделировать персональные и групповые траектории обучения, постоянно следить за своим профессиональным ростом и лидерством. Таким образом, цифровая трансформация образования в целом и использование генеративного ИИ в частности подразумевает переосмысление ключевых ролей педагогов в цифровую эпоху в направлении образовательного инжиниринга. Парадигма образовательного инжиниринга акцентирует внимание на развитие проектировочно-конструкторских компетенций студентов и педагогов. Образовательный инжиниринг, понимаемый нами в узком смысле как проектирование образовательного процесса и управление им с опорой на данные мониторинга успешности обучаемых, в целом выходит за пределы традиционной схемы «наука - инженер - производство» и включается в самые разнообразные виды социальной практики (прежде всего, в обучение, обслуживание и т. д.), где классическая конструкторская установка существенно видоизменяется. Все это ведет к изменению самого содержания образовательного инжиниринга, которое прорывает ставшие для него узкими рамки инженерной деятельности и становится самостоятельной сферой современной культуры. Образовательный инжиниринг включает в себя применение инженерных принципов и педагогического дизайна при разработке образовательных технологических решений. Это может включать создание новых программных платформ, систем управления обучением и других цифровых инструментов, поддерживающих преподавание и усвоение знаний. Все это позволит эффективно снижать опасность бесконтрольного использования генеративного ИИ в вузах.

Об авторах

Андрей Игоревич Каптерев

Московский городской педагогический университет

Автор, ответственный за переписку.
Email: kapterevai@mgpu.ru
ORCID iD: 0000-0002-2556-8028

доктор социологических наук, доктор педагогических наук, профессор, профессор департамента информатизации образования, Институт цифрового образования

Российская Федерация, 129226, Москва, 2-й Сельскохозяйственный пр-д, д. 4, корп. 1

Список литературы