top of page
Фото автораMihran Shahzadeyan

Актуальные проблемы использования ИИ в образовании

Обновлено: 19 нояб.

Искусственный интеллект (ИИ) в последние годы трансформирует различные сферы общественной жизни, и высшее образование не является исключением.

Будучи отраслью информатики, которая направлена на разработку интеллектуальных машин, способных выполнять задачи, которые обычно требуют человеческого интеллекта, в том числе такие, как визуальное восприятие, распознавание речи и принятие решений, ИИ обладает огромным потенциалом для решения некоторых из самых серьезных проблем, существующих сегодня в образовании, внедрения инноваций в практику преподавания и обучения.

Согласно прогнозам, мировой рынок ИИ, который в 2022 году оценивался примерно в 87 миллиардов долларов, в период с 2022 по 2027 годы увеличится в среднем на 36,2% в год. Основным фактором роста рынка, является появление бизнес-моделей на основе искусственного интеллекта. Искусственный интеллект, ставший одним из основных двигателей развития технологий, может расширить возможности, повысить ценность и эффективность бизнес-процессов. Это касается автоматизации рутинных задач, анализа больших объемов данных, создания алгоритмов и моделей для принятия решений, появлению новых алгоритмов и интерфейсов коммуникаций, такие, например, как чат-боты.

Стремясь бросить вызов доминированию Запада в технологиях и инфраструктуре все больше внимания уделяют сотрудничеству в области искусственного интеллекта страны БРИКС, и Россия сделала продвижение сотрудничества в области науки и передовых технологий в том числе ИИ, приоритетным вопросом (Can BRICS Be a Leader in Artificial Intelligence Governance? | WPR (worldpoliticsreview.com).

Основные направления реализации Цифровой повестки ЕАЭС до 2025 года разработаны в соответствии с Заявлением о Цифровой повестке Евразийского экономического союза. Согласно этому документу цифровая трансформация заключается в проявлении качественных, революционных изменений, заключающихся не только в отдельных цифровых преобразованиях, но в принципиальном изменении структуры экономики. В результате цифровой трансформации осуществляется переход на новый технологический и экономический уклад, а также происходит создание новых отраслей экономики. ИИ помогает в автоматизации производственных процессов, управлении ресурсами, оптимизации логистики и прогнозировании рыночных тенденций. Это способствует повышению производительности и эффективности экономики. Цифровая трансформация запускает механизмы преобразования рынка труда, в результате которых существенно изменится баланс спроса и предложения на трудовые ресурсы. Квалификация и навыки трудовых ресурсов будут оказывать существенное влияние на эффективность процессов трансформации экономики. И значение ИИ, ее роль  в подготовке кадров трудно переоценить (docs.eaeunion.org/pd/ru-ru/0121967/pd_28072017_att.pdf).

 В рамках Пекинского консенсуса ЮНЕСКО (Beijing Consensus on Artificial Intelligence and Education - UNESCO Цифровая библиотека) были подготовлены рекомендации, направленные на повышение готовности лиц, ответственных за разработку политики в области образования, к использованию искусственного интеллекта, формирование общего понимания возможностей и проблем, которые открывает ИИ для образования, а также их последствий для основных компетенций, необходимых в эпоху ИИ(Технологии искусственного интеллекта в образовании: перспективы и последствия - UNESCO Цифровая библиотека). ЮНЕСКО по своей сути требует подхода к ИИ, ориентированного на интересы человека. 

В 2022 году состоялся один из крупнейших глобальных форумов по вопросам образования — Саммит Организации Объединенных Наций по трансформации образования, прошедший  в рамках 77-й сессии Генеральной Ассамблеи ООН (Microsoft Word - TES_Workstream Concept Note_2803.docx (un.org). На Саммите была принята  Молодежная декларация, посвященная роли образования в решении глобальных проблем и привлечения молодых людей к разработке и реализации политики в области образования. К сожалению, это задача как в России, так и в других странах СНГ пока не решается на должном уровне.

 

Искусственный интеллект является быстро развивающимся классом фундаментальных способностей, которые все чаще внедряются во все типы образовательных технологических систем. Специально разработанные для использования в образовательных целях, а также общие технологии, стали активно использоваться в образовательных учреждениях.

Рассматривая ИИ,  выделяют Narrow artificial intelligence (узкоспециализированный ИИ), направленный на решение конкретных задач в конкретной области, и  Artificial General Intelligence (общий или сильный ИИ), способный выполнять большинство из задач с человеческой эффективностью. Сегодня в основные тренды искусственного интеллекта включили Генеративный ИИ (GenAI) в качестве ступени к Artificial Super Intelligence (искусственный суперинтеллект), которому пророчат  интеллект, превосходящий человеческий.

В конце 2022 и начале 2023 года после появления новых чат-ботов Generative AI начали изучать, как можно использовать искусственный интеллект для составления учебных планов и занятий, написания учебных материалов, создания изображений, персонализированных заданий для учащихся и многого другого. Поскольку системы эти быстро развиваются, стали больше обращать внимания на преимущества и риски чат-ботов и вообще искусственного интеллекта в образовании. Отмечали, что, во-первых, ИИ может помочь в достижении образовательных приоритетов более эффективными способами, в больших масштабах и с меньшими затратами. Во-вторых, актуальность и важность возникают из-за осознания рисков на системном уровне и беспокойства по поводу потенциальных рисков в будущем. В-третьих, беспокойство возникает из-за масштаба возможных непреднамеренных или неожиданных последствий.

Поэтому сегодня крайне важно, используя искусственный интеллект в образовании, реализуя его ключевые возможности, предотвратить или, по крайней мере, смягчить возникающие риски и устранить непредвиденные последствия. И неудивителен возрастающий интерес многих страна к законодательным предложениям, касающихся к применению искусственного интеллекта. Принимаемые законодательные акты, правительственные указы содержит принципы и положения, а также направленную  на их практическую реализацию мероприятия, помогающие достичь поставленной цели.  

Эти инициативы, наряду с другими политическими мероприятиями, связанными с ИИ, проводимыми как исполнительной, так и законодательной ветвями власти, будут определять использование ИИ во всех секторах общества. Европейская комиссия недавно опубликовала этические рекомендации по использованию искусственного интеллекта (ИИ) и данных в преподавании и обучении для педагогов (Ethics guidelines for trustworthy AI | Shaping Europe’s digital future (europa.eu).

В  отчете Департамента образования США  отмечается ряд концепций и рамок этического ИИ. Указывается на острую необходимость в защитных ограждениях и руководящих принципах, которые сделают использование достижений ИИ в образовательных целях безопасным, особенно с учетом ускоряющихся темпов внедрения ИИ в основные технологии. Поскольку разработка политики требует времени, политикам и образовательным учреждениям вместе необходимо начать уже сейчас, чтобы определить требования, раскрытие информации, правила и другие структуры, которые могут сформировать позитивное и безопасное будущее для всех участников, особенно студентов и преподавателей. Реализация этих задач в отчете связывается  со следующими требованиями:

1. использовать автоматизацию для улучшения результатов обучения, одновременно защищая процесс принятия решений и суждений человеком;

2. исследовать качество базовых данных в моделях ИИ, чтобы обеспечить справедливое и беспристрастное распознавание образов и принятие решений в образовательных приложениях на основе точной информации, соответствующей педагогической ситуации;

3. обеспечить возможность изучения того, как отдельные технологии искусственного интеллекта, как часть более крупных образовательных или образовательных систем, могут способствовать или препятствовать обеспечению одинаковых условий и возможностей для студентов;

4.стремиться поддерживать использование технологий для улучшения преподавания и обучения и поддержки инноваций на протяжении всего образовательного процесса;

5. принять меры к обеспечению человеческих сдержек и противовесов  для разумного ограничения любых систем и инструментов ИИ.

Рекомендации в этом отчете направлены на привлечение преподавателей,

политиков, экспертов, создателей и поставщиков образовательных технологий для совместной скоординированной работы над актуальными политическими вопросами, возникающими в связи с использованием ИИ в образовании (Artificial Intelligence and the Future of Teaching and Learning (PDF) (mooc.global).

Одним из очевидных преимуществ ИИ является персонализация обучения, или, другими словами, обеспечение адаптивности, для чего нужны модели ИИ, которые могут работать с разными путями обучения и множеством модальностей взаимодействия. Такие модели должны быть проверены на эффективность, чтобы предотвратить возможность того, что некоторым учащимся могут быть назначен неадекватный учебный ресурс.

ИИ можно определить как автоматизацию, основанную на ассоциациях. Многие алгоритмы машинного обучения и нейронные сети работают на основе ассоциативных связей между данными или ассоциаций, выведенных из экспертных знаний, что имеет важное значение для создания продуктов искусственного интеллекта и выведения вычислений за пределы традиционных образовательных технологий. Модели обучения без учителя используют метод кластеризации —интеллектуального анализа данных, который по правилам ассоциации группирует немаркированные данные на основе их сходств или различий, поиска связей между переменными в заданном наборе данных, не всегда используя строго логический анализ. Поэтому в некоторых случаях ИИ может способствовать доминированию ассоциативного мышления над рациональным. Это может нанести ущерб когнитивным навыкам людей, привести к поверхностному пониманию информации, к отсутствию стимуляции критического анализа, к склонности к субъективным оценкам и неоправданно скорым выводам и необоснованным решениям.  

Серьезной проблемой являются этические, социальные и психологические аспекты влияния ИИ в образовании. Взаимодействие с технологиями искусственного интеллекта может повлиять на социальные навыки и этические установки человека, на его коммуникационные связи и отношения в общественной жизни. Важно осознавать его потенциальные негативные последствия и принимать меры для их смягчения и регулирования.

В первую очередь это касается Генеративного ИИ (GenAI). Чат-боты искусственного интеллекта, такие как ChatGPT, обеспечивают принципиально иной пользовательский опыт, чем технологии искусственного интеллекта, которые поддерживают стандартный поиск в поисковых системах. Поисковые технологии курируют и ранжируют меню, состоящее в основном из контента, созданного людьми, в ответ на запросы пользователей. Чат-боты, напротив, генерируют ответы, используя контент, созданный машиной. Предлагаются, краткие и кажущиеся окончательными ответы на вопросы, которые могут быть полезны учащимся и преподавателям. Но технология машинных знаний могут стать доминирующими, в ущерб создаваемыми человеком. Платформы ИИ, некоторые из которых уже обладают почти монопольной властью, получат большее господство над  UI (user interface) , пользовательскими интерфейсами.

Развитие Генеративного ИИ ставит перед нами  непростые проблемы для будущего образования. Каково будет соотношение офлайн и онлайн обучения, роль преподавателя при широком распространении этой технологии? Какие изменения произойдут в системе оценивания знаний и умений, если ИИ-утилиты сами могут отлично сдавать экзамены, делать курсовые и дипломные работы, проводить квалификационную аттестацию специалистов? И в конце концов, выдержат ли напор новой технологии действующая сегодня система образования?

Темпы интегрирования технологий Генеративного ИИ в системы образования в отсутствие всеохватывающего и четкого регулирования и контроля могут настораживать. Не исключаются случаи использования недостаточно изученных и апробированных технологий, которые еще не прошли экспертизы со стороны ведущих специалистов. В таких случаях одним из основных и наиболее очевидных рисков ИИ является его способность манипулировать пользователями, особенно детьми и молодежью. Образовательные ресурсы, предназначенные для использования в учебных заведениях, должны проверяться по адекватности содержания, возрастным критериям, учебно-методологического соответствия и актуальности, а также по социально- культурным параметрам. В мае 2023 года ЮНЕСКО организовала первую глобальную встречу министров образования, чтобы поделиться знаниями о влиянии генеративных инструментов ИИ на преподавание и обучение, помочь составить дорожную карту для сотрудничества правительственных органов с  научными кругами, гражданским обществом и частным сектором.  

С этой целью ЮНЕСКО опубликовало Руководство по использованию генеративного ИИ в образовании и научных исследованиях, призванное устранить нарушения, вызванные технологиями генеративного ИИ. Было отмечено, что «Генеративный ИИ может стать огромной возможностью для развития человечества, но он также может нанести вред и вызвать предубеждения. Он не может быть интегрирован в образование без участия общественности, а также без необходимых гарантий и регулирования со стороны правительств».

Данное Руководство ЮНЕСКО поможет политикам и преподавателям наилучшим образом использовать потенциал ИИ в интересах учащихся». В нем предлагаются ключевые шаги для правительственных учреждений по регулированию использования инструментов GenAI, включая обязательную защиту конфиденциальности данных и рассмотрение возрастных ограничений для их использования. Излагаются требования к поставщикам GenAI, позволяющие обеспечить их этическое и эффективное использование в образовании. В Руководстве подчеркивается необходимость того, чтобы образовательные учреждения проверяли системы GenAI на предмет их этической и педагогической пригодности для образования. Оно призывает международное сообщество задуматься над их долгосрочными последствиями для знаний, преподавания, обучения и оценки. В публикации предлагаются конкретные рекомендации для политиков и образовательных учреждений о том, как использовать инструменты GenAI, чтобы защитить человеческую деятельность и принести реальную пользу учащимся, преподавателям и исследователям (Guidance for generative AI in education and research - UNESCO Цифровая библиотека) . 

Для реализации новых и сложных ресурсов Генеративного ИИ учебным заведениям, министерствам образования потребуется создать  в координации с другими регулирующими ветвями власти требуемый потенциал. Очень важное значение будет иметь реальное сотрудничество между экспертами в области ИИ, разрабатывающими технологии и приложения для использования, и специалистами по проверке безопасности этих приложений и их пригодности к использованию, а также для разработки нормативных актов, рекомендаций и способов  минимизации негативных эффектов.

В последние годы в Армении заметен интерес к проблемам ИИ. Проведены  конференции по искусственному интеллекту - «AI Conf Armenia 2023»,  "Искусственный интеллект для бизнеса" (февраль 2024) и другие мероприятия. В марте 2024 в Ереване прошла шестая конференция по искусственному интеллекту с участием представители Deep Mind, Google Brain, Google, Huawei, NVIDIA, AIRI, Sber, Яндекс, Росатом, ВТБ, Сколково, МГУ, НИУ ВШЭ, МФТИ и других ведущих компаний и научных центров. Объявлено о намерении создать В Армении первый в регионе суперкомпьютерный центр искусственного интеллекта с участием компании NVIDIA. Заметным событием стал технологический саммит «Силиконовые горы 2024», прошедший в Ереване в ноябре.

Выше мы говорили о том, насколько важно сегодня использовать искусственный интеллект в образовании, реализуя его основные возможности, при этом предотвращая или хотя бы смягчая возникающие риски и устраняя непредвиденные последствия. Принятые законодательные акты и решения правительства содержат принципы и положения, а также меры, направленные на их практическую реализацию, которые способствуют достижению цели. К сожалению, это важнейшее направление отсутствует в недавно представленном на рассмотрение проекте Закона Республики Армения «О высшем образовании и науке». В законопроекте не уделяется должного внимания правовому регулированию цифровизации образования, современным технологиям и методам как дистанционного обучения (distance learning), так и гибридного обучения (blended learning) с использованием технологий искусственного интеллекта. Это может замедлить развитие высшего образования в Армении, особенно в контексте мировых тенденций. Создается впечатление, что создатели законопроекта руководствовались положениями и установками 20-летней или даже 30-летней давности. В законопроекте не обозначены стратегические направления развития высшего образования и науки в Республике Армения, он вряд ли будет способствовать достижению системой образования и науки уровня, соответствующего современным перспективам развития.

     Хочется надеяться, что дело не ограничится заявлениями и докладами, существующими лишь на «бумаге» планами. Добиться реального успеха в этом деле невозможно без полномасштабного вовлечения в него образовательной системы. К сожалению, в вузах республики, не говоря уже о других учебных заведениях, пока делается недостаточно в этом направлении. Для того, чтобы решить эту проблему необходимо иметь актуальное видение, четко разработанные цели, нормативные документы и разработки, планы действий по использованию ИИ в образовании и научных исследованиях по всем важнейшим направления и сферам, о которых говорилось выше.

Commentaires


Les commentaires ont été désactivés.
bottom of page