Стюарт Дж. Рассел: «Их работа изменится, но учителя по-прежнему будут нам нужны»

За последние годы новые технологии глубоко проникли в сферу образования, особенно с началом пандемии COVID-19. Можно ли сказать, что появление систем генеративного искусственного интеллекта, таких как ChatGPT, стало переломным моментом в истории технологий?

Пандемия показала нам, что получать образование по интернету реально. А недавно большие языковые модели произвели настоящий переворот в восприятии широкой публикой искусственного интеллекта (ИИ), в частности после выхода чат-бота ChatGPT в конце 2022 года.

Давно известно, что уроки с репетитором могут быть в два-три раза эффективнее обычных занятий в классе. Мы уже около 60 лет разрабатываем системы индивидуального обучения на основе ИИ, но до недавнего времени они уступали учителям по двум причинам. Во-первых, они не могут — во всяком случае, раньше не могли — вступать с учащимся в диалог, отвечать на его вопросы и устанавливать с ним эмоциональную связь. Во-вторых, система не понимает то, чему обучает. Она может предоставить вам учебный контент по химии, но сама она химию не знает. И потому, даже если бы ИИ мог общаться с учеником, он не мог бы правильно отвечать на его вопросы.

С появлением больших языковых моделей ситуация по обоим пунктам изменилась. Теперь вы можете вести с ИИ вполне связную беседу, причем на разных языках. Кроме того, такие системы довольно неплохо отвечают на вопросы, касающиеся содержания учебных материалов. Недоработки еще имеются, но я уверен, что при достаточных усилиях мы сможем предложить обучающую систему по большинству дисциплин, по крайней мере, до конца старших классов.

Однако не стоит думать, что отныне у нас в распоряжении есть неограниченные интеллектуальные ресурсы для решения любых задач. Искусственный интеллект — во всяком случае, на данном этапе развития технологий — не является универсальным, в отличие от человеческого мозга. Системы ИИ могут казаться разумными, потому что говорят с нами на очень естественно звучащем языке, но в генерируемом ими тексте не всегда есть смысл.

С этой точки зрения 2023 год действительно является переломным. В ближайшее время начнется массовое применение этих технологий и их различных вариаций, хотя они все еще нуждаются в совершенствовании. Однако все это не сравнится с тем, что будет ждать нас, когда будет создан универсальный (или общий) искусственный интеллект, то есть система, способная решать широкий спектр задач, подобно человеку. Думаю, что уже к концу этого десятилетия мы сможем обеспечить образование каждому ребенку на планете.

Каким в этом контексте вы видите будущее учителей?

Их работа изменится, но учителя по-прежнему будут нам нужны. Одна из текущих задач в этой области заключается в том, чтобы обучающая система на базе ИИ понимала специфику роли педагога: не быть правым все время, не всегда правильно отвечать на все вопросы, а делать так, чтобы учащийся сам нашел ответ. В ходе экспериментов по обучению универсальных языковых моделей на примерах, демонстрирующих, как в той или иной ситуации повел бы себя учитель, уже были получены весьма впечатляющие результаты.

В конечном итоге для оценки эффективности взаимодействия ученика с системой все равно будет необходим человек. Отвечает ли она его потребностям? Что он не понимает? Какой метод обучения подойдет ему больше всего? Кроме того, в ходе учебы дети должны освоить навыки совместной работы и правила поведения в обществе, и для этого также нужны учителя. Возможно, целесообразной окажется модель, при которой один педагог работает с группой из 8–10 учеников и каждому уделяет много времени. В этом случае в будущем нам может понадобиться не меньше, а даже больше учителей.

Классическая система образования неэффективна на всех уровнях. Одним ученикам скучно, потому что материал для них слишком прост, другие же не успевают за классом и теряют мотивацию. Это ненормально, что некоторые дети оканчивают школу, так и не научившись грамоте. Система образования должна уделять больше внимания усвоению знаний каждым отдельным учеником и учитывать различия в их способностях к обучению — и качественная обучающая система на основе искусственного интеллекта должна уметь быстро адаптироваться к особенностям учащихся. Однако пока мы от этого еще далеки.

Пандемия сделала проблему цифрового разрыва еще более очевидной. Не станет ли она препятствием и в отношении новых образовательных технологий?

Действительно, ситуация очень сильно отличается в разных странах. Я считаю, что больше всего от развития таких технологий выиграют страны с наименьшим охватом школьным образованием. Безусловно, еще есть дети, не имеющие телефона или доступа к интернету. Но я уверен, что такое положение вещей скоро изменится, так как ежемесячно к сети подключаются десятки миллионов новых пользователей по всему миру. А в сравнении с видеозвонком с учителем обучающие системы на базе ИИ могут работать при гораздо меньшей пропускной способности.

Вероятнее всего, трудности возникнут в отношении создания образовательного контента и программ, адаптированных к языку и культуре конкретной страны. Кроме того, разработка передовых технологий — дело дорогостоящее. Так сложилось, что образование никогда не входило в круг интересов сферы технологий. В связи с этим для внедрения такого рода систем в мировых масштабах, возможно, понадобятся государственные проекты или частные инициативы, субсидируемые правительством. Быть может, эффективные обучающие системы могут быть разработаны при помощи иностранных государств. Будет непростительно, если эта задача не будет выполнена из-за скупости компаний, недоверия со стороны государств или по какой-то иной причине.

По мнению некоторых лидеров сектора технологий, разработку систем генеративного ИИ следует законодательно урегулировать. Считаете ли вы, что движение в этом направлении уже началось?

В настоящее время вопрос регулирования искусственного интеллекта активно обсуждается. Открытое письмо с предложением наложить мораторий на обучение более мощных систем, чем GPT-4, опубликованное в марте 2023 года и подписанное экспертами в области новых технологий, по всей видимости, ускорило этот процесс. ЮНЕСКО мгновенно отреагировала на письмо и обратилась к своим членам с призывом незамедлительно внедрить этические нормы в отношении разработки и использования ИИ. Необходимость срочных мер признали также правительства Китая и США, Евросоюз и IT-компании.

В сфере образования особое беспокойство вызывает оценивание работы учащихся, доверять которое ИИ, по мнению многих, было бы слишком рискованно. Другие важные вопросы касаются защиты данных и конфиденциальности, в отношении которых следует принять строгие правила. Доступ к данным может быть открыт для преподавателя и, при необходимости, административных работников, например в случае проблем с дисциплиной.

Еще одна сложность связана с тем, как препятствовать общению несовершеннолетних с ИИ на неприемлемые темы. Тематика, которую система может затрагивать в разговорах с детьми, должна быть строжайшим образом ограничена. Увы, системы, подобные ChatGPT, представляют собой настоящий черный ящик, их функционирование зависит от миллиарда параметров и до конца нам не ясно. Над решением этого вопроса бьются много людей, но я не уверен, что это вообще возможно.

Полагаю, что в результате регулирования этой сферы разработчики будут вынуждены предложить более качественные технологии. Регулирующие органы не должны принимать в качестве оправдания отговорки в духе «мы не умеем этого делать». Если бы вы представляли собой орган ядерной безопасности и оператор атомной станции сказал бы вам, что не знает, как предотвратить ядерный взрыв, вы запретили бы ее эксплуатацию, пока не будет найдено решение. Тем не менее, в долгосрочной перспективе я настроен оптимистично и верю, что мы сможем разработать такие технологии, которые будут нам понятны и которые мы сможем контролировать.