人工智能在学校中的应用须置于监管之下

目前，一项全球性的人工智能实验正在多所学校推进。自ChatGPT于2022年底发布以来，其他“大语言模型”纷纷迅速跟进，媒体上充斥着大量关于人工智能可能对教育产生的影响的报道。不少人对此忧心忡忡。针对“生成式人工智能”应用程序进入学校，联合国教科文组织教育事务助理总干事斯蒂芬妮亚·詹尼尼（Stefania Giannini） 撰文道：“在缺乏控制、规则或法规的情况下，生成式人工智能技术正在以惊人的速度融入教育系统。”

詹尼尼直言不讳地指出：“教育的职能在于保护和促进发展与学习，因此它承担着一项特殊的义务，即敏锐地认识到人工智能的相关风险，包括已知的和刚刚出现的风险。但我们对这些风险往往视而不见。”

事实上，人们极少对这些风险进行评估。教育界要了解相关风险，需要得到更好的支持，还需要采取措施更好地保护学校免受人工智能可能造成的伤害。

关于人工智能的诸多风险和危害已有广泛报道，其中包括因训练系统采用陈旧的数据集而导致的偏见和歧视。这些问题都很严重，学校和政府有充分的理由质疑关于人工智能的种种夸张表述。此外，教育还面临着更加具体的挑战。

教师所承担的角色是教育面临的挑战之一。对于人工智能前景持乐观态度的人往往会说，人工智能不会用机器人辅导员来取代教师。他们主张，人工智能可以帮助教师节省时间，减少工作量，并且可以承担多种日常工作。采用机器教学的风险在于，人工智能还需要教师从事其他形式的劳动。教育工作者须调整自己的教学方法来适应自动化技术。教师或许不会被机器人取代，但人工智能可以通过规划课程、准备材料、向学生提供反馈和批改作业，将人类教师的角色机器人化。

正如奥德丽·沃特斯（Audrey Watters）在《教学机器》（Teaching Machines）一书中指出，自动化可以精简教学、实现“个性化”学习，并为教育工作者节省时间的说法都是百年前的论调。沃特斯认为，机器教学非但没有体现出教育界的美好愿景，反而渗透着关于超高效学校教育的工业化幻想

将人工智能应用于课堂的许多实例都非常引人注目，但其中的很多例子都是基于狭义的学习。研发人工智能的科学家和公司高管们时常会提到20世纪60年代的一项著名研究，此研究表明，与小组教学相比，一对一辅导更能提高学生成绩。这项研究得出了著名的统计学“成绩效应”结论。这一结论如今被用来支持所谓自动化“教学机器人（tutorbots）”可以实现个性化教学的论点。认为教育的目的只是改善个人的可衡量成果，同样是一种狭隘的观点。

在教育领域人工智能应用的种种观点中，没有人提到更广泛的教育宗旨——培养独立的批判性思维、个人成长和公民的参与能力。以提高个人学习基础成绩为目的的机器教学，不适用于公共教育中这些更为宏观的目标和价值观。

通过人工智能实现的机器教学形式也不像通常所说的那么可靠。ChatGPT或谷歌推出的Bard等应用程序极易生成与事实不符的内容。在基本技术层面上，应用程序只能预测序列中的下一个单词，并根据用户提示自动生成内容。这种技术确实很了不起，但可能会产生虚假或是有误导性的内容。

面对大量虚假信息充斥网络，技术评论家马修·柯申鲍姆（Matthew Kirschenbaum）语出惊人。他预言“文本的末日”即将到来。人工智能技术的应用可能会导致教育材料良莠不齐，至少也需要教师费时费力地检查并纠正其中的错误。

人工智能还可以用来审查教育内容。有一个著名的事例，为遵守关于教育内容的新保守派法律，美国的一个学区用ChatGPT来确定图书馆不得购置哪些图书。生成式人工智能绝不是通向知识与理解的中立门户，其可用于推行保守和倒退的社会政策，并限制人们获取多样化的文化素材。

除了以上这些例子，迫不及待地要将人工智能引入学校的这股热潮，并不是为了实现明确的教育目的，而是受到人工智能行业的愿景和经济利益的驱动。人工智能技术的运营成本极高，而教育领域的人工智能应用被认为利润丰厚。学校，甚至家长和学生本人都需要为使用人工智能应用程序付费，与主要人工智能运营商达成交易的教育公司的市场价值由此水涨船高。

这样做的最终结果是，学校或学区将签订合同并支付服务费，让人工智能供应商能够抵消运营成本。最终，向学校索取的公共教育经费将帮助全球人工智能公司实现盈利。

另一方面，学校可能会更加依赖科技公司，在日常职能上丧失自主权，并由此导致公共教育要仰仗不会被追究责任的私营技术系统。此外，人工智能需消耗大量能源。如在世界各地众多学校运行人工智能，可能导致环境进一步恶化。

人工智能在教育中的应用为教育工作者和教育系统的领导者提出了一系列重要问题。世界各地的学校需要在明确的教育目标和风险评估的基础上，就如何利用人工智能得到明智的建议和指导。国际机构已经积极行动起来，着力制定与人工智能有关的伦理和监管框架，确保教育受到平等的保护至关重要。

除了监管工具，国家机构和政府官员还应考虑对人工智能在教育中的应用采取新的监督形式。英国数字未来委员会最近提出了一项“教育技术认证计划”，要求公司在进入学校运营之前先要提供关于教育效益和有力保护儿童的明确证据。

随着人工智能的出现，有能力开展独立“算法审计”（评估自动化系统可能造成的危害）的机构可以防止人工智能在没有经过必要审查、尚未制定必要规则的情况下进入学校。要落实此类保护措施，需要政府部门表明政治意愿，还需要有影响力的国际组织施加外部压力。面对人工智能不受约束的迅速扩张，独立评估和认证可能是保护学校不至沦为技术实验室的最佳办法。