作者：霍伟伟,梁冰倩,卞亦文,时熠 来源：中国科学报
生成式人工智能（AIGC）在重塑生产力的同时，也给高等教育领域带来了颠覆性变革。然而，它所具有的“技术双面性”很可能引发“流利但不真实”“道德偏见”“技术依赖”等问题，这将影响高等教育场景。
2023年初，全球多所高校陆续出台政策禁止学生使用生成式AI，但越来越多的大学开始意识到生成式AI势不可挡，单纯地禁用无法真正解决问题。厘清生成式AI在教育与人才培养中的积极或消极效应，成为当下亟须探索的问题。
近日，由上海大学悉尼工商学院研究团队开展的“人机对战”系列研究，发现了生成式AI对学生创造力、批判性思维以及商业实践等能力培养的“双刃剑效应”。
“人机对战”喜忧参半
这项研究招募了近193名学生，历时半年，他们被分为“人+人”组、“人+AIGC”组。前者为3名学生，后者为2名学生以及为他们配备的生成式AI电脑。研究团队分配给他们生成产品创意、商业分析报告等多类型任务，并对他们的完成效果进行长期对比分析，发现了以下结果：
第一，人机协作可以提高学生产生创新想法的数量，但也使其产生“自我贬损”的负效应。相比于“人+人”组，“人+AIGC”组在产生产品创意阶段的优势更明显；而当学生初次使用生成式AI完成创意任务后，63%的个体对自己的创新表现给出较低的自我评价，这种“自我贬损”现象在“原创性”这一创造力维度上表现地尤为明显。这一发现提醒我们“过度使用生成式AI可能导致学生创新效能的贬损。”
第二，生成式AI容易形成技术依赖危机，降低学生批判性思考能力。通过长期追踪实验发现，学生长期自发使用生成式AI导致其技术依赖普遍提升近10%以上。部分学生在完成学习任务中过度依赖生成式AI产生想法、提供解决方案以及做决策。在养成技术依赖后突然暴露在没有生成式AI的任务环境中时，超过62%的学生出现了较明显的无助、焦虑等负面情绪。
第三，长期使用生成式AI降低学生创新思维，原创力价值贬损。在追踪实验观察下，学生长期使用生成式AI协作完成任务抑制了其发散性思维，并降低了他们在无AI辅助情境下的创新表现，平均得分降低了7%。
值得深思的是，与短期使用情景下创新“自我贬损”不同，学生长期使用生成式AI后对自身创新思维评价出现与现实不符的“自我夸大”。将近11%的学生甚至养成了“把作业拖到最后，利用AIGC短时间完成的不良习惯”。此外，生成式AI在内容生成方面的易获取性导致抄袭行为频发，进而引发了教育过程中原创力和创造力的价值贬损。
第四，使用生成式AI容易导致“创新同质化”加剧。研究团队通过对人机交互日志进行文本分析发现：学生长期使用生成式AI后，相比于“人+人”组，“人+AIGC”组的产品创意和道德决策创新相似性分别提升11%和9%。由此可见，生成式AI的标准化模式忽略了个性化教育的本质。部分学生通过与生成式AI的同质化互动进而导致个体认知僵化，过度依赖AIGC的已有知识而忽视新的创造性知识，限制对其他可能性的探索。部分受访学生反映：有些学生“活得像个AI，失去了寻找解决问题方法的能力”。
第五，长期使用生成式AI导致人际连接缺失。生成式AI协作系统，通过创造虚拟交流体验，可能阻碍学生之间的人际互动，妨碍学生情感智力和同理心的发展。研究发现：在大学课堂中，当老师提出问题时，近22%的被访学生会随即将问题发给生成式AI并将其提供的答案作为小组讨论的结果进行汇报。甚至出现了“小组作业不讨论，学生们各自提问生成式AI”的情况。同时，部分不太会使用AIGC的学生，则由于意识到自己的技术能力不足而感到被边缘化。
第六，生成式AI并未缩小学生之间的表现差异，而可能进一步加剧不平等。尽管《科学》发表的研究表明：在AIGC辅助下，常规工作中表现欠佳的个体可以通过该技术提升工作效率，进而降低人与人之间的效率差异。
然而，此次人机对比实验显示：由于利用AIGC的协作方式不同，不同学生间的表现差异较明显。对于熟悉AIGC技术特性并具有主动学习意识的学生而言，这部分学生约占比31%，他们往往采用“先自己思考，后利用AIGC协助完善”模式，在保持独立思考的同时又提升了回答质量。与之相反，接近45%的学生在缺乏深入思考的前提下，依赖AIGC首先给出逻辑框架甚至详细步骤，往往会消磨自己的好奇心与思辨能力。
警惕被技术“异化”
面向未来，“AI+高等教育”将会加速融合。一方面，学生与智能技术持续交互过程中应保持个体主体性，警惕被技术“异化”；另一方面，人机协作时代，培养学生的人机协作能力，也是对高等教育人才培养所提出的新要求。
首先，生成式AI在教学与人才培养过程中存在任务边界，高校须厘清其在每类任务中的积极或消极作用，合理地部署AIGC才能更好地发挥正向作用。例如，大学应当为教师提供生成式AI相关培训，帮助不同学科教师探索发现“AI能够帮助学生提升能力的积极任务边界”，进而设计更多需要AIGC辅助完成的创新性作业，而不是AI可以独立完成的任务，引导学生在保持独立思考的同时进行理性使用，进而激活其在高校教学与人才培养的正能量。
其次，开设关于使用生成式AI的伦理道德课程体系。一方面，学校应当结合AIGC的技术特性与学术规范要求，重新定义生成式AI背景下的学术抄袭、学术不端等问题，优化技术查重机制，引导学生树立正确的学术道德观，防止其滥用生成式人工智能。另一方面，大学应该借鉴国家互联网信息办公室等发布的《生成式人工智能服务管理暂行办法》，尽快制定符合本校需求的政策和指导规范，为师生提供清晰的使用规范指导。
最后，大学需要尽快建立“生成式AI+教育的观测体系”，有组织地部署AIGC。AI推动高等教育变革已经是大势所趋，其最高频的应用场景就是教学科研与人才培养全过程。然而，各高校目前普遍缺少专业团队用以观测与调研“生成式AI的典型教育场景”，这很可能导致其在高教领域的实际应用与科学部署的不匹配，进而忽视该技术给教学与人才培养所带来的负面效应。
（作者单位：上海大学，本研究受中国国家自然科学基金委项目支持<72072110; 72031004;72302140>，上海大学悉尼工商学院教师刘瀛浩，以及上海大学学生王一昕、张力允、解佳颖、李秋池、黄屹清、张霄语、赵玉麟、汤文清、陈依梦、陈沁玙、苗诗雨、李海佳、徐一婷、朱衍润、莫兰明芾参与了本项目研究。）
