AI生成的学习反馈很流畅，为什么仍要核对证据：任务、错误与人工复核怎么分层

教师把一篇学生短文交给人工智能，请它生成修改意见。输出结构完整、语气肯定，却引用了原文中不存在的例子，也没有说明建议对应哪一项写作目标。问题不在句子是否顺畅，而在反馈能否回到可核对证据。

流畅只是表达特征

NIST把生成式人工智能的“虚构”描述为以自信语气给出错误或虚假内容，也包括偏离输入、或与同一语境里先前陈述矛盾的输出。读起来像教师评语，不代表它真的找到了学生原文中的依据。

生成模型按训练数据的统计分布预测后续内容，因此可同时产生自然语句与不存在的细节。下一个词元预测可以形成事实正确的段落，也可能产生内部矛盾。流畅度和事实准确性必须分开检查。

第一层复核只做原文锚定。每条反馈都要指出对应句子、段落或缺失位置。若系统说“第二段论据重复”，教师应能在原文找到两处具体内容；找不到锚点的建议，不进入学生版本。

标准决定建议是否相关

同一个句子在叙事写作、实验报告和资料综述中承担不同任务。只说“增加细节”并不足够，还要说明它对应论证、证据、结构、语法或读者意识中的哪一项标准。

UNESCO指出，生成式人工智能不能被当作任何主题的权威知识来源，使用者需要批判性看待它快速但经常不可靠的输出。对于学习反馈，这意味着课程目标和评分标准仍是外部依据，不能由模型临时编造。

教师可以把评价量规拆成少量可观察问题：中心判断是否明确，证据是否支持判断，段落关系是否可追踪，引用是否来自实际材料。AI建议只有在回答其中一个问题时才具备任务相关性。

错误成本决定复核强度

NIST强调风险会随系统、用途和情境变化，管理资源应与负面影响的严重度及可能性相称。请AI生成十个练习题点子，错误可以在使用前快速筛除；让同一输出影响正式成绩、课程分流或学生自我评价，后果明显更大。

练习点子的错误可以快速筛除，影响成绩或学生自我评价的反馈则需要逐条验证。高影响场景还应保存模型版本、提示内容、原文版本、人工修改和最终决定，避免日后只剩一段无法复盘的评语。

受控比较也能暴露问题。把同一篇文章分别交给系统两次，若反馈的原文引用和优先级明显变化，说明输出稳定性不足。稳定并不等于正确，但不稳定会增加复核成本。

人工复核承担教学责任

UNESCO的人本原则要求保护人的能动性，并重新思考学习内容、目的以及评价和验证方式。IES关于教育人工智能的资料同样把AI用于辅导、个性化、评估和学习分析等场景，同时将“把AI当工具，而不是人类替代品”列为使用考虑。

人工复核不是在末尾点一下同意。教师需要判断建议是否尊重学生当前阶段，是否把语言差异误当能力不足，是否给出学生能够执行的修改，以及反馈数量会不会压过真正优先事项。

为每条AI反馈记录原文位置、对应标准、可观察修改、错误后果和复核人。学生收到的应是已经删去虚构内容、按任务排序并由教师承担责任的版本，而不是模型原始输出。

结论停在可验证范围

若用途只是提供想法，教师可低成本抽查并保留多种选择。若输出进入评分、升留级、纪律或其他高影响决定，不能用“有人看过”代替明确的验证程序，也不能让自动反馈成为唯一证据。

官方资料不能证明某个模型在特定班级、语言或写作任务上的准确率。学校若要长期使用，还需在自己的任务、学生群体和错误类型上持续记录结果。

流畅反馈的正确位置，是待核对的草稿。只有当原文锚点、任务标准、错误成本与人工决定都能复查时，它才可能成为教学资料。

资料依据：NIST《生成式人工智能风险管理框架》，2024。UNESCO《教育与研究中的生成式人工智能指南》，2023。美国教育科学研究院《人工智能如何用于教育》，2024。

资料来源

• NIST：《Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile》，发布或更新于 2024-07-26
• UNESCO：《Guidance for generative AI in education and research》，发布或更新于 2023-09-07
• Institute of Education Sciences：《How Has Artificial Intelligence Been Used in Education?》，发布或更新于 2024-01-01