代表建议破除AI教育产品算法偏见 守护学生公平教育！AI教育产品正逐渐进入校园，但是否能惠及每一个孩子仍存疑。全国人大代表、华东师范大学党委书记梅兵指出，数据偏差与算法偏见可能导致不科学甚至不公平的结果，需要从国家层面建立审核机制，防止有偏差的产品无序进入校园和家庭，以保护学生的身心健康。
人工智能技术正在加速融入教育领域，各类AI教育产品层出不穷，通用大模型也纷纷拓展教育应用场景，涵盖学习辅导、教学测评、管理辅助及资源推送等方面，为教育注入了新动能。通过算法推荐等数字技术，人工智能可以为学生定制个性化学习计划，推送适配的教育资源，有助于促进普惠教育。
然而，数据偏差与算法偏见可能导致新的教育不公平。各类AI教育产品及通用大模型的教育应用高度依赖海量数据进行训练。如果训练数据本身存在样本不足或结构性偏差，比如数据过度集中于某些地区或某些群体，那么算法在学生学情评估、学习资源分配等环节可能产生不科学甚至不公平的结果。例如，有的自适应学习平台推送给城市学生的创造性思维训练题占比达35%，而推送给农村学生的同类内容则较少，高阶思维的引导量在算法中悄然拉开差距。再如某智能作文评分系统，因训练数据中城市学生样本占比超过80%，面对农村学生作文中的乡土表述频频误判，导致这些学生的作文得分普遍低于实际水平。
这种数据代表性不足带来的“算法盲区”不仅让某些群体和特色文化被忽视，还可能引发更深层的价值观偏差风险。部分AI教育产品在知识讲解、案例选择或交互回应中，一定程度上存在价值观对齐不够甚至相悖的情况。例如，某语言学习工具在翻译“中秋”相关内容时，仅将“月饼”解释为“一种糕点”，忽略了其承载的文化内涵；某历史类AI问答产品在回应“近代化探索”问题时，片面强调“技术至上”，淡化民族抗争和制度探索的历史意义。此外，在涉及学生心理脆弱期的交互场景中，个别AI对话工具未能有效识别并干预极端情绪表达，存在伦理失守风险。