上海交大发布AI使用规范，融入“AI+教育教学”改革全生命周期

3月4日，上海交通大学发布《上海交通大学关于在教育教学中使用AI的规范》（试行版）（以下简称《规范》）。《规范》旨在将高等教育教学领域的规范要求融入“AI+教育教学”改革全生命周期，涵盖场景分析、设计开发、应用部署、评估反馈、调整维护、管理优化等各个环节。

《规范》推出的目的是通过创新评估体系与标准，在各阶段促进高效、可信、公平、普惠，有效防范技术失能、教育分化、算法歧视、隐私泄露及数据安全、信息安全威胁等风险。

《规范》适用于上海交通大学“AI+教育教学”改革中的“师”（教师）、“生”（学生）、“机”（人工智能技术系统）、“环”（教育教学生态环境）各利益相关方，包括教学管理与支持人员，以及校际合作伙伴和社会资源提供者。

上海交通大学官网截图

根据应用风险的差异，《规范》将高等教育教学领域的人工智能应用划分为四种类型：禁止使用、有限使用、鼓励使用、开放使用，从而推进“AI+教育教学”分级分类改革。

禁止使用：指存在高风险，或者师生经充分讨论一致反对的场景或环节。禁止使用的场景应明确列入学校制定的“人工智能应用禁止清单”，通过校内平台及时更新、透明公开，保障师生了解相应信息并遵守。
有限使用：指存在一定风险，需结合风险评估和师生讨论意见，在特定条件下限制使用的场景或环节。有限使用应根据以下参考指标进行动态评估：隐私影响：对师生个人信息保护的潜在威胁；学习成效影响：对教学目标和学习效果可能造成的负面影响；安全合规性：是否符合相关法律法规及学校规范要求。对有限使用场景，应设置具体的约束条件，并定期开展再评估。
鼓励使用：指风险较低，或师生经讨论达成较高共识，推动积极应用的场景或环节。鼓励使用的人工智能工具或技术需通过学校备案流程，确保其符合教育教学目标、伦理规范和技术可靠性要求。
开放使用：指趋近零风险，或师生经讨论一致认为适宜广泛使用的场景或环节。开放使用的人工智能技术应具备较高的普适性和公平性，能够广泛惠及师生，并通过学校平台向全校推广。此外，对于师生经充分讨论后仍存在分歧的场景或环节，可引入仲裁或复议机制。由学校人工智能教育教学改革治理委员会牵头，结合技术评估、风险分析和教育目标对争议进行仲裁，形成最终清单。

在教师规范方面，《规范》明确，教师是AI+教学设计的第一责任人，应在遵守教育教学相关规章制度要求的前提下，合理、合规、有效使用人工智能技术产品或服务，必要时提供人工智能测试验证报告及备案，包括平台选择、使用范围及方式，并围绕场景应用、风险事项提示、应急预案等各环节设置具体规范。对于使用未备案或存在风险的人工智能工具情况，学校可追究相关责任。

在学生规范方面，《规范》强调，学生应了解并遵守各项课程的人工智能使用规范，在课堂学习、作业反馈等环节，遵循教学计划、知识产权等法律法规、学术诚信要求。若有违规行为，学校将追究相关责任。学生应坚持人工智能辅助学习的价值定位，形成自适应的学习模式，自觉标注与引用人工智能工具的必要信息。

针对产品和服务的开发者，《规范》要求，人工智能技术产品和服务的开发者应提供算法透明度评估报告，说明核心算法逻辑、数据来源及模型训练方法，确保其可解释性。在涉及学校相关公共数据时，使用人工智能产品或服务须经学校批准或备案。

为了使《规范》高效、平稳落实，上海交通大学成立人工智能教育教学改革治理委员会，涵盖“师-生-机-环”各领域代表，明确各方在技术评估、伦理审查、师生反馈整合等方面的职责分工。

《规范》鼓励科技企业及其他市场主体积极参与“AI+教育教学”改革，提供合乎治理规范要求的人工智能技术产品与服务。

高校发布AI使用规范并不是第一次，但多聚焦论文写作，并未在教育教学的全生命周期层面进行规范。比如：复旦大学发布“六个禁止”，对人工智能工具在本科毕业论文（设计）撰写过程中的使用进行详细规范。；天津科技大学明文规定，学校规定查重结果不得超过30%，AIGC检测结果显示的智能生成内容比例原则上不超过40%。