微软与教师工会签署校园AI隐私协议,禁止用师生数据训练模型
微软与美国教师联合会及纽约市教师联合会达成校园AI安全隐私标准,禁止用师生数据训练模型,限制数据收集,要求人工审核高风险决策,11月起学区可自愿加入。
协议核心:为校园AI应用划定隐私红线
微软近日与美国教师联合会(AFT)及其纽约市分支机构纽约市教师联合会(UFT)共同发布了一套针对学校场景的人工智能安全与隐私标准。该标准并非停留在原则性倡议,而是允许学区将其直接纳入与微软的合同,从而获得法律约束力。具体条款包括:禁止利用学生或教育工作者的数据训练AI模型、最小化原始数据收集、以易懂语言向家庭解释工具运作机制、不得部署AI陪伴类产品,以及对“高风险”决策必须引入人工复核。
这一动作的背景是,纽约市和洛杉矶两大公立学区不久前相继宣布,将在一年内对大量学生暂停使用AI工具,以评估其在校园中的合理边界与防护措施。家长和部分教育工作者对AI进校及学生屏幕时间增长的忧虑持续升温。微软此时推出约束性规则,显然意在降低学区进一步收紧政策的可能性。
落地方式与关键承诺
从今年11月起,学区可以选择将这些条款加入新的或现有的微软合作协议,而无需重新谈判整份合同。协议中最受关注的一点是,微软不得将学生和教师数据用于模型训练;同时,公司需限制原始数据收集量,并向学生家庭清晰说明其AI产品如何处理和使用相关信息。
美国教师联合会长期对教育科技进入校园持审慎立场,但并未完全排斥与科技企业合作。该组织主席兰迪·温加滕今年5月曾主张,三年级以下学生应禁用屏幕设备,初中之前不应使用面向学生的AI工具。不过,AFT此前也宣布建立一个面向教育工作者的AI培训中心,获得Anthropic、微软和OpenAI共计2300万美元资金支持。
工会态度:条款“坚如磐石”,执行力是关键
温加滕在谈及此次协议时表示,这些条款“坚如磐石”,而且十分必要,因为“包括联邦政府在内,没有其他机构挺身而出完成真正需要做的工作”。她认为,面对校园AI引发的风险,教育界不能只停留在表达不满层面,而应采取果断行动;任何缺乏法律执行力的承诺,都只是一份“愿望清单”。
行业影响:校园AI治理进入合同约束阶段
从行业视角看,这份协议标志着校园AI治理从笼统倡议走向合同约束。过去一年,教育领域对生成式AI的担忧主要集中在数据隐私、内容安全和过度依赖上,但多数厂商的承诺缺乏可执行机制。微软将具体条款嵌入合同,并允许学区灵活加入,实际上为其他科技公司设立了一个参照系。若更多学区采纳类似标准,AI供应商在校园市场的准入成本将显著上升,数据使用透明度与人工审核机制也可能成为标配。与此同时,如何在保护隐私与利用AI辅助教学之间取得平衡,仍是教育界和科技公司需要长期探索的课题。