arXiv cs.HC· 自如教育观察·· 4 天前精选
给学生预警系统补上“公平”,偏差可能只是搬了家
AI 导读
学校买来一个学生预警系统,却看不见内部怎么判断。研究者用安大略省高校数据模拟这种采购处境,测试六种事后修正:群体差距并没有稳定缩小,有时只是重新分配了。仪表盘看着更公平,学生承担的误判未必少了。
推荐理由
Reviewed Edu@AI import
正文
这项预印本用安大略省高校数据模拟供应商掌控模型、学校只能从外部修正的情境,测试六种事后公平干预。修正往往重新分配差距,而非一致减少差距;两种按群体规模操作的策略还偏向原本占优的群体。
问题在于,汇总指标趋同可能遮住不同学生承担的错误负担。这是特定数据与约束下的分析,并非对六家在用产品的实地调查,也没有证明某一种修正能普遍保证公平。
来源:arXiv cs.HC · arxiv.org