arXiv cs.HC· 自如教育观察·· 3 天前精选
让AI扮幼儿园孩子，它还是会解微积分
AI 导读
三个开源推理模型被要求扮演不同学段的学生，口吻会变得像，但能力并没有跟着角色一起变：它们仍能答出超出角色年级的题。角色提示塑造的是表达风格，不一定能限制模型真正会什么。
推荐理由
Reviewed Edu@AI import
正文
RoleCapBench用六种教育角色、四个测评阶段测试三款开放权重推理模型。让模型扮低年级学生，并不会自动限制它的知识：角色之外的答题正确率仍达81.1%至89.8%。说话像孩子，和能力像孩子，是两件事。
作者进一步尝试在推理阶段干预，部分条件下减少了越级答题，但这只证明固定基准上的行为能被调整。研究没有招募儿童，也不说明模型拥有儿童的心智；把它直接当成真实学生模拟器，需要格外小心。
来源：arXiv cs.HC · arxiv.org