arXiv cs.HC· 自如教育观察·· 3 天前精选
AI放错了拼图，近八成人却点头：问题出在它太像懂了
AI 导读
你说“把那个放过去”，AI未必知道你指哪个。一个210人的研究里，只看系统默认说明，参与者接受了78%的错误放置。准确提醒“我不确定是不是这一块”，能把错误接受率降下来；但提醒本身不准，也可能帮倒忙。
推荐理由
Reviewed Edu@AI import
正文
研究让人指挥AI拼图，测试双方能否察觉描述指向不明。模型常表现得过度自信，而且很少主动追问。210人的控制研究中，只提供AI默认说明时，参与者接受了78%的错误放置。
精确描述和有针对性的犹疑提示把错误接受率降到36%，同时大致保留正确动作的接受。但根据模型自身不确定度自动生成的提醒，可能继承信号缺陷，反而造成更多问题。研究支持的不是“让AI多说几次不确定”，而是把不确定准确落到需要澄清的地方。
来源：arXiv cs.HC · arxiv.org