跳到正文
原文
arXiv cs.HC· 自如教育观察·· 3 天前精选

用户觉得AI记得自己,后台两层记忆却没运行

AI 导读

研究者让同事试用一个月的AI陪伴代理,再把它关于“记得”“理解关系”的自我描述与用户评价、实现记录对照。参与者接受了系统的风格描述,却没有同样认可关系性描述;三层记忆中有两层从未执行积累步骤。

推荐理由

Reviewed Edu@AI import

正文

作者开发并部署陪伴代理Lita一个月,由9位同事参与使用,再将代理自我描述与用户判断及实现记录逐项审计。参与者较认可风格相关描述,对关系性描述则保留;用户对记忆的评分达到中点或更高,但三层记忆机制中有两层没有运行积累步骤。研究据此建议让具记忆能力的代理说明自我描述无法证明什么。样本小且限于同事试用,结论主要是审计方法与设计提醒。

来源:arXiv cs.HC · arxiv.org