萝钵力数字疗愈观察

研究解读 · 研究回看 · 倾诉、记忆与隐私控件

向 AI 倾诉之后,能把话收回来吗?

一项 354 人的美国情境研究发现,人们对可删除对话的评价较积极。跨会话记忆则呈现出不同的意愿、受保护感与有用性预期。理解这些差异,才能追问控件的实际作用。

作者稿于 2026 年 7 月 7 日提交,正式会议论文收录于 2026 年 8 月。本研究测量对假设控件的评价。

说出口之前,也会想知道它留下多久

设想一次普通的深夜聊天。你想请 AI 帮你梳理一场争执,可能会说出对方的身份、自己的顾虑和一段不愿再读的经过。下次打开聊天时,你也许希望它记住关系的来龙去脉,却想让这一晚的细节从记录里消失。一次交流能否延续,和你能否决定哪些内容留下来,是两个不同的问题。

Kwesi 等人的研究提供了一个切口。研究者比较九种安全与隐私控件的说明,观察它们怎样改变人们对一款假想聊天机器人的看法。参与者对删除类控件的评价较积极,但即使看懂删除按钮,也可能拿不准系统会怎样执行。[1]

删除的吸引力,来自能决定保留什么

研究以“删除单次对话”作为统计比较基准。“删除账号及数据”和仅选择是否把会话保存到账号历史的“匿名聊天”,在使用意愿上与基准未检出显著差异。训练退出和仅在本机处理的情境,使用意愿评价则低于基准。这里比较的是控件说明带来的评分差异,参与者没有在这一步操作实际产品。[1]

在文字解释中,有人希望删去某次谈话,同时保留别的内容。这个区分值得重视。彻底退出一个服务和清理某段经历的记录,给用户留下的选择不同。假如删除一段对话必须连同其他记录一起放弃,用户还要承担失去有用内容的代价。理解这种代价,有助于解释为什么产品评价应关注删除的粒度,而不只记录有没有一个删除入口。

真正的边界还要看系统怎么处理数据。页面上看不到一段会话后,跨次会话的记忆里是否还有相关信息?删除请求在什么时候生效,适用于哪些存储,是否存在保留例外?研究收集到对执行的疑虑,没有检查任何假想控件所对应的后台行为。检验这些问题需要对具体实现另做核验。[1]

有用、安心和愿意用,可能给出不同答案

跨会话记忆开关是一个例子。与删除单次对话相比,描述记忆开关的情境得到了较低的使用意愿和受保护感评分,对支持有用性的预期则未检出显著差异。部分参与者解释说,保留背景可以少讲一遍过去的事。多因素验证呈现另一种分离:相对删除单次对话,它的受保护感评分未检出显著差异,使用意愿评分却较低。[1]

一次聊天对背景信息的需求,可能在不同时间发生变化。用户有时只想把一个念头说清楚,有时想让下次聊天接得上。产品可以把选择拆成三个容易理解的问题:这条信息现在可以用来做什么,下次还能否调用,用户事后可以撤回哪部分。这样,观察者也能区分用户是在寻求连贯的回应,还是接受了更长时间的数据保留。

把控件名称换成可以验证的问题

同一个“隐私”菜单里的设置可能作用于不同环节。按论文的情境定义,关闭跨会话记忆涉及日后能否调用旧信息,训练退出涉及对话能否用于模型训练,删除会话涉及旧对话在账号历史中的保留。产品如果提供其中一项,其他环节仍需有明确说明。[1]

后续观察可以先用不含真实个人信息的虚构对话,请参与者指出哪些内容希望带到下一次会话,再比较他们能否找到设置、理解保留范围、完成自己的选择。针对系统执行,还需另行核验测试会话在界面、跨会话记忆和所声明数据处理范围里的状态。这样的观察可以分别记录理解、操作和技术执行,也能让选择少说一点的人被纳入评价。

这些是本站提出的观察方法。原研究使用假设场景和自陈评分,没有记录真实倾诉行为、实际保护水平或健康结果。美国英语样本来自已有月度使用经验的人,结果对不使用 AI 的人或其他语言与文化环境的适用性仍待研究。应用检查也只反映 2025 年 8 至 9 月的筛选范围。[1]

原始来源与核验

  1. Kwesi, J., Cao, J., Cunningham, H., & Emami-Naeini, P. (2026). The Impact of Security and Privacy Controls on Users’ Emotional Engagement with Generative AI Chatbots. 35th USENIX Security Symposium, 1647–1666. 会议论文全文 · 会议论文页 · 作者稿版本记录。

作者稿于 2026 年 7 月 7 日提交,正式会议论文收录于 2026 年 8 月。本文于 2026 年 11 月 6 日核读会议论文的研究方法、表 1 至 5、局限及附录。来源链接指向同一研究,本文未复制研究图表、产品截图或受访者引语。

本文包含 AI 生成内容。AI 参与查找原始资料、核对研究内容及撰写和编辑中英文稿。本站未开展产品实测或原创采访。运营团队开发六境并提供谈心和入眠,存在相关商业利益。本文未评价这些产品的隐私实现或支持效果。