今日:2026年07月15日 星期三 首页要闻
权 威 · 及 时 · 准 确

AI 越记住你,越可能"带着偏见理解你"

来源:搜狐新闻 分类:科技
AI 越记住你,越可能"带着偏见理解你"

以前 AI 有个特点挺有意思:它特别容易忘事。

你前天还在闹情绪,第二天就能振作起来;你上个月说最讨厌社交场合,这个月却主动结交新朋友;你曾经因为失业而焦虑,反复询问职业规划,后来换个方向,情况好转了。这样的经历对没有长期记忆的 AI 来说,都是些独立的交流片段——窗口一关闭,关系就清零,它不会翻旧账,也不会用过去的你评判现在的你。

但现在,情况不一样了。

这样的情况不少见。当你打开一个使用了半年的 ChatGPT 账号的记忆总结页面,会发现类似这样的记录:某天深夜抱怨过一次"今天又加班到十点",总结里就新增了一条"用户对当前工作强度不满";某个时候随口提过体检报告上的某个指标,总结里就会加上"用户关注自身健康状况,可能存在焦虑倾向"。

这些推测未必错得有多离谱,但从未经过本人的确认——你说的是一句随口抱怨,它记下的是一个结论。下次你询问跳槽或健康问题,它给出的建议已经暗暗避开了那个自己脑补出来的前因后果。这并非孤例,后面会展示一些研究数据:多数用户认为的"记忆",从一开始就不是自己描述的事实,而是系统归纳的结果。

这就是 AI 记忆容易被忽视的一个方面:它记住的并非你说过的话,而是从你的话里"解读出的你"。这种解读持续积累、自动更新、难以核实,然后反过来成为它回答你每个问题时隐藏的前提。它不是不认识你,而是过于相信过去的你。

过去两年,"记忆"是所有 AI 助手最着力宣传的功能——更懂你、更贴心、无需重复自我介绍。但到了 2026 年上半年,一批研究者与安全团队几乎同时提出了另一面的问题:AI 记忆越深,越可能带着偏见理解你。更让"懂你"与"偏见地懂你"的机制,在技术上本是同一套。

Personalization features can make LLMs more agreeable

每个人似乎都想比你更懂你

先看看这场竞赛已经发展到了哪里。

OpenAI 早在 2025 年 4 月就升级了 ChatGPT 的记忆功能,使其不再仅仅依赖用户手工保存的信息,而是可以参考全部历史对话。到了今年 6 月 4 日,OpenAI 又推出了名为"Dreaming"(做梦)的新记忆系统:一个后台进程能在用户不在场时,自动从多轮对话中提炼、整合、改写它对用户的理解——就像人在睡眠中整理记忆一样。

它甚至带有"时间感知"功能:你说"7 月要去新加坡",到了 7 月,这条记忆会自动更新为"你 2026 年 7 月去过新加坡"。OpenAI 同时宣布,由于计算优化的缘故,服务免费用户的算力成本降低了约 5 倍——深度记忆很快将不再是付费功能,而是所有人的默认体验。

Anthropic 给 Claude 配置了记忆文件和项目记忆,Google 在推进 Gemini 的跨应用个性化。国内的战况同样激烈:月活跃用户数已接近 3.5 亿的豆包,以及 Kimi、元宝,记忆和个性化都摆在产品更新的最前沿。

厂商为何如此坚持?因为在 AI 助手时代,记忆是最牢固的竞争壁垒。搜索引擎知道你想查什么,推荐系统知道你想看什么,电商平台知道你想买什么——但 AI 助手想知道得更多:你是谁、你怎么思考、你为什么焦虑、你如何做决定、你在什么情况下会犹豫。这已不是传统意义上的用户画像,而是一份动态人格档案。一个记得你半年偏爱、项目背景、说话习惯的助手,其更换成本会随着每一次对话增加——记忆越深,用户越难转换。

根据哥伦比亚新闻评论(CJR)旗下 Tow 中心的研究,OpenAI 的广告试点在六周内就实现了 1 亿美元的年化收入。

当"最懂你的 AI"开始卖广告时,关于你的画像,用途就不只是为你服务了。在互联网的历史上,这样的故事我们见过一次:上一个靠"懂你"起家的公司

相关推荐