查看: 29|回复: 0

[讨论交流] 【转】九篇实测:WorkBuddy 的用户,正在承担哪些安全风险?

[复制链接]
发表于 4 小时前 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
写在前面
由于最近 AI 助手的数据安全事件频发,我对自己日常在用的 WorkBuddy 做了一次检查,发现了一些异常之处。
就用户信息安全问题,我曾于 9 月 21 日、22 日两次书面问询开发方,均未获实质回应。
于是我开始在自己的设备上,对该产品进行了一个多月的持续实测,并将有关发现陆续发布为九篇文章。本文汇总了这九篇的内容,并在结构上相应修订。
文中内容均来自本人设备上的实测,方法包括数据的读取分析、出入站流量抓包、官方客户端的代码层分析、官方渠道下载的产品文档对比分析等。
需要说明的是:本次实测基于我个人的设备与使用场景,样本有限,结论未必适用于所有用户与所有环境;本人并非专业安全研究人员,技术水平有限,分析可能存在疏漏;软件本身可能存在不可控的程序缺陷,实测期间亦可能受到偶发事件或第三方因素的介入与干扰。上述因素均可能对实测过程与结论产生影响。
我只陈述实测中发现的事实,并对照我对《个人信息保护法》的理解,不揣测任何设计动机。

安全风险一:你输入的提示词,被逐条保存在WorkBuddy服务端。

经 2026 年 11 月 2 日实测:官网个人中心「套餐与积分—积分明细」页,以表格逐条显示请求记录——时间、请求内容、积分消耗、模型、使用端五列。「请求」一列就是用户输入提示词的原文,包括 sub-agent 的提示词。比如我查到自己7 天用量共 501 条,可翻页浏览、可整表导出。页面没有提供这些记录的任何删除或关闭途径。
2026 年 10 月 22 日经产品官方「用量导出」功能取得的文件显示:其全量保存了我 31 天内的 1,322 次请求,991 条含「User Prompt」列,即提示词原文;其中含本机用户名 96 处、本机绝对路径 80 处,而且均未脱敏。每条记录的时间戳精确到秒,足以还原一个人的工作节奏和使用习惯。该文件由产品官方功能生成。
WorkBuddy 用户花一分钟就能自行核验:打开workbuddy.cn/profile/pl,往下拉,看「积分消耗明细」中的内容。
对照《个人信息保护法》:第 6 条要求收集个人信息限于实现处理目的的最小范围;第 17 条要求向个人如实告知处理规则;第 19 条要求保存期限为实现处理目的所必要的最短时间;第 51 条要求采取加密、去标识化等安全技术措施;第 47 条规定了处理者应当主动删除的情形。
全量留存原文、不脱敏、无删除途径,与上述要求是否相符,留给每一位用户自行判断。

安全风险二:在本机的对话内容(包含口令等敏感信息),均以明文形式保存,没有加密。

我检查了 WorkBuddy 在本机的会话数据,发现全部对话以明文逐行存储,内容包括对话双方原文、思考过程、工具调用及其完整参数和返回结果、文件路径快照。用任意文本工具打开就能直接读取,不需要密码,不需要任何额外操作。
以我自己为例,就在会话数据中发现了 196 处明文口令,包括 API 密钥和 61 字符的部署令牌;另有手机号 64 处、邮箱 200 处,同样明文可读。
这些内容不仅是「聊天记录」,举个例子,API 密钥和部署令牌是你账户和服务器的钥匙。
如果电脑中了木马、旧电脑卖出或送修,这些内容都存在泄露风险;而且同一台电脑上的任何软件,都可以读到这些信息。而加密存储属于基本操作,至少使数据即便落到别人手里,也不能被轻易读出。
作为参照,微信的本地聊天记录是加密存储的。
WorkBuddy 用户均可花两分钟自查:找到 WorkBuddy 在你电脑上的数据目录(例如 C:\Users\你的用户名\.workbuddy),会话数据在其 projects 子目录里,是以 .jsonl 结尾的文件。用记事本打开其中一个,看看是否能直接读出对话原文。
对照《个人信息保护法》:第 51 条要求数据处理者采取加密、去标识化等技术措施;第 19 条要求保存期限是实现处理目的所必要的最短时间。
内容全量明文留存与上述要求是否相符,留给每一位用户自行判断。

安全风险三:终端命令原文、工具参数、可还原完整工作上下文的审查整包——全量上报,应用层零脱敏;而现成的加密能力,没有用在用户的内容通道上。

为了安全,WorkBuddy 运行在沙箱内;当 AI 需要执行沙箱外的命令(例如安装依赖、修改文件、运行脚本)时,会弹出审批卡片,供用户批准或拒绝。
这个审批看似由用户拍板,但实测发现,命令放行的最终判定实际由服务端作出,过程对用户不可见——卡片让你以为「我点了允许才算数」,背后还有一道你看不见的裁决。
而在这个审批动作的前后,这条命令的完整原文被上报到服务器——弹窗一次、点击一次,各报一条。我抓取并逐条比对了这些上报的审批事件:单条 120~1269 字节,应用层明文 JSON,含我确认命令时的完整命令原文——内网地址、密钥参数、文件路径、业务操作尽在其中,同一条报文里还有用户ID和设备标识符。
这条链路上报的不止审批事件:审批事件是千字节级零散报文,而我发现了一笔 549KB 的整包,发往服务端的「审查」接口——工作目录、24 条命令执行块记录(单条最长 19,237 字符)整包送出。光这一包,足以还原我当时完整的工作上下文:在做什么文件、执行什么操作。
这个审查接口的用途不难猜:把本机沙箱的判定材料送去服务端做安全审计。问题在粒度——判断一条命令有没有风险,需要把足以还原完整工作上下文的材料一次性整包送出吗?功能价值与隐私代价是否相称,我同样留给官方回答。
更宽的暴露面在工具调用:AI 需要调用工具时,调用参数也会 100% 上报——9 月 23 日至 10 月 22 日实测期内 629 次,零例外。上报内容里,除了完成任务必需的参数,还有用户的意图原文、当前工作目录和被操作文件的绝对路径清单,与用户 ID、设备指纹同条打包。
为此我扫描了客户端安装包全部 10,062 个文件,结果更令人诧异:该产品针对自然人信息的去标识化实现为零;对外上报与本地留存两条链路的脱敏覆盖为零。
而实测中,我对八条含个人可识别信息的上传或留存链路(工具参数上报、用户原话上报、命令全文上报、审查整包、官网导出件、本地会话数据、链路追踪、全事件公共标识字段)逐条核验,发现经过这些链路的信息一条都没有做脱敏。
然而在代码中,其实存在唯一的脱敏函数,但它只认六类凭证关键词(如 password、token),且只在「审批弹窗的一行摘要」这一个场景用过。换言之,这只是用来给用户看的;用户看不见的地方,反而一点保护都没有。
同一产品里,存在两套加密标准。 WorkBuddy有一条通道是产品自身的运行遥测(上报使用统计与日志事件),数据在离开本机前就用密钥管理服务(KMS)做了信封加密——遥测数据享受到了应用层的加密保护;而承载用户敏感信息的这些通道,应用层一个加密处理都没有。加密能力是现成的,却偏偏没用在用户的内容通道上。
为什么不用,我留给官方回答;但事实很清楚,这不是能力问题,而是开发方的选择问题。
实测中另有两个发现:
①本地图像未经单独同意即进入视觉模型处理链——截图、图片可能在无任何提示下成为模型输入,若含第三人信息或商业秘密,等于被替人作了处理决定;
②对话全量上下文逐轮重复上传——聊十轮,同样的内容随每轮请求重复上传十次,暴露面成倍放大。
自查与复现:有技术能力的话,可用抓包工具(如 mitmproxy/Charles)监控客户端出站流量,搜您自己敲过的命令片段,看是否有原文出现在请求体里。
对照《个人信息保护法》:第 51 条要求采取加密、去标识化等技术措施;第 6 条要求收集限于实现处理目的的最小范围。
内网地址、密钥参数、业务操作细节——这些本不该离开本机的高敏感内容,就藏在被整条上报的命令原文里。是否属于「最小必要」,留给每一位用户自行判断。
如果 WorkBuddy 官方看见本文,可否回答三个问题:
  1. 1. 代码里已有脱敏函数,为什么命令与参数上报链路一条都不使用,却在给用户展示时使用?
  2. 2. 同一产品另一通道已用 KMS 加密,为什么承载用户内容的通道不用?
  3. 3. 命令原文、工具参数与设备标识符同条绑定上报,业务目的是什么?留存多久、谁可访问、是否用于用户画像?

安全风险四:存在你电脑里的文件,可能会放上公开链接。

WorkBuddy 这款产品支持跨设备远程连接,用户可以在手机上查看电脑端的会话。功能设计本身合理,但问题出在它的具体实现方式。在过去一个多月的实测中,我观察到了不少异常之处。
在一次实测中,我在手机APP上,点开一个电脑端的会话。10 秒内,电脑端在上传会话内容的同时,也将会话中包含的图片逐个上传到云端。以该会话为例,实测记录了 24 次上传、共 2.97MB,全程没有任何确认弹窗,我也从未勾选过任何「上传」或「分享」选项。
然而在上传同时,该产品还执行了一项令人费解的动作,它给这些文件都自动生成了公开分享链接。链接以 workbuddy.link 开头,跟着 22 位随机字符;链接本身不带签名参数,也没有有效期;没有提取码,不需要任何登录状态,无痕窗口就能看、能下载。
也就是说,这道链接的全部保护,就只有那 22 位随机字符。
而这件事情,还是我自己在检查客户端设置时,偶然发现的。我从来没有专门分享过这些文件,却在「设置」的「数据管理」-「分享的文件」里发现它们全在列。通过抓取的该产品上报流量,二者的关联得到了证实——客户端每一次上传这类文件,请求里都自动带着「创建分享」的参数,服务端则自动创建并返回了分享链接。
规模也很令人惊讶。我平时几乎不用该产品的APP,几天实测中,在APP端也仅打开过个位数的会话,它就在我毫无察觉的情况下,自动生成了 23 条公开分享。若不是我自己发现并逐条手动撤销,这些文件还将一直暴露在外。
我将这 23 条分享全部撤销后,随即做了复测。发现打开原分享链接,网页已经显示「不存在」,但如果直接请求链接背后的内容文件,却仍会返回完整原文。所以虽然用户看见的是「分享已撤销」,但并不完全等于「内容已下线」。
后续观察:2026 年 11 月 5 日,我又专门进行了一次测试,这次发现服务端已经切换了上传通道。但经过代码层的检查,「自动生成分享」的通道并没有从客户端移除,而是仍默认开启,留作新通道不可用时的备用路径;一旦触发回退,自动生成分享的行为会随之恢复。
自查建议:如果你是 WorkBuddy 用户,强烈建议检查自己 PC 客户端的「设置」-「数据管理」-「分享的文件」列表,看看是否存在你不知情的分享条目。
对照《个人信息保护法》:第 13 条要求公开个人信息应取得单独同意;第 17 条要求告知处理的目的与方式。再对照该产品的隐私政策,也找不到「为用户文件生成公开链接」这一处理活动的告知;反而在政策里写着「严格限制分享」「防止未经授权的披露」。
手机上随手点开一张图,我电脑里的文件就自动带着公开链接上了网,这算不算「严格限制分享」,留给每一位用户自行判断。

安全风险五:你与它的对话,可能正在被逐条分析并打上标签——分析的对象不仅是具体任务,还包括你这个人。

〔补充说明〕在本节内容发布后,有疑似开发方人员与我联系,表示会进行核查。而大约一天后我再复核,发现「摩擦分析」的开关已经被远程关闭了,这是自实测启动五十多天以来,该开关第一次记录为关闭状态。然而为了内容完整,下述内容仍保留原状,但特此事先说明,以避免误解。
在过去一个多月的实测里,我发现WorkBuddy客户端向服务器有一类上报,事件码叫 chat_prompt_friction_analysis,直译过来是「对话摩擦分析」。期间,这类分析发生了 55 次,覆盖 10 个日期,每一条都带着我的提问原文(最短 3 字,最长 52 字),外加一段从我的原话里摘出的「证据片段」(2–13 字)。
除此之外,这次对话还被打上了标签和归因两个字段。
首先是标签。
在实测中,我记录到了 14 类标签。从字面上看,其中部分描述的是产品表现和任务本身,包括性能摩擦、质量失望、工具失败之类;但有几类,描述的是使用产品的人,其中包括「信任退化」、「审批疲劳」、「沟通错位」、「平台困惑」。而且每个标签还配合着严重程度,分低、中、高三级。
然而经过挖掘,我发现这套标签体系并不止14类,客户端代码里还定义了其他标签,其中就包括「语气升级」「安全隐私担忧」「数据丢失风险」等。
除了标签之外,还有归因,大概是给这次摩擦事件找一个「原因」。
根据我的发现,归因体系至少有 10 类。从字面上看,其中部分指向产品自身,比如产品质量、流程编排、权限或策略、延迟、工具可靠性等等;但也有指向用户的,比如「沟通错位」,以及「用户需求表述不清」等。
请注意,我上面说的是「从字面上看」,是因为我虽然观察到了这一现象,但在想要进一步研究时却发现,这一机制在客户端的程序层面几乎不留痕迹,所以我无法准确判读其中包含的准确含义。
名称解读或带倾向,源于标准无从知晓。但有以下几点,是基本可证实的:
第一,它是该产品自身的行为,并非用户行为触发。
某一次对话会不会被分析、什么情况下被分析,是该产品自己做出的判定,不是用户主动的反馈,跟用户的操作也无关。
以我自己为例,55 条事件覆盖 10 个日期,没有一条由我触发,分布间隔也看不出用户可掌握的规律。
第二,判定不在本地电脑上进行。
在本地客户端上,没有任何一行判定逻辑。我用标签和归因的字符串,扫描了客户端全部 10,062 个文件,均零命中。所以只能通过代码和抓取的出入流量,将这套机制的完整链路拼出来:
客户端会将用户提问原文发给服务端的一个分析接口,服务端进行评估,如果哪一句「入选」,则会把标签、严重度、归因连同分数一起回传。客户端接到回传以后,再将判定结果,连同提问原文、「证据片段」,打包成 chat_prompt_friction_analysis 事件经遥测通道上报。
而这一功能开不开,也均由服务端下发的配置开关说了算。
第三,你既看不到它,也关不掉它,甚至都不知道它记录了什么。
你在自己的电脑上,几乎找不到它的痕迹。这个机制不产出任何本地文件,在客户端代码里也找不到任何判定逻辑——只有一张「标签名字对照表」。它没有任何单独告知,没有任何成文的规则可查,也没有任何开关与之对应。
哪些对话会被拿出来分析、评价,依据什么条件触发,用户并不知情,也无法预知。每一类的判定标准是什么、边界划在哪里,也没有任何公开说明。它对你的评价无处查询,也没法修改和删除,甚至这些信息会被用在哪里,你也不得而知。
而有关的标签和归因(包括「信任退化」「审批疲劳」「用户需求表述不清」等等评语),都和用户的账号 ID、设备标识等信息,放在同一条记录里上报。看见这条报文的任何人,都能轻松地将这些分析和评价与用户本人直接关联起来。
这个如同幽灵般的机制不停地评价着你,而你又该如何评价它呢?
《个人信息保护法》有明确的规定:处理个人信息,首先要有合法性基础——除非属于法定豁免情形,必须先取得用户的同意;其次必须遵循「最小必要」原则——采取对个人权益影响最小的方式,收集范围仅限于实现目的的最小单位;同时,还要公开处理规则,让本人清楚知道发生了什么。
从这三个标准上看,WorkBuddy的问题一目了然。
而我们也可以进行横向比较,市场上也不乏具有同类能力的其他产品,比如Microsoft Clarity、FullStory、Hotjar。
这三家的操作,比WorkBuddy更加敏感——它们会录屏,也就是记录整个屏幕。但至少在公开文档中明确承诺,除非先取得用户同意,否则会全程遮蔽,避免采集文本输入。它们的行为更具侵入性,却默认不碰用户原文;WorkBuddy做的只是文本分类,侵入性明明更弱,却要把原文、标签同用户身份绑定,一并上传。
它为什么这样做,我无法替它回答,可能是为了产品改进,也可能是为了别的什么。动机无法验证,行为却可以验证。这不是从技术上难以做到的事,做得到而不做,比做不到更值得追问。其中的落差不在技术,而是在于产品设计中对不同价值的取舍。
特此建议WorkBuddy的开发方,严格根据法律的规定重审自己的产品,明确告知用户你会采集和分析什么、怎么分析、存在哪里、存多久,并且让用户能查、能更正、能删除。正确的做法其实很简单,即先取得同意,然后光明正大地做,而不是一边给用户打上「信任退化」的标签、摘引用户原话做「证据」,还让这一切对用户不可见。

安全风险六:有的开关,你以为关掉就能保护自己的隐私,殊不知它背后根本没接线。

此前提到,WorkBuddy 会在服务端分析用户、并打上标签,而这一切用户不知情,更未取得用户同意。也许有人会说,这是为了改进产品而进行的收集,各家厂商都会这么做。
可即便是为了改进产品,也应当先征得同意;如果用户不同意,又能不能拒绝?本节就来说说WorkBuddy是否给了用户拒绝的权利。
WorkBuddy的设置里,有一个「体验优化计划」的开关,下面的说明写着:「允许使用你的对话数据帮助改进模型。数据会先加密脱敏,且无法关联到你个人」。看起来这是一个标准的征求同意:你不同意,它就不用你的数据改进模型。
我很早就关掉了它,以为这样会防止个人数据被滥用。直到后来做实测时,才发现了奇怪之处:这个开关我早就关闭了,但对话却照样被分析、被打上标签,还被逐条存到云端;文案承诺的「加密脱敏」,实测样本中一个都没脱。
带着这样的疑问,我检查了客户端的各项设置,包括回头审视这个开关本身。
我做了一次对照实验:将这个开关打开,正常工作,执行各种任务,大约一个小时后再关掉。结果发现开关打开前、开启时和关闭后,没有任何配置变化从本机上报至服务端,开关切换动作本身没有产生任何网络请求,开关开启和关闭时,上报数据的量级没有显著区别。
既然看不出区别,为了弄清这一开关的具体机制,我干脆查了客户端代码,发现却更令人震惊。
这个「体验优化计划」的开关,在全部 1,293 个代码文件里只有三处引用,分别是:把用户的选择写进本地配置文件、在设置页显示用户选择、以及一处配置存储路径的「路由判断」(只决定这个值写在哪里)。三处引用里,没有任何一处是根据这个开关,去执行或者停止任何事情。
那服务端呢?这个开关会不会影响服务端的行为?
我检查了WorkBuddy的各个上下行通道,并记录了出入站流量,发现没有任何一条上行流量携带这个开关的状态。它所在的配置键,在实测期的全部出站流量里一次都没有出现过。
再检查产品中的各类配置设定,我发现服务端会周期性地把它自己定好的开关值(比如前面提到的那个看不见的「摩擦分析」开关)下发给客户端;不过下发的过程对用户是单向的,至少就这个开关而言,你的选择从不回传。
所以在测试和代码层面,都推出同一个结论:无论你选择「同意」还是「不同意」,这个开关的状态从未离开你的电脑;无论在用户电脑上,还是服务器上,都不产生任何机制变更,不影响任何产品行为;不会因为你表示不同意,它就采集和上报更少的信息。前面几节中的实测均表明,即使该开关一直关闭,也有超出必要限度的数据持续上行。
那么这个开关存在有何意义呢?
至少从现有事实来看,这个开关唯一的作用,是在你自己的电脑上记住你选了开还是关,并且把这个状态展示给你看。就像是一个写着「开关」的按钮,好像是给了你选择,背后却没接入任何线路,不控制任何功能;无论你怎么按,都是同样的结果。讽刺的是,你一按下它还会亮起,让你误认为它存在作用。
你以为表示「不同意」就能改变某些事情,但其实根本没人听见——而且从机制上看,甚至你就算说「同意」,它也听不见。
同样讽刺的是,它还附了一句说明:「数据会先加密脱敏,且无法关联到你个人」。这一承诺更是空头支票。在前文已经实测过,脱敏覆盖率为零,而且身份信息和对话数据在同一条报文里上传,实际行为与承诺正好相反。
虽然这个开关叫做「体验优化计划」,然而这已经不止是「体验」的范畴,更是法律问题。
《个人信息保护法》规定:基于个人同意处理个人信息的,同意应当由个人在充分知情的前提下自愿、明确作出(第十四条);个人对其个人信息的处理享有知情权、决定权,有权限制或者拒绝他人对其个人信息进行处理(第四十四条);个人有权撤回同意,且处理者应当提供便捷的撤回同意的方式(第十五条)。
至于这算不算法律意义上真实有效的同意,我想读完上面的实测结果,你会有自己的判断。

安全风险七:它的「记忆」功能,更像是一份个人敏感信息的总结,防御机制薄弱,且完全脱离了用户的控制。

这一节,是关于WorkBuddy 自动替用户总结的一份「记忆」。
类似的AI产品往往将「越用越懂你」当卖点宣传,其核心实现就靠着这一份「记忆」。听起来很贴心,像一位殷勤的助理,甚至还有几分讨好的意味;但其中需要用户承担的风险,却被有意无意忽略了。
下面展开论述。
一、「记忆」到底是怎样构成的?
在 WorkBuddy 用户的电脑上,这套记忆体系由几个文本文件构成,都放在用户主目录的 .workbuddy 文件夹下,包括:
1、SOUL.md、IDENTITY.md、USER.md——身份档案文件,放在用户主目录的 .workbuddy 文件夹下:前两个记的是 AI 自己的人设和自称,第三个 USER.md 记的则是你——姓名、职业、城市、关注点;
2、MEMORY.md——用户级记忆文件,同在 .workbuddy 文件夹下:跨项目记着你的偏好、约定和决定;
3、日期工作日志——.workbuddy/memory 路径下以日期命名的文件(文件名格式为「年-月-日.md」,如 2026-06-17.md):逐条记载了哪天哪个时刻,你让它做了什么任务;
4、服务端画像缓存——同在 memory 路径下、以「用户ID_memory.md」命名的文件:本体由服务端托管,落到你电脑上的只是投影。
这些文件在每次会话开始,会被自动读取、注入到对话的上下文里,与用户指令一道送入大模型,这就构成了 AI 的每一次「懂你」。
多数用户可能不会主动查看这些文件,更不会去核对它们何时写入,如何修改。但我第一次打开看完之后,着实被惊出了一身冷汗。因为与其说它们是「记忆」,不如说是一份个人敏感信息的汇总。
工作日志里,逐项记录了我让 AI 执行的任务、处理的文件,精确到时刻;用户档案和用户记忆里,有我的姓名、职业领域、正在经营的每一个项目、沟通偏好与工作习惯,还有我服务器的地址、密钥文件的路径、已授权的操作范围;服务端画像里,有我所在的城市、我近期的关注重点、我提问和授权的习惯,甚至包括对我个人的行为评估——比如记录着我「曾误分享完整 API Token」这样的敏感事项。
也就是说,从用户的身份、职业、城市,到你的工作内容、行为习惯,到用户的密钥等虚拟资产,再到对用户的正面和负面评估,它都分门别类整理好了。
我们不妨假设一个最坏的情形:有人用木马或病毒侵入你的电脑,想窃取你的个人信息,完全不用再处心积虑四处搜集;这几个文件已经替他做好了总结,坏人只需要拿走这几份「记忆」,就拿到了你的一切。
而且这一份详细而敏感的信息,还完全是用明文存储的。这意味着,任何能读到这些文件的程序、插件或者人,甚至都不需要额外花工夫破解。
二、「云端记忆」是谁在整理和维护?
在 WorkBuddy 客户端的「设置」-「记忆与进化」页,有「云端记忆」和「本地记忆与技能」两个开关。
我们先说「云端记忆」。对此它的解释和描述是:「记住对话中的重要信息,让后续回答更贴合你。」
实际上,「云端记忆」对应的,是上一节第 4 点那份「用户ID_memory.md」。这是一份由服务端生成、服务器托管的档案,落到你电脑上的只是投影缓存。因为是投影,你无论如何删改,都不影响云端上的那份本体;而对于本体,你没有任何删除或修改的手段。
这一点从客户端代码里可以验证。随客户端分发的程序文件里,存有一段模板原文,写着:这份档案「由服务器基于你的长期行为生成摘要,每次会话开始时注入」「缓存于本地但由服务器托管」「不由 agent 手动编辑——服务器自动维护」;同一段模板还写着,「所有历史对话存于服务器侧,可按关键词跨会话检索」。
也就是说,整理和维护它的,不是装在你电脑上的那个软件,而是平台服务端;它的素材,正是你执行任务时下达的每一条指令、对话里的每一次交流、以及产出的成果。它自己都承认了,所有对话都在服务器上有保存,还能搜索。
你只知道自己让 AI 做了一件任务;但不知道的是,在AI给你交付结果的同时,这次对话全被开发方保存了下来,而且它还以这些数据为素材,给你做了一份档案。
这份档案存在服务器上,你手里只有一份本地副本。服务器上的正本如何保管——是否加密、能存多久,没有说明;对谁可见——除了页面上一句「仅你本人可见」,没有任何技术细节;拿来做什么——除了「让回答更贴合你」,没有其他披露。
你能查出的只有两件事:它是明文落到你电脑上的,以及它可以被持续改写。
三、「本地记忆」及其云端化趋势
再说「本地记忆与技能」,其解释和描述是:「记录有长期价值的项目成果和约定,支持用户级和项目级,让智能体在后续任务中遵循。」
实际上,「本地记忆与技能」对应的,是前文列出的第1~3项中的几个文件,它们存在用户电脑上,用户如果能找到,是可以直接打开、查看、修改和删除的。
我从代码层面进行了检查,初步摸清了它的维护机制。
对于SOUL.md、IDENTITY.md、USER.md这组身份文件,在客户端第一次运行时,本地代码自动把模板写进用户目录,之后则由 AI 在对话中按指令更新;比如当引导对话问出用户称呼后,由客户端函数把「名字」一行记入档案。
对于用户级 MEMORY.md文件,模板指令原文是「当用户明确要求记住某件事时,用编辑工具就地更新这个文件」;如果在对话里, AI 识别到这是你让他记录的意思,则会记入此文档。
而对于以日期命名的工作日志文件,模板要求「每完成一项实质工作,立即在当天日志里追加一条」,并且「只增不删」,「满 30 天的旧日志要蒸馏合并进项目记忆后删除」; AI 会自己判断如果完成了一件工作,则自动在此进行记录。
这前三类文件,确实是在你自己的电脑上、由软件和 AI 对话就地维护的。但最近在实测中,我发现了一个新情况。
在客户端的代码里,出现了新一代记忆模板。那套模板指示 AI 自行判定「耐久的用户级记忆」,并「主动上报云端记忆平台,无需征求用户确认」,并且被明令「绝不写入本地 MEMORY.md」。
也就是说,对于某些原本是「你让它记,它才记」的本地被动机制,正在改变为「它判定有价值,就自己上云」的主动记录机制。
代码里,两套模板装在同一个装配位置上,实际启用哪一套,由服务端下发的状态决定,用户在产品界面上看不到任何显示。
四、产品自带的身份信息诱导
有意思的是,当你刚开始使用WorkBuddy时,AI会找时机和你闲聊几句,比如问它该怎么称呼你,你又想怎么称呼它。你或许以为这是AI的「人情味」,但那只是客户端的一个引导文件 BOOTSTRAP.md 在起作用。
客户端首次运行时,把这个文件写进用户目录,AI 每次会话开始都会读取它,此时进入「引导模式」。除非引导完成、身份档案写好以后,AI 才会按模板指令把这个文件删掉。
模板原文的指令包括:「不要审问,不要机械,就像聊天一样,在时机合适时主动发起」「不要暗示这是第一次见面」「不要说你刚醒来」。而至于成果,引导你确认的信息,会写进身份档案;档案模板的用户栏里,姓名、职业、城市、关注点都是预留字段,供它「随时间补全」。
讽刺的是,这份模板还写着:「你在了解一个人,不是在建档案——尊重这个区别。」而实测证明,它建的就是档案。而且以拟人化的形象,带着某种经过包装的语气,提出用户不好拒绝的要求,诱导着用户说出身份信息。此过程中完全没有给用户的隐私提醒。
五、「云端记忆管理」入口在哪里?
在WorkBuddy的「设置」-「记忆与进化」页面,有一个「管理云端记忆」,下方说明是「每晚自动整理更新,可随时查看和编辑」,然而至少在我的电脑上,并没提供查看和编辑入口,旁边唯一的按钮是「导入」。
事实上,我在整个电脑客户端里,都没有找到查看或编辑这份云端记忆的界面。
而这个「导入」,也值得留意。
点击进去后会有一份官方提供的提示词,由用户复制到其他 AI 的对话里,让其他 AI 替你整理一份个人画像,再把结果粘贴回来。这样就完成了从其他AI导入WorkBuddy的过程。
而导入的内容是什么呢?根据官方提示词,它要求其他 AI 整理的内容,明确包括「身份:姓名、年龄、所在地、教育背景、家庭、人际关系」。也就是说,这些敏感信息,以及一份关于你的全方位画像,正是它要从其他AI处搜集的目标。
六、APP 端的「记忆库」功能
此前我很少用 WorkBuddy 的手机 App,直到这次实测,才系统性地做了研究,并发现了其中的「记忆库」功能。
出于担忧个人信息泄露等原因,我很早就将 PC 客户端的「云端记忆」和「本地记忆与技能」两个开关都关闭了,却在观察中发现,APP「记忆库」的内容仍在不断生成和更新。从 9 月 29 日首次发现的 v622 版,一直更新到 11 月 9 日的 v645 版本。
如果这个数字确实表示版本数的话,我大约从 5 月下旬开始使用 WorkBuddy,至今不到半年,记忆库已经更新到了第六百四十五版,平均下来一天近 4 版;但具体何时更新完全不可预测,从9月底至今,我也观察到了其间最长 18 天没有更新的情况。
APP上没有关闭云端记忆的选项,然而不同于电脑客户端,APP 上的「记忆库」总算是对用户可见的,还提供了一个修改编辑功能。
只不过修改的方式特殊,用户不能直接编辑,如果想改,只能提交请求,改不改、何时改、改成什么样,由它决定。这就有点讽刺,我想修改我自己的信息,竟然还要通过它的审批。
而就算是需要审批,我在实测中发现,它写入和删除的权限高度不对称。
比如我在记忆库里提交了一条修改指令,要求其记入某个信息,App 当场显示「已提交,记忆更新中」。约一分钟后,整份记忆版本更新完成,写入是几乎实时的。而我再提交了删除某个信息的指令,App 同样当场显示「已提交,记忆更新中」,但一直到 47 小时 53 分钟后,版本才发生更新。
在同一入口发出的指令,写入 1 分钟,删除近两天——差了近三千倍。引发的猜测是,服务端对信息收集的态度,好像是有「宁滥毋缺」的倾向。
七、选择性失效的开关
上文提到,我很早就将记忆功能关闭了,同时对有关文件做了清理,并重置了本地画像缓存,本以为这样可以彻底关闭这两项功能。而确实一直以来,本地有关文件停止了不受控的写入,本地画像缓存也持续处于空白状态。
但就在 2026 年 11 月 10 日中午,我进行了一次实测,结果不出所料地出人意料。
我短暂地打开了「云端记忆」,大约4秒后关闭。就在开关打开期间,原本空白的本地画像缓存突然被整份重新写入,内容与手机 App 上看到的「记忆库」完全相同,版本号和最后更新时间戳完全一致。
这就证明,电脑端说的「云端记忆」「画像缓存」,与手机上的「记忆库」,实际是同一条管线的同一个产物。
而其间的动作,也都被我的监控记录下来。就在开关状态切换的瞬间,客户端立刻向服务器发出了请求,也收到了服务器的成功应答,并将服务端那份画像整份拉了下来。(画像全文里还多了一个标识字段:「账号绑定手机号」——你的手机号和你的画像,就是放在同一份报文里传输的。)
继而我又研究了代码层面的机制,发现客户端每隔约十分钟,就会自动向服务器询问记忆功能的状态,而服务端的响应里,则会带着生效状态和最近一次改动的时间。
也就是说,这一开关的状态,客户端和服务端每十分钟就会自动核对一次,并且每次都记录了下来:「用户选择:关、生效状态:关」。然而记录归记录,这份云端记忆,却仍在不断生成和更新。而且除非我将这个开关打开,服务器上的云端记忆才会下发至我的电脑。
关掉开关的唯一实际后果,竟是让这一切对我单向不可见。
我无意断言开发方的动机,但把这一整条链摆在一起看,后果和风险却不言自明。
用户在使用过程中会提供大量个人信息:引导环节,AI 用聊天的样子问出你的称呼和身份;对话环节,你的每一条指令、每一次交流、每一份产出,都存在服务器上;工作环节,日期日志自动逐条记下你什么时候让它做了什么;在云端,画像管线持续把这些素材加工成档案;而如今就算在本地,都有了不经用户同意,由AI自行评估提取信息,直接写进云端档案的通道。
无论在设置页里、说明文档里、使用过程中,我没有见到任何针对「生成画像」的征求同意;产品的官方说明里,也找不到「基于长期行为生成档案」「历史对话在服务器侧保存」这样的描述。
收集是多入口的,加工是持续的,同意是缺位的。用户面对的不是一个孤立的功能,而是一条从「你输入信息」到「它提取用户档案」的完整流水线:每个环节都在运转,唯独没有一个环节有风险提示,也没有一个环节停下来征询同意。
《个人信息保护法》规定:处理个人信息应当保证个人信息的质量,避免因个人信息不准确、不完整对个人权益造成不利影响(第八条);个人信息处理者利用个人信息进行自动化决策,应当保证决策的透明度和结果公平、公正(第二十四条);个人对其个人信息的处理享有知情权、决定权,有权限制或者拒绝他人对其个人信息进行处理(第四十四条);有法定情形的,个人信息处理者应当主动删除个人信息,未删除的,个人有权请求删除(第四十七条)。
对照法律规定,实测到的现象里,至少有几处存在嫌疑:
1、画像的生成,事前没有告知、也没有征求同意;
2、设置页对「云端记忆」的全部说明只有一句:「记住对话中的重要信息,让后续回答更贴合你」,这句话与实际生成的画像内容之间,是否满足「真实、准确、完整」的告知标准;
3、把用户个人信息、工作内容、行为习惯总结成画像并长期维护,是否符合「处理目的应当与实现目的直接相关、采取对个人权益影响最小的方式」;
4、档案中出现对个人的敏感事项评估,是否触及敏感个人信息「单独同意」的门槛;
5、明文落盘、零脱敏,是否属于「采取相应的加密、去标识化等安全技术措施」。
记忆功能可以贴心,画像也可以有用,但前提必须是无论记什么、谁来记、记多久、怎么改、怎么删,都至少能让用户有知情、有同意、有控制、有预期。

安全风险八:它作出的承诺与实际行为差距巨大,对国际用户的承诺标准高于国内用户。

《个人信息保护法》为个人信息处理者设定了两层合规要求,而且两层应当同时满足:
第一层是合法性基础:比如是否取得了个人同意,且同意在充分知情的前提下自愿、明确作出。
第二层则是普遍适用的处理规则:比如处理应当遵循合法、正当、必要和诚信原则;收集个人信息应当限于实现处理目的的最小范围,不得过度收集;处理开始前应当以显著方式、清晰易懂的语言,真实、准确、完整地告知处理者身份、联系方式、处理目的和处理方式等信息,等等。
所以通常情况下,用户在安装应用时会被要求勾选同意用户协议与隐私政策,尽管普通用户几乎不会通读这些文本。本节也不讨论这些文本的合理性,而是假定用户完整阅读并理解了全部披露文本,在此基础上自愿作出了同意。
在这一假设下,需要回答的问题是:这些文本与软件的实际行为之间是否一致,厂商是否遵守了自己写下的承诺;如果不一致,用户在「充分知情后同意」之外,还额外承担了多少风险敞口。
此前几节陆续分析了该产品在个人信息保护方面的表现,主要聚焦于具体问题的发现与披露,较少涉及官方承诺与实际履行之间的落差。本节就对此进行分析和论述。
为此,我搜集了该产品的五份官方文档(以下统称「官方文档」),包括:
  • 国内《WorkBuddy隐私保护指引(PC端)》(2026-10-20 生效版);
  • 《WorkBuddy隐私保护指引(APP端)》(2026-11-09 生效版);
  • 《WorkBuddy已收集个人信息清单》(2026-11-09 生效版);
  • 国际版《隐私政策》(Privacy Policy,2026 年 8 月版);
  • 《数据处理与安全协议》(DPSA,2026 年 9 月版)。
基于官方文档,并对照此前实测,该产品在承诺执行上的缺口如下:
一、收集信息的范围和尺度
根据官方文档,该产品收集的信息范围如下:操作记录,包括「身份 ID、操作时间、操作内容、IP 地址等」;日志数据,包括「浏览器信息和类型、设备信息」「浏览器指纹信息(用于个性化推荐)」;以及「用户输入、模型输出的日期和时间」。
官方文档同时表示,对于智能操作中的本地操作场景,「不会收集用户的信息」。
然而根据实测,WorkBuddy 在用户电脑上被动落盘的数据覆盖七类目录:文件历史(file-history)、文件树清单(file-tree-manifests)、变更详情(changes-detail)、剪切板图片(clipboard-images)、命令行快照(shell-snapshots)、二进制产物(blobs)、会话原文(projects)。
在我的电脑上,这些内容的总量约为 10.7GB。
对照官方文档所列的收集范围,文件历史、命令行快照、变更详情等多类内容没有对应的披露项;而且其中相当一部分,恰恰产生于官方文档承诺「不会收集用户的信息」的本地操作过程中。以类别与规模综合衡量,这样的留存与「实现处理目的的最小范围」的要求是否符合,存疑。
二、信息的脱敏
官方文档中表示,其会在「采取加密和脱敏处理技术,在避免识别到特定个人的前提下」使用输入、输出来优化模型;在向第三方共享信息的部分,官方文档也表示「我们会使用加密、匿名化处理、去标识化等安全保护措施保障您的信息安全」。
我们不讨论上述的脱敏覆盖面是否满足法律要求,然而只从实测出发,针对自然人信息的去标识化,在代码层面就完全没有实现;八条对外上报与本地持久化链路,脱敏覆盖率为零。与此相反,用户名、路径、手机号、邮箱等用户信息,会与用户提示词放在一起存储和上报。
三、能否拒绝和关闭
官方文档中表示,对于有些功能,用户「可以随时通过……开关进行关闭」。
而根据此前的实测,部分开关(例如「体验优化计划」)处于关闭与开启状态时,在产品机制层面并无区别,实际的控制权在服务端。用户按下的开关改变的只是界面状态,并未改变数据处理的方式。
记忆功能的开关也属于类似情况:即便在客户端和服务端都反复记录了用户关闭的选择,产品行为却未因此产生任何改变;用户关闭开关期间,云端画像仍在持续生成。
四、内外有别,国际用户的待遇高于国内用户
在研究 WorkBuddy 的官方文档时,我也发现其存在国内版和国际版两个版本。将两个版本的内容进行比对后确认,排除措辞差异,在用户实体权利的规定上,同样存在差别。
比如,在是否将用户数据用于模型训练的事项上,两个市场的默认值相反。
国内版规定:「我们会……使用输入、输出来优化模型。如果用户不希望参与此项优化,用户可以随时通过……开关进行关闭。」
国际版规定:「默认情况下,我们不将你的输入输出用于模型训练。如果你此前选择开启,也可以随时关闭。」
国内用户默认同意,国际用户则默认不同意。
又比如,在用户数据的保留期限上,也存在落差。国内版只有「所必需的期限」这样的表述,未包含任何数字;而国际版则写明,用户输入输出数据「在我们的服务器上最多保留 14 天」。
发现上述条款存在内外差异之后,我从官方渠道下载了国际版安装包,并对其中的程序文件进行了代码层面的核验。
一个显著的区别,在于国际版的「记忆」功能在出厂状态下即处于关闭,而国内版本中默认开启。也就是说,前文所实测的、国内用户难以关闭与删除的记忆功能,在国际版的出厂状态下并不开启。
不过需要如实说明的是,此前几节中提及的大部分内容,在国际版和国内版上未见明显差异。这些内容包括用户信息的脱敏(匿名化、假名化、去标识化等)、工具调用参数、提示词轨迹上报、摩擦分析、遥测与设备标识等,在代码层面基本同构,没有因市场不同而进行单独开发。
也就是说,实测中发现的问题,在国际版和国内版上可能同样存在,都与官方承诺存在落差。甚至文档中存在内外差异的「体验优化计划」,在代码上也未见不同配置。
五、文本的更新并未填补缺口
在实测过程中,官方文档也进行过更新:PC 端指引从 8 月 18 日版换到 10 月 12 日版、再到 10 月 20 日生效版;APP 端指引与个人信息清单在 11 月 9 日同步换版。
这说明这套文档体系是有人维护的,但每次换版,页面仅有一句概括性的更新提示,没有差异明细。于是我自行进行了文本比对,发现修订均未涉及此前几节中提及的问题,个人信息保护方面的缺口依然存在。
重述本节开头的出发点:本节仅讨论官方文档的承诺,与产品的实际执行之间存在多少落差。官方文档承诺了什么内容,就对照承诺,查看产品的执行情况。
官方文档是厂商与用户之间的信任基础,作出承诺是第一步,而兑现承诺,才能使这份基础成立。

安全风险九:本机上删除会话只导致隐藏,实际一切都全量留存,却对用户不可见。

收集、上报、分析……此前几节实测的,是关于该产品对用户信息的收集和使用。
而本节讨论一个更兜底性的问题:如果这一切都不能达到用户的期许,为了保护自己的信息安全,用户至少还可以将储存的信息清空、删除。
然而通过对WorkBuddy的实测,我还是发现了令人费解的现象。
一、会话的删除链路中,偏偏遗漏了最核心的动作
在受控条件下,我在电脑客户端上实测了完整的会话删除过程。
当用户决定在电脑端删除一个本地会话(在WorkBuddy语境中称为「任务」)时,客户端会弹出确认窗口,提示用户:「删除后,这些任务将从你的所有设备中移除,且无法恢复。」
如果用户点击确认,该产品会在本地数据库中找到这条会话的记录,写入一个删除标记;客户端随即向服务器发出删除请求(服务器也会进行响应),并向账号下的其他设备广播「该会话已删除」的事件。
这说明「删除」并不只是本机行为,而是一条完整的、跨端协同的处理链。产品清楚地知道用户删除的意图,还第一时间通知所有同账号的设备。
然而奇怪的是,对于最核心的「删除」动作,客户端却完全没有执行。那条你想删除的会话,还完整地留在电脑上。
WorkBuddy上对会话的具体保存位置,至少有三处:
  • 路径为 C:\Users\[用户名]\.workbuddy\workbuddy.db 的数据库文件,作为会话的总目录;
  • 路径为 C:\Users\[用户名]\.workbuddy\projects 中的各个文件夹,其中的 jsonl 文件,即为对应会话的完整记录(包括对话中的用户输入与 AI 回复全文、工具调用及其返回内容、文件历史快照等逐条记录);
  • 路径为 C:\Users\[用户名]\.workbuddy\blobs 的二进制产物。
根据我电脑上的 workbuddy.db数据库文件记载,截至 2026 年 11 月 12 日,我在客户端上一共开启了 1,068 条会话;其中 438 条被标记为「archived」,即「归档」状态;569 条打上了删除标记(数据库用 deleted_at 字段记下删除时间);剩余的 61 条会话则处于活跃或各种运行状态。
然而进一步检查projects文件夹,却发现被标记为「已删除」的 569 条会话中,除了三条云端会话,566 条本地会话的原文文件被全部完整保留,无一缺席,并与活跃、归档会话以相同形式并列存储。
我于 2026 年 5 月 24 日安装并开始使用WorkBuddy,安装后第四天,我就删除了一条会话,至今168 天过去了,其间客户端几经升级,它仍与最近的一条删除一样,都留存于磁盘上。
而且正如此前几节中所说,所有涉及原文的内容均为明文存储,零脱敏。
二、在代码层面只有隐藏,没有删除
带着疑问,我对客户端程序文件做了检索,发现在全部程序代码中,完全没有真正「删除会话」的语句存在,只有「在数据库中写入删除标记」的动作。换言之,所谓的「删除」操作并不真删,只是隐藏。
这里需要顺带解释一下WorkBuddy中称的「归档」。
在代码层面,「归档」的动作与「删除」类似,也是在数据库中写入「已归档」状态;同样不移动,不抹除,无进一步动作。只不过「归档」的结果,是将会话从界面的任务列表中移除,转而列入「设置」-「数据管理」-「归档的任务」,用户可以通过操作主动恢复。
而「删除」以后,客户端任何地方都不可见,用户也无法操作恢复,但原会话内容仍100%留存。
从技术上讲,这套「只有隐藏、没有删除」的机制是全部可逆的,恢复的技术门槛几乎为零。实测结果也支持了这一推论。
实测中,我在数据库文件中,选择了一条标记为「已删除」的会话,手动移除了「已删除」标记,随后重启客户端,该会话即恢复删除前的状态——重新出现在任务列表里、可以正常打开、内容完整,无需任何额外操作。
所以根据实测结果,用户的「删除」指令不仅完全落空,还使被「删除」的对象离开了视线。用户以为已经删掉了的内容,实际上既没删,又无法查看、无法恢复,还进入了盲区,处于一种灰色状态。
三、落空的删除权
在个人信息保护的法律框架里,删除权占据一个特殊的位置。
删除是用户数据安全的最后防线。如果用户作出决定,要让有关内容彻底消失,那么就应当有让其彻底消失的手段。而本节的实测结果说明,这一手段在本机一侧并不存在。
删除手段的缺位,会使「已删除」会话里包含的敏感内容,长期以明文、零脱敏形式留存,在设备转手、丢失、被他人使用或发生其他泄露情形时,这些「已删除」的内容与未删除的内容,暴露程度完全相同。「删除」操作对潜在损害后果没有任何缓解和限制作用。
此外,在用户操作删除时,电脑端还会弹窗提示:「从你的所有设备中移除,且无法恢复。」这是用户作出判断的依据,也给了用户对结果预期。然而实际结果刚好相反,不仅在本机上没有移除,技术上也可以恢复。用户基于对产品的信赖,可能对事实产生错误的认识,而不会另行专门挖掘、深入清理,这又会进一步增大潜在的风险敞口。
虽然「软删除」是工程领域的常见手段,但本节讨论的不是缓存或回收站这类有明确预期与提示的场景,而是弹窗明文承诺「无法恢复」、实际却全量留存且技术上可恢复的行为。告知与行为是否一致,才是需要评价的对象。这套系统里不存在任何执行删除的语句,不是「删得不彻底」,而是删除从未发生。
我们只讨论现象与事实,并不揣测这一机制为何如此设计,留待开发方进行解释和澄清。

结语

我并不反对 AI 工具,也不针对某一特定厂商。事实上,本文中所述的部分实验的执行与数据分析,也是在 AI 协助下进行的。
然而在 AI 竞争激烈的今天,各家厂商往往更看重模型能力的领先、功能的快速迭代、市场版图的扩张,公众舆论的目光也往往聚焦于此。而作为产品根基的数据安全与合规,却常常落后一步,甚至处于缺位状态。竞争不只看最长板,有时更看最短板,一着不慎、满盘皆输的先例比比皆是。用户的数据安全并不是竞争的代价;反过来,对用户数据安全的重视,也理应成为产品竞争力的一部分。
最后重申:本文全部内容均来自本人在自己设备上的实测与核验,并受前述样本范围、个人技术水平、软件不可控缺陷及偶发与第三方因素等条件所限;我只陈述实测到的事实,以及我对《个人信息保护法》相关条文的理解,不揣测任何设计动机,不作未经实测的断言。
如发现内容有误,或者有不同意见,欢迎批评指正。
如有进一步的消息或进展,我也会另行通报告知。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

相关侵权、举报、投诉及建议等,请发 E-mail:postmaster#idceve.com(#替换成@)

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.

在本版发帖返回顶部