返回博客人工智能安全

客服团队每日平均发生3.8次个人信息泄露

每位使用ChatGPT的客服人员每天平均进行3.8次敏感数据粘贴操作。对于一个100人的团队,这意味着每天发生380起GDPR合规风险事件。

April 18, 20268 分钟阅读
accidental PII exposuresupport team ChatGPTCyberhaven 3.8 pastesworkflow PII protectionGDPR daily exposure

每日个人信息泄露的数量测算

Cyberhaven的研究发现,企业员工每天平均向ChatGPT粘贴3.8次敏感数据。对于一个100人的客服团队,这意味着客户记录每天进入ChatGPT的次数高达380次。

每一次操作都可能构成GDPR第5条第1款(c)项的数据最小化违规。该条款要求个人信息「适当、相关且限于必要范围」。

这些并非心存侥幸违规的员工——3.8这个数字反映的是正常工作状态。客服人员复制客户邮件以起草回复,粘贴投诉文本以获取措辞建议,附上账户信息以获得有针对性的答复。每次粘贴都是合理的生产力操作,只是顺带携带了个人信息。

行为培训无法解决根本问题

2024年一项欧盟审计发现,63%的ChatGPT用户数据包含可识别个人身份的信息,而只有22%的用户知道可以通过工具设置选择退出。粘贴到AI助手中的内容大多含有个人信息,而大多数用户对此毫不知情。结果就是大规模的日常泄露。

制度培训面临一个根本性问题:复制粘贴的操作习惯已有数十年历史。用户从第一天使用电脑起就开始复制粘贴文本。将AI聊天工具作为新的粘贴目标,只是增加了一个新的终点,并不会改变习惯本身。

「不要将客户个人信息粘贴到AI助手中」这项政策要求客服人员在一个已形成习惯的操作中插入一个分类判断步骤——「这段文本是否包含个人信息?」——而这个操作本身并没有自然的停顿点。培训效果会随时间消退,380次日常粘贴决策累积起来,形成了制度规范单独无力把控的合规风险。

技术管控措施发挥作用的关键

解决方案作用于粘贴操作本身。浏览器扩展程序在客服人员按下粘贴键的瞬间拦截剪贴板内容,在文本到达输入框之前完成处理。客服人员看到一个预览弹窗,显示检测到的内容以及发送前将被脱敏处理的内容。

这不是一个拦截性管控,客服人员可以继续操作、覆盖或停止。这是一个透明度步骤,在一个原本自动化的操作中增加了一个短暂的可见环节。

以一位德国电商公司的客服主管为例,她需要起草对客户投诉的回复。工作流程保持不变:复制投诉内容,粘贴到ChatGPT,生成回复。扩展程序增加了两秒钟的检查。客服人员看到系统检测到了姓名、地址和订单号,点击继续,工具收到的是脱敏版本,合规风险由此消除。

这些管控措施的法律依据,请参见我们的GDPR合规指南。实施细节请参见AI政策与技术管控对比分析和ChatGPT浏览器DLP指南。

参考资料

准备好保护您的数据了吗?

开始使用 273 种实体类型在 48 种语言中匿名化 PII。