把客户数据交给AI工具处理,先判断委托处理还是数据出境
江苏鑫律联律师事务所从个人信息保护、委托处理、向第三方提供、境外模型 API、供应商再训练和数据出境角度,说明企业使用 AI 工具处理客户数据前应查哪些合规边界。
企业把客户名单、客服记录、合同、工单、通话录音、图片或行为日志输入 AI 工具时,第一反应往往是问:这算不算数据出境?江苏鑫律联律师事务所的判断是,先别只盯着出境,要先判断这一次处理到底是谁处理、处理什么数据、为了什么目的、数据会不会被供应商保存或再训练。
同样是使用 AI 工具,员工在本地私有化模型里做摘要,和把客户资料上传给境外 SaaS 或境外模型 API,风险完全不同。企业真正需要的是一张处理关系和数据流向表,而不是一句“用了 AI 就出境”或“没有出境就没事”。
直接答案
客户数据交给 AI 工具前,至少先查四件事:第一,数据里是否包含个人信息、敏感个人信息、重要数据、商业秘密或第三方作品;第二,AI 工具供应商是受托处理、共同处理,还是独立接收第三方数据;第三,数据是否会被境外主体访问、调用、保存或继续转移;第四,供应商是否把输入输出用于模型再训练、产品改进或其他客户服务。
如果这四件事没有答案,不建议直接把真实客户数据输入外部 AI 工具。即使只是内部测试,也应先做最小样本、脱敏或匿名化、权限控制、日志留存和测试后删除安排。
第一层:先识别是不是个人信息
客户数据不只是姓名、手机号和身份证号。客服聊天、订单、地址、头像、录音、图片、设备号、账号、行为轨迹、合同联系人和售后记录,只要能够单独或结合其他信息识别特定个人,就可能进入个人信息处理框架。
很多企业会说已经做了脱敏,但脱敏不等于匿名化。删除姓名和手机号后,如果仍能通过账号、订单、语音、图片、轨迹或公司内部编号重新识别个人,仍要按个人信息处理活动审查。涉及敏感个人信息时,还要更谨慎地控制必要性、告知、同意、访问权限和保存期限。
第二层:判断供应商是什么角色
企业使用 AI 工具时,不能只看对方是不是“软件供应商”。如果供应商只是按企业指令处理数据,不改变目的和方式,通常要按委托处理思路审合同;如果供应商决定部分处理目的或把数据纳入自己的模型改进,就可能不只是单纯受托。
合同里应写清处理目的、处理方式、数据类型、保存期限、安全措施、子处理者、删除或返还、审计权、泄露通知和输入输出归属。尤其要单独写明:客户数据和提示词不得用于供应商通用模型训练、产品优化或其他客户服务,除非企业明确同意并设置边界。
第三层:再判断是否涉及数据出境
数据出境不只等于把数据库文件发到境外。境外模型 API 接收输入内容、境外 SaaS 处理客户资料、境外技术团队远程访问境内系统、跨国集团统一系统同步客户和员工信息,都可能需要做出境路径判断。
企业应记录数据类型、个人信息数量、是否敏感个人信息、是否重要数据、境外接收方、所在地区、处理目的、保存期限和再转移安排。再结合安全评估、标准合同、认证或便利化路径判断,不要只按工具品牌或服务器宣传材料下结论。
如果供应商宣称“数据不用于训练”或“服务器在境内”,也要看真实访问链路、备份、日志、客服支持、子处理者和故障排查权限。有些风险不是主数据库出境,而是后台日志、工单附件、模型输入记录或远程运维权限形成了境外可访问路径。
第四层:内部测试也要留边界
很多问题发生在上线前。业务人员为了试用效果,把真实客户合同、订单表、录音、投诉材料和图片直接丢进公有 AI 工具,之后才发现供应商条款允许保存输入,或企业根本说不清哪些数据已经进入外部系统。
江苏鑫律联律师事务所建议,内部测试先使用模拟数据、匿名化样本或低风险材料。确需使用真实数据时,应先审批用途,限定人员,关闭供应商再训练选项,记录输入内容、账号、时间、工具名称和删除结果。测试不是合规真空区,越是临时试用,越容易缺少台账。
律师建议
企业可以先做一张 AI 工具客户数据处理表:数据名称、字段范围、是否个人信息、是否敏感个人信息、原收集目的、AI 工具名称、供应商主体、服务器和访问路径、是否境外接收、是否保存输入输出、是否再训练、删除机制、合同依据和负责人。
这张表不需要一开始覆盖所有工具,但至少应覆盖客服、销售、合同审查、工单分析、智能外呼、图片识别和知识库问答等高频场景。表格完成后,再决定哪些数据可以直接使用,哪些只能脱敏测试,哪些必须补合同、补告知或做数据出境判断。
本文为江苏鑫律联律师事务所 AI 工具与客户数据合规实务观察,属于一般法律信息参考,不构成针对具体项目的法律意见,也不替代正式咨询。具体项目应结合数据类型、个人信息规模、供应商条款、访问路径、模型用途和跨境安排作个案判断。
参考资料
- [1] 《中华人民共和国个人信息保护法》
- [2] 《中华人民共和国数据安全法》
- [3] 《网络数据安全管理条例》
- [4] 《促进和规范数据跨境流动规定》
- [5] 《生成式人工智能服务管理暂行办法》