不能只看模型输出：生成式AI治理第一天要核查哪5类证据？

先给结论

不能只看模型回答好不好。企业使用或提供生成式 AI 服务，第一天要先查五类证据：训练数据来源、知识产权授权、个人信息处理、生成内容标识、供应商责任边界。少了其中任何一类，后面做输出审查、投诉响应或整改说明都会很被动。

很多人容易把生成式 AI 合规理解成“测试一下有没有敏感回答”。这只是输出端的一部分。生成式 AI 服务管理规则关注训练数据来源合法性、知识产权、个人信息和数据处理记录；生成合成内容标识规则又关注显式标识、隐式标识和传播责任。风险不是一个按钮能关掉的，而是一条证据链能不能说清。

误区：上线前测一遍就算合规

这个误区在企业内部很常见。产品、市场或客服团队拿到 AI 工具后，先测几组问题，觉得答案没有明显错误，就准备接入业务。真正出问题时，追问的却往往是：输入资料从哪里来，图片和文字有没有授权，客户信息有没有取得同意，供应商会不会拿输入内容再训练，生成图片或文案是否需要标识。

比如一家企业把客户咨询记录、产品图片、合同摘要、竞品网页和内部知识库一起接入 AI 助手。如果没有来源台账，后续很难解释哪些材料可以训练，哪些只能内部检索，哪些不能外传，哪些涉及个人信息或商业秘密。

第一类：训练数据来源证据

第一天先做来源清单。至少列出数据名称、取得方式、提供部门、供应商、采集时间、用途、保存位置和版本号。

公开网页、购买数据、客户对话、员工上传文件、历史项目资料，法律风险不一样。公开可访问不等于可以训练；客户提交不等于可以用于新模型；员工能下载不等于可以上传给外部工具。这里要保留采购记录、合同、交付清单、内部审批、数据处理日志和版本记录。

第二类：知识产权授权证据

第二类是授权链。文字、图片、音视频、代码、数据库内容和设计稿，都可能涉及著作权或邻接权益。企业不能用“网上找的”“供应商给的”“以前项目里有”来替代授权证明。

实务上建议建一张素材授权表：素材名称、权利人、取得方式、许可范围、是否允许商用、是否允许机器学习或模型训练、是否允许改编、是否有署名或禁止再分发要求。吕箐翎律师处理知识产权和数据合规问题14年，接触过11,000+件咨询和案件线索，很多争议不是企业完全没有材料，而是授权链散在采购、市场、技术和法务手里，最后拼不成一条完整路径。

第三类：个人信息处理证据

第三类是个人信息。客户聊天记录、语音、照片、简历、工单、账号行为、售后记录，一旦进入 AI 工具，就不能只按普通业务资料处理。

第一天要查四项：有没有告知和同意记录；处理目的是否覆盖 AI 分析、训练或智能客服；是否存在委托处理、共同处理或向第三方提供；保存期限、删除机制和权限控制是否可执行。证据包括隐私政策版本、弹窗记录、合同条款、权限日志、脱敏方案、删除记录和供应商安全说明。

第四类：生成内容标识和输出审查证据

第四类是输出端证据。生成合成内容标识规则实施后，企业要判断哪些内容需要显式标识，哪些需要隐式标识，谁负责保留生成和传播记录。

可以按场景拆：营销海报是否使用 AI 生成图；客服回答是否提示用户正在使用 AI；合成语音、数字人、短视频脚本、自动生成代码片段是否经过复核；对外发布前有没有版本记录和人工确认。输出审查表至少要有生成时间、工具名称、输入指令、输出版本、复核人、修改记录、最终用途和标识判断。

第五类：供应商责任和投诉处理证据

第五类是供应商责任。很多企业使用外部模型、插件、知识库或 SaaS 工具，合同里只写“遵守法律法规”通常不够。

要看输入数据会不会被保留或用于再训练，能不能删除和导出，出现权利投诉谁响应，侵权或数据泄露谁通知、谁取证、谁承担费用。还要看服务中断、模型变更、日志保留、审计权和投诉响应时限有没有写清楚。没有这些条款，出了问题就会变成业务、法务、技术和供应商互相等证据。

行动建议：第一天先做三步

第一步，做一张证据路径表。把数据来源、素材授权、个人信息字段、供应商工具、输出场景和负责人放到同一张表里。

第二步，冻结高风险入口。客户资料、源代码、设计图、第三方图片、外部抓取数据和含人脸声音素材，在来源和授权没有查清前，不要继续扩大训练或对外使用。

第三步，补责任记录。固定输入日志、输出版本、人工复核、标识策略、投诉联系人、删除机制和供应商响应时限。这样发生投诉或监管问询时，企业至少能说明自己审了什么、依据是什么、哪里已经停止。

常见问题

问：只用 AI 写内部材料，也要做五类证据吗？

要看输入材料和使用场景。如果只是用公开常识做内部提纲，风险相对低；如果输入客户资料、合同、源代码、设计图或未公开技术资料，就要回到来源、授权、个人信息和保密义务逐项核查。

问：AI 输出没有复制原文，还会有知识产权风险吗？

可能会。风险不只来自逐字复制，也可能来自训练数据来源、素材许可范围、代码许可证、图片改编、数据库内容提取和商业使用边界。不能因为输出看起来像新内容，就跳过输入来源和授权链。

问：第一天最该先补哪份文件？

先补证据路径表，再补供应商条款清单。前者解决“数据和素材从哪里来”，后者解决“出了问题谁负责、怎么删除、怎么响应”。这两张表比泛泛写制度更能落地。

本文为一般法律信息和实务观察，仅供参考，不构成针对具体案件的法律意见，也不替代正式咨询。如需个案分析，可通过知乎私信联系吕箐翎律师。