算法备案合规操作指南
推荐算法、生成合成算法和深度合成服务在上线前应识别是否触发备案、评估安全风险,并准备算法机制、数据来源和用户权益保护材料。
先判断是否需要备案
算法备案不是所有软件系统都要做。江苏鑫律联律师事务所建议企业先判断产品是否向公众提供互联网信息服务,是否具有舆论属性或社会动员能力,以及是否使用推荐排序、检索过滤、个性化推送、生成合成、深度合成、调度决策等算法能力。
如果算法只在企业内部辅助办公,通常与面向公众的平台型算法服务不同;如果算法直接影响用户看到的内容、交易机会、价格展示、信息流排序或生成内容,就需要更谨慎评估。
第一步:把算法能力拆成类型
企业不能只写“使用人工智能技术”。应先把算法能力拆清楚:推荐排序是给用户排内容、商品或服务;检索过滤是影响用户能搜到什么;个性化推送是基于用户画像推内容;生成合成是自动生成文字、图片、音频、视频或代码;深度合成则可能涉及人脸、声音、场景或身份呈现。
不同能力触发的材料和风险不同。推荐算法要关注用户权益、选择关闭和排序规则;生成式 AI 要关注训练数据来源、输出内容安全和知识产权;深度合成要关注标识、防冒用和人格权益。
第二步:备案材料要能解释算法机制
备案或内部合规材料不能只写“采用先进模型”。企业需要说明算法基本原理、主要用途、应用场景、输入数据来源、训练或调参数据、输出形式、人工干预机制、风险控制措施和投诉处理路径。
技术团队可以提供模型和系统说明,产品团队说明场景和用户影响,法务和合规团队负责把材料转化为可审查的治理文件。材料越靠近真实系统,越能应对平台审核、监管问询和客户尽调。
第三步:用户权益保护是重点
算法服务不能只追求点击率、留存和转化率。企业应当提供关闭个性化推荐、选择非个性化内容、申诉投诉、解释说明、未成年人保护和账号权益处理路径。
如果算法用于价格展示、信用评估、劳动管理、风控拦截、内容分发或商业机会排序,还要特别检查是否存在歧视性待遇、过度画像、不透明决策或无法申诉的问题。
第四步:上线后要保留调整记录
算法备案和治理不是一次性填表。模型版本、推荐规则、训练数据、风险策略、人工审核机制、内容标识方式和投诉处理规则发生变化,都应保留调整记录。
企业还应建立算法风险事件台账,例如错误推荐、违规生成、用户投诉、深度合成冒用、未成年人保护问题和数据泄露风险。没有记录,后续很难说明企业已经持续治理。
律师提示
江苏鑫律联律师事务所建议企业建立算法上线清单:服务对象、算法类型、数据来源、是否面向公众、是否生成合成内容、是否影响用户权益、是否需要备案或标识、是否有投诉和人工复核路径。
这张清单可以作为产品、技术、法务和运营共同使用的门禁材料。先做场景识别,再判断备案和治理义务,比上线后被动补材料更稳。
如果企业同时存在推荐算法、生成式 AI 和深度合成能力,不建议用一份笼统材料覆盖全部场景。应当按能力拆包:推荐算法看排序和用户权益,生成式 AI 看训练数据和输出内容安全,深度合成看标识和身份冒用风险。拆包后再判断备案、标识、评估和内部审批动作,执行成本反而更低。
对中小团队来说,可以先从“是否面向公众”和“是否影响用户权益”两个问题做第一轮筛查。只要答案不清楚,就不要直接上线,应先让产品、技术和法务把算法场景说明写出来。
本文为江苏鑫律联律师事务所数据合规实务观察,仅供参考,不构成个案法律意见。具体算法备案或算法治理事项,应结合服务对象、算法类型、数据来源、平台规则和最新监管要求作个案判断。
参考资料
- [1] 《互联网信息服务算法推荐管理规定》
- [2] 《生成式人工智能服务管理暂行办法》
- [3] 《互联网信息服务深度合成管理规定》
- [4] 《人工智能生成合成内容标识办法》