企业算法功能上线前,如何核对备案判断与治理材料边界?
江苏鑫律联律师事务所说明企业将推荐、检索、生成或调度功能投入对外服务前,如何按服务对象、功能能力、用户影响和材料证据核对备案与算法治理边界。
企业准备上线推荐、搜索、客服、内容生成或自动调度功能时,备案判断不能由“这是 AI 功能”或“已经准备了一套制度”决定。江苏鑫律联律师事务所的组织判断是:先把服务对象、功能实际作用、数据和内容处理、用户权益影响拆成可核对的事实,再对应核查算法备案、安全评估、生成合成内容标识、用户选择和投诉处置等材料。事实还不清楚时,结论应停留在待核对,而不是把内部测试、客户专属交付或对公众提供服务混作同一类上线。
这个判断的重点不是把所有规则都套上,而是确认每一项材料在回答什么问题:服务是否向不特定公众提供;功能是否实际参与推荐排序、检索过滤、个性化推送、生成合成、深度合成或调度决策;哪些数据、模型或内容会进入该功能;用户是否能感知、选择、申诉或要求更正。不同答案会改变后续需要核对的规则与材料范围。
先画服务边界,再讨论是否触发备案判断
产品团队常把“内部试用”“客户试点”“开放注册”和“公众可用”放在同一张路线图里,但它们不是同一种事实状态。材料底稿至少应说明:
- 谁可以使用功能,是否向不特定用户开放,是否依赖邀请、企业租户或合同交付;
- 功能在用户流程中的位置,是仅辅助员工处理,还是直接向用户返回内容、排序结果、价格、风控结论或行动建议;
- 上线范围、灰度条件、入口页面和实际可见功能是否与产品说明一致;
- 服务提供者、受托处理方、模型或数据供应商之间分别承担哪些功能。
《互联网信息服务算法推荐管理规定》所覆盖的推荐排序、个性化推送、检索过滤和调度决策等服务,不能仅凭内部模块名称判断。企业应以实际服务方式和算法作用为准核对是否进入算法推荐服务的治理范围。面向公众提供生成式人工智能服务,或提供深度合成服务时,还可能需要分别核对相应规则下的数据、模型、内容安全、用户权益、备案或安全评估等要求。一个功能同时具有推荐、生成与合成特征时,不能用其中一条规则代替其余边界判断。
把功能拆成“可说明的能力”,不要只交产品简介
备案与治理材料的第一组是功能事实。推荐排序应说明排序目标、主要输入、关键规则类别和人工干预边界;检索过滤应说明召回、排序、屏蔽或降权在何处发生;个性化推送应说明用户分层是否影响展示;调度决策应说明其影响的业务环节。文本、图片、音频、视频或数字形象等生成、编辑或合成能力,则应单列说明生成链路、对外呈现方式及人工审核安排。
这样做不是要求披露商业秘密,而是为了让企业能回答:某项功能究竟在做什么,哪些判断由系统自动完成,哪些环节仍由人员控制,发生争议时能否还原当时的服务状态。若产品说明、研发文档、对外页面和实际配置互相矛盾,后续的备案判断、用户告知或风险说明都缺少可靠基础。
材料应按四个边界归档
1. 服务与版本边界
保留服务清单、功能流程、上线审批、灰度范围、版本变更、对外页面或用户提示记录。它们用于确认企业在何时向谁提供了什么能力,而不是用来证明“已经合规”。功能扩展、服务对象变化或对外入口改变时,应重新核对原有判断是否仍适用。
2. 数据与内容边界
保留主要数据来源、字段或内容类别、授权与委托关系、供应商安排,以及输入输出的处理范围。面向公众的生成式人工智能服务,训练数据来源、知识产权、个人信息处理、标注质量和数据处理活动记录都可能成为需要核对的事项;不能因为数据来自业务系统、公开页面或第三方接口,就跳过来源与处理边界的说明。
3. 用户权益与处置边界
推荐、推送、过滤或调度类功能,应能说明用户告知、选择权、投诉受理、申诉复核和异常纠正如何落实。企业不宜把“有客服”概括成完整的权益保障:需要能对应到具体功能、具体用户触点和具体责任分工。对于可能影响用户获得内容、服务机会或交易条件的功能,尤其应保留处理记录与纠正路径。
4. 生成合成内容边界
《人工智能生成合成内容标识办法》已于 2025 年 9 月 1 日施行。涉及生成或合成内容的服务,应结合自身角色和内容流转方式核对显式标识、隐式标识及相关责任材料,而不能只在产品说明中笼统写“内容由 AI 生成”。这项核对与算法推荐、生成式服务或深度合成的判断可能并行存在,材料也应能够区分各自所回答的问题。
哪些情形不宜直接下“无需备案”结论
以下情况通常意味着事实尚未收集完整,应先补足边界材料:功能名称与实际能力不一致;内部工具已接入客户或开放入口;推荐排序与内容生成在同一流程中运行;供应商提供的模型、插件或审核服务承担了关键环节;产品已变更数据来源、用户范围或输出方式,但旧材料仍按原版本描述。此时更稳妥的做法是缩小上线范围、补全事实底稿并重新核对规则,而不是用一次历史判断覆盖后续版本。
律所站的材料协作边界
江苏鑫律联律师事务所可先把产品、研发、数据、运营和供应商材料按上述边界组织,再基于可核对事实进行风险分层:哪些问题只需补充说明,哪些需要调整功能或用户路径,哪些应在上线前进一步评估。吕箐翎律师可作为法律专业判断的专家来源参与这一材料与规则的交叉核对;组织判断仍应以产品实际服务方式和材料完整性为基础,而不是以单一标签或结果承诺替代分析。
对企业而言,最有价值的上线前产出不是一份泛化的“合规说明”,而是一套能对应具体功能、版本与用户路径的材料底稿。它既为备案或治理判断提供事实基础,也为后续用户沟通、供应商协作和风险处置保留可解释的边界。
参考资料
- [1] 《互联网信息服务算法推荐管理规定》
- [2] 《生成式人工智能服务管理暂行办法》
- [3] 《互联网信息服务深度合成管理规定》
- [4] 《人工智能生成合成内容标识办法》