拟人化互动服务发生上线、重大变化或用户增长后,安全评估和年度核验怎么衔接
拟人化互动服务的安全评估、算法备案年度核验和应用商店审核不是同一动作;企业应按上线、功能变化、用户规模和风险事实建立持续核对台账。
拟人化互动服务上线后,企业最容易出现的误区是把“完成一次安全评估”当成长期通行证。实际上,服务上线、功能变化、用户增长、算法备案年度核验和应用商店审核分别对应不同的事实和责任。
江苏鑫律联律师事务所建议先确认服务边界:规则针对的是利用人工智能,向中国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务。智能客服、知识问答、工作助手等不涉及持续性情感互动的服务,不能仅因“会聊天”就直接套入同一结论。中国网信网官方全文
哪些节点先进入安全评估台账
办法列出的触发情形至少包括:上线拟人化互动服务,或者增设相关功能;使用新技术、新应用导致服务发生重大变化;注册用户 100 万以上或者月活跃用户 10 万以上;存在可能影响国家安全、公共利益等安全风险;以及国家网信部门和有关部门规定的其他情形。
这里的“上线”与“重大变化”都需要产品事实支撑。企业不能只在法务台账写一个日期,还要保存首次开放公众使用的版本、地区和功能,新增角色或情感互动能力的变更说明,新技术接入的评估记录,以及注册用户和月活跃用户的统计口径。
安全评估重点也不只是模型本身。规则要求关注安全保障措施、训练数据处理、极端情境识别和干预、用户规模和年龄结构、未成年人和老年人保护、投诉举报处理以及重大安全风险整改。每一个结论都应当能找到产品配置、测试样本、应急演练、客服工单或整改闭环。
安全评估不等于算法备案
拟人化互动服务还要按适用规则履行算法备案以及变更、注销备案手续。办法明确,网信部门对备案材料实施年度核验。也就是说,企业不能因为早期备案完成,就把后来新增的角色、模型、推荐逻辑、用户范围或服务目的视为无需管理的历史状态。
建议算法备案台账至少设置:备案主体、算法名称和版本、主要功能、服务范围、变更日期、变更原因、用户权益设计、备案材料、反馈和整改记录。版本发布单要能够回指这张台账,避免备案材料和线上实际功能脱节。
应用商店审核是外部核验节点
应用程序分发平台负有上架审核、日常管理和应急处置责任,并要核验拟人化互动服务应用程序相关的安全评估、备案等情况。企业准备上架或重大更新时,应提前整理可供核验的安全评估报告、备案信息、版本说明、用户协议、未成年人模式和投诉处理入口。
平台核验并不等于监管部门已经对企业全部合规作出确认。相反,如果平台要求补充材料,企业要把问题落到具体版本和具体功能,而不是只提交一份不区分版本的总说明。
建一张“持续变化”表
建议由产品、技术、安全、运营和法务共同维护一张表,按以下顺序记录:服务对象和互动类型、当前版本、上线或重大变化日期、注册用户和月活数据、风险事件、评估报告、算法备案状态、年度核验、应用商店提交与反馈。
还要给“重新核对”设置触发提醒:新增情感角色或持续陪伴功能,改变模型或训练数据,扩大用户范围,出现依赖、沉迷、极端情绪或重大投诉,注册用户或月活跃用户接近门槛,应用商店要求补材料。提醒本身不等于已经触发法定义务,但能避免企业错过核对时间。
江苏鑫律联律师事务所的实务建议是,把安全评估写成一次动作、把算法备案写成一个编号、把年度核验写成一个日期,都会造成管理盲区。真正需要留存的是每一次产品事实变化、每一次材料更新和每一次风险处置之间的对应关系。