在数字经济时代,算法已成为企业发展的核心驱动力。然而,伴随着数据安全和隐私保护问题的日益凸显,企业面临着严峻的监管挑战。
近期,许多科技制造类企业收到了相关部门算法备案和算法安全评估的通知,特别是做“深度合成”算法的企业,比如美图美颜、AI换脸、语音识别、调音修音,还有最近热度较高的机器人问答聊天等。各地的企业在陆陆续续接到通知后,都被备案搞得一头雾水。而与此同时,除了官方通知,华为和小米的应用市场也都将算法备案作为了上架的前提条件。
于是算法备案工作被许多企业提上日程。截止日前,共有四批算法提供者完成了备案,其中,深度合成算法也已经公示了第一批名单。
究竟什么是算法备案?企业又该怎么做呢?本文为大家介绍。
一、算法备案背景:监管态势与政策要求
1.监管态势:数据安全与隐私保护成为焦点
随着大数据、人工智能等技术的飞速发展,企业在数字化转型过程中正面临着越来越严重的数据安全和隐私保护问题。为了加强对信息安全的监管,保障国家安全和公共利益,相关部门已逐步加大对企业算法使用的监管力度。
2.政策要求:关键算法需进行备案
根据国家相关法规和政策,企业在使用关键算法时需要进行合规性审查和登记备案。这些关键算法包括但不限于:涉及国家安全、公共利益、用户权益的算法。备案内容主要包括算法名称、功能、适用范围、使用条件等信息。《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
2023年4 月 26 日消息,据北京市委网信办官方消息,首都互联网协会、中国科学院信息工程研究所协调组织有关研究机构、政府智库和平台企业力量研究编制了《北京市互联网信息服务算法推荐合规指引(2023 年版)》。
二、企业算法备案的意义与价值
1. 提升企业竞争力
算法备案有助于企业提升信息安全防护能力,从而在激烈的市场竞争中保持竞争力。此外,拥有备案算法的企业在业务拓展、合作伙伴选择等方面也将更具优势。
2. 保障企业合规经营
通过算法备案,企业可以确保自身算法的合规性,降低监管风险,为企业的长期稳定发展提供保障。
3. 增强企业信誉与品牌价值
完成算法备案的企业将被视为对信息安全和合规经营高度重视的企业,从而提升企业信誉和品牌价值,吸引更多客户和合作伙伴。
4. 促进企业创新与发展
算法备案有助于企业关注行业发展趋势,探索新的算法技术,从而促进企业在信息安全领域的创新和发展。
三、算法备案服务流程
1、算法备案服务
(1)合规制度搭建
梳理算法治理结构,搭建算法安全机构;建立算法安全自评估制度、算法安全监测制度、算法安全事件应急处理制度、算法违法违规处置制度、科技伦理审核制度。
(2)算法备案申报
协助撰写算法基本原理、运行机制、应用场景、目的意图等公示内容;明确算法流程、算法数据、算法模型、干预策略、结果标识等算法情况;明确算法在服务中应用情况;研判算法滥用、算法恶意利用、算法漏洞等算法风险;建立内容生态治理、用户权益保护、模型安全保障、数据安全防护等风险防控机制;撰写《算法安全自评估报告》;提交国家网信办备案。
(3)产品与功能备案
梳理算法相关产品及功能;准确描述并填报算法与产品及功能之间的逻辑关系。
2、安全评估服务
(1)材料准备、填报
准备并填报《互联网新闻新技术新应用安全评估申请表》
(2)协助测试
进行测试,并填写网信办技术测试相关文件,协助沟通、整改。
(3)自评报告撰写
撰写《互联网新闻新技术新应用安全自评估报告》,覆盖技术原理、组织架构、训练数据、数据安全、内容安全、用户管理、标记、应急处置等方面进行梳理及完善,重点从信息源审核、多模态信息类型审核、技术安全等方面梳理完善相关内容。