7月10日，2020世界人工智能安全高端对话在上海世博中心举行。此次安全高端对话上，赛博研究院和上海观安信息技术股份有限公司共同发布了《人工智能数据安全治理报告》（以下简称报告）。报告分析了数据采集、数据处理、数据流动和数据使用阶段突出的数据安全问题，结合当前全球人工智能数据安全治理现状和动态，构建了综合性的人工智能数据安全治理框架。此外，本次安全高端对话还启动了“人工智能数据安全风险评估平台”。该平台在上海市人工智能产业安全专家咨询委员会的指导下，由观安信息发起，旨在实现人工智能场景中的数据安全实现多层级风险评估，推动人工智能产业健康发展。

《人工智能数据安全治理报告》

数据安全成为人工智能全面新发展瓶颈

当前，以数字新基建、数据新要素、在线新经济为核心特征的新一轮数字经济发展浪潮全面来临，为人工智能全面新发展注入强大动能。随着人工智能在产业和技术上加快渡过“探索期”，逐步进入“成长期”，人工智能与数据安全更加深度交织。数据安全问题已然成为人工智能突破关键转轨期所必须解决的重要制约瓶颈。

对此，报告基于数据生命周期的视域，重点聚焦分析了在数据采集、数据处理、数据流动和数据使用阶段较为独特或突出的数据安全问题、风险影响机制以及安全风险后果。

提出中国人工智能数据安全治理框架

报告在总结归纳各国现有的人工智能数据安全宏观战略、法律法规、标准规范的基础上，同时参考当前数据安全前沿技术发展以及企业实践，为中国人工智能数据安全治理提出了一个综合性的框架体系，具体包括治理思路、治理原则、治理路径三个方面。

框架强调要在人工智能的动态发展中实现对数据安全风险整体的可知可控、确保人工智能数据在采集、标注、处理、存储、流动、共享和场景应用的全生命周期安全，不断提高人工智能企业的数据安全能力，增强人工智能数据安全供给链的连续性和可用性。

此外，报告还为企业提供了通用场景和若干具体场景下的人工智能数据安全技术解决方案，即智能网联汽车、人脸识别和工业物联网三个发展前景广阔的数据安全重点领域。

启动人工智能数据安全风险评估平台

作为适用于通用场景的企业级解决方案，人工智能数据安全风险评估平台也在世界人工智能大会上正式启动。该平台在上海市人工智能产业安全专家咨询委员会的指导下，由观安信息发起，专委会主任何积丰院士、上海市委网信办总工程师杨海军、上海市经信委软件和信息服务业处处长刘山泉、观安信息首席专家张照龙等共同启动。

人工智能数据安全风险评估平台包括风险评估、数据集管理、知识库管理、威胁情报等功能，用于对特定人工智能应用场景中的数据安全风险进行总体评估和评级，以及数据集管理和知识库建设。

该平台设定了安全基线，开发用于敏感数据探测、数据质量检测、数据差异检测、漏洞检测以及脆弱性检测的工具。基于检测工具汇集的数据实现数据安全风险信息实时收集、自动推送、智能分析、量化评估与诊断分级。针对人工智能应用场景中的数据安全实现多层级、多维度风险评估，为企业对人工智能系统开展自评以及第三方测评机构针对人工智能项目开展风险评估和产品认证提供技术、工具和平台。

在完善和优化数据安全风险检测的基础上，该平台利用数据积累形成的数据资源池，根据不断变化的应用场景需求，构造用于各类人工智能模型的训练、测试及验证标准数据集。此外，平台还建设了人工智能数据安全知识库及威胁情报库。