9月18日，在2018 世界人工智能大会·人工智能安全高端对话分论坛中，中国信通院发布报告《人工智能安全白皮书》；赛博研究院联合上海社会科学院互联网研究中心发布报告《人工智能时代的国家安全：风险与治理》；腾讯安全管理部联合赛博研究院发布报告《人工智能赋能网络空间安全：模式与实践》。文末附有三份报告全文下载。

人工智能安全白皮书

摘要

白皮书从人工智能安全内涵出发，首次归纳提出了人工智能安全体系架构，在系统梳理人工智能安全风险和安全应用情况的基础上，进一步总结了国内外人工智能安全的管理现状，研究提出了我国人工智能安全风险应对与未来发展建议。

目录

一、人工智能安全内涵与体系架构

（一）人工智能基本概念与发展历程

（二）人工智能安全内涵      

（三）人工智能安全体系架构  

二、人工智能安全风险分析      

（一）网络安全风险      

（二）数据安全风险

（三）算法安全风险      

（四）信息安全风险      

（五）社会安全风险      

（六）国家安全风险      

三、人工智能安全应用情况

（一）网络信息安全应用      

（二）社会公共安全应用      

四、人工智能安全管理现状

（一）主要国家人工智能安全关注重点

（二）主要国家人工智能安全法规政策制定情况

（三）国内外人工智能安全标准规范制定情况

（四）国内外人工智能安全技术手段建设情况

（五）国内外人工智能重点应用的安全评估情况

（六）国内外人工智能人才队伍建设情况

（七）国内外人工智能产业生态培育情况

五、人工智能安全发展建议

（一）加强自主创新，突破共性关键技术

（二）完善法律法规，制定伦理道德规范

（三）健全监管体系，引导产业健康发展

（四）强化标准引领，构建安全评估体系

（五）促进行业协作，推动技术安全应用

（六）加大人才培养，提升人员就业技能

（七）加强国际交流，应对共有安全风险

（八）加大社会宣传，科学处理安全问题

人工智能时代的国家安全：风险治理

摘要

人工智能正在成为影响人类未来最重要的技术领域，世界各国纷纷出台指导战略，助力人工智能的创新与发展。然而，人工智能作为一项具有颠覆性的技术，其发展过程本身也蕴含着很大的风险与威胁。人工智能技术发展不仅会导致法律、伦理等方面的问题，也会引发国家安全领域的风险与威胁。本报告根据人工智能技术和应用的发展趋势，分析国家在不同领域面对的安全风险，不仅有助于做好安全防范准备，也有助于处理好安全与发展之间的关系。加强对风险的有效应对，可以更好地保障人工智能技术的发展。在此基础上，国家可以从提升风险意识、完善治理体系、加强监管能力和探求国际合作等方面来构建风险分析和应对框架，提升国家安全的韧性。

目录

一、人工智能时代的来临

二、人工智能技术与四大领域的安全风险

（一）人工智能技术对于经济安全的影响

    1、结构性失业风险

    2、贫富分化与不平等

    3、循环增强的垄断优势

（二）人工智能技术对于政治安全的影响

    1、数据与算法的垄断对于政治议程的影响

    2、技术进步与资本权力的持续扩张

    3、技术进步对主权国家参与国际竞争的挑战

（三）人工智能技术对于军事安全的影响

    1、完全自主性武器的广泛应用将带来巨大的军事伦理问题

    2、更加有效的作战体系的出现很可能触发新一轮的军备竞赛

    3、人工智能技术会大大降低战争的门槛

    4、人工智能技术给网络安全问题带来的重大风险

    5、技术本身的安全问题与技术扩散对于全球安全的威胁

（四）人工智能技术对于社会安全的影响

    1、人工智能技术带来的法律调整

    2、思想理念的竞争性发展态势

三、人工智能在国家安全领域的风险应对

（一）提升风险防范意识

    1、感知风险意识

    2、识别风险能力

    3、风险预防能力

    4、风险化解能力

（二）构建安全治理体系

（三）加强监管能力建设

    1、技术标准体系

    2、程序规范体系

    3、法律法规体系

（四）提升国际合作水平

    1、国际法

    2、双边及多边合作

人工智能赋能网络空间安全：模式与实践

摘要

报告从风险演进和技术逻辑的角度，将网络空间安全分为网络系统安全、网络内容安全和物理网络系统安全三大领域；在此基础上，本报告借鉴 Gartner 公司的 ASA 自适应安全架构模型，从预测、防御、检测、响应四个维度，提出人工智能技术在网络空间安全领域的具体应用模式。与此同时，本报告结合国内外企业最佳实践，详细阐释人工智能赋能网络空间安全（AI+安全）的最新进展。最后，本报告提出，人工智能安全将成为人工智能产业发展最大蓝海，人工智能的本体安全决定安全应用的发展进程，「人工」+「智能」将长期主导安全实践，人工智能技术路线丰富将改善安全困境，网络空间安全将驱动人工智能国际合作。

目录

第一章 人工智能技术的发展沿革

(一) 人工智能技术的关键阶段

(二) 人工智能技术的驱动因素

(三) 人工智能技术的典型代表

(四) 人工智能技术的广泛应用

第二章 网络空间安全的内涵与态势

(一) 网络空间安全的内涵

(二) 人工智能时代网络空间安全发展态势

1、网络空间安全威胁趋向智能

2、网络空间安全边界开放扩张

3、网络空间安全人力面临不足

4、网络空间安全防御趋向主动

第三章 人工智能在网络空间安全领域的应用模式

(一) AI+安全的应用优势

(二) AI+安全的产业格局

(三) AI+安全的实现模式

1、人工智能应用于网络系统安全

2、人工智能应用于网络内容安全

3、人工智能应用于物理网络系统安全

报告下载请点击下方链接：