随着2018世界人工智能大会开幕在即，数十位全球AI顶级科学家、百位国内外龙头企业CEO、上千家创新企业将陆续来到上海黄浦江畔。

徐汇的西岸艺术中心作为大会的主会场，将汇集最前沿的AI技术塑造科幻感十足的沉浸式感官盛宴，带领参会观众瞬间穿越到与机器共生的“未来世界”。

而在一江之隔的国际会议中心，一场高端对话也将严肃地审视人工智能发展过程中的安全和伦理问题。人工智能是否有失控的风险？未来的机器人是否会形成自主意识，挑战人类的主体地位？人与机器的从属关系是否会发生错位？“阿尔法狗”战胜全球顶尖围棋高手，人工智能在智力上是否真正能超越人类极限？全球第一个机器公民“索菲亚”的诞生，“她”是否享有与人类公民同样的权力？

人工智能会颠覆人类主导地位吗？

同样作为第四次工业革命的重要标志，人工智能极大地解放了社会生产力，产业规模迅速扩大，也带来了重大的经济、文化、政治、伦理、法律、安全等方面的巨大变化；但也由于人工智能技术的不成熟、滥用、漏洞和管理模式的不成熟等原因，人工智能安全事件频发，如无人驾驶造成车祸，智能化军事武器的应用引发了公众巨大担忧。

人工智能在设计之初就应该与社会伦理相结合，遵循人类的道德规范和逻辑，一旦发生偏差极容易造成严重后果。安全伦理研究不仅仅保障的是人的隐私权、自主权，更是保证人工智能在人类限定的系统范围内开展工作，并能够承担道德责任甚至是法律责任。因此设计出符合人类道德规范的人工智能，是科学家、哲学家和企业家们都不可忽视的问题。

人工智能对国家安全意味着什么？

人工智能是维护国家安全的的核心技术之一，在国防、军事、网络安全等反面有着广泛的应用，各国纷纷抢占该领域的制高点，发达国家利用人工智能的技术优势，不断调整国家安全战略，扩大与其他国家之间的安全力量优势，而基于人工智能的技术差距改变国家间力量的对比，进而影响全球和平与稳定。以美国为代表，美国国防部计划在5年之内投资20亿美元用于人工智能新项目的开发，目的在于增强国防实力。从国家战略、技术变革、产业发展等多角度研判人工智能技术对国家安全博弈的影响，对于探寻人工智能与国家安全的关系将有重要意义。

人工智能将怎样助力网络安全？

正如一个硬币的两面，人工智能技术具有双面性。一方面，凭借其强大的运算能力，以人工智能为驱动的网络攻击威胁的可能性越来越大，同时它将赋能自动化武器，使其攻击能力从网络空间向物理空间扩散；另一方面，机器学习大大缩短了人类分析网络攻击事件所需的时间，能够做到快速响应，同时也为应对网络安全中存在的信息泄露、隐私安全、预防犯罪等问题提供了方案。如何趋利避害，积极推动人工智能安全技术发展，防范网络空间安全风险，是人工智能安全发展研讨的重点。

作为世界人工智能大会的重要分论坛之一，9月18日，2018世界人工智能大会·人工智能安全高端对话将于上海国际会议中心举办。本次高端对话由上海赛博网络安全产业创新研究院和中国信息通信研究院安全研究联合承办，腾讯公司安全管理部、上海社会科学院互联网研究中心、《探索与争鸣》杂志社共同协办。对话以“安全”为核心，将聚焦人工智能安全伦理规范、人工智能重塑国家安全、人工智能助力网络安全这三大议题，邀请来自国内外高校、智库的专家学者及产业精英围绕议题从经济、政治、社会伦理等多个不同的角度展开对人工智能技术失控、自动驾驶安全、智能算法歧视、人工智能隐私保护、自动化武器、人工智能国家安全与军事博弈、人工智能打击网络犯罪等方面的精彩讨论。届时，对话将发布《全球人工智能安全发展上海倡议》；《人工智能安全白皮书》《人工智能时代的国家安全》《人工智能助力网络安全：模式与实践》三份报告也将重磅出炉，以期为中国人工智能产业的持续健康发展提供战略性建议，为人类社会共谋福祉。

附：2018世界人工智能大会·人工智能安全高端对话部分特邀嘉宾精彩解读

中国互联网发展基金会理事长马利女士从事新闻事业二十多年，见证了中国新媒体的成长，她指出，“近年来，全球范围内都掀起了人工智能发展应用的新浪潮”，“人工智能给社会创造价值的同时，也会给人类社会带来挑战”，“人工智能技术的出现应该是更好地造福人类，推动人类文明的进步”。

何积丰院士是我国著名的计算机软件专家，其一系列研究成果在国际计算机科学领域具有重要影响。何积丰认为，人工智能技术“既是盾又是矛”，它帮助建设行业体系，使网络行业从过去的被动转到如今的主动，但人工智能技术广泛应用的同时也给不法分子提供可乘之机。

伊莱克利·伯利兹强调，人工智能和机器人技术与其他技术一样不存在好坏之分，最终都是可以用来实现目标的工具，“人工智能带来的风险和益处是交织在一起的，而且不论人工智能能否结束贫困或者引发一个新的犯罪和恐怖时代，都取决于今天所作出的决定”。

保罗•特里奥洛长期追踪中国的技术创新情况，他指出人工智能不仅仅是另一种产品或服务，也是一项基础升级技术。在近期的一份报告中，他认为，“人工智能数据将是中国的核心优势，而且是其他国家无法超越的”，“在快速创新的年代，中美人工智能双寡头的局面不但不可避免，其实已然到来”。

中国信息通信研究院副院长王志勤表示，人工智能能够催生新技术、新产品、新产业、新业态、新模式，未来人工智能广泛深入到社会生产生活之后，也将可能带来伦理问题。但她对人工智能未来的发展和将给人类带来的美好明天表示期待。

王飞跃是国际上智能控制方面的知名学者，也是智能机器人、无人驾驶、智能交通等领域的早期开拓者之一。他提出的“平行系统”概念在人工智能领域具有重要的理论意义。对于人工智能可能带来灾难的悲观论调，王飞跃不以为然。他认为，“算法能写清楚的智能，永远小于人类语言能表达的智能，人类语言能表达的智能，又远小于你所想象的”，“机器人和人工智能只是让我们人类生活变得更舒适的工具和手段”。

陈实在微软7年期间，推动多个商业项目及合作在中国的落地，包括Azure云计算在中国商用，使微软成为首个在国内提供公有云服务的国际云服务提供商。他提出，如今人工智能发展的核心在于情商，但“即便是拥有了情商的人工智能，对其正确的理念仍然应该是确定人工智能是作为人类能力的有益补充，而并不是人类能力的替代”。

冯俊兰女士是大数据和人机交互领域专家，熟悉人工智能在移动通信领域的发展趋势。“虽然AI带来的前景很好，但我们在一项一项推进的过程中，困难亦不少”，“例如深度学习、迁移学习，训练出来的模型要放到开放场景或者转到另外一个场景中用，就会碰到很多问题”。关于通信领域的人工智能发展，她表示，“通信网络正在向5G、网元虚拟化（NFV）、软件定义网络（SDN）等方向演进，人工智能将是下一代网络的重要使能技术”。

军事战略专家朱启超指出，“从世界局势来看，世界各国尤其是军事强国都在抢先布局人工智能，美、俄等国家政府部门均发布了人工智能相关战略或规划，彰显国家层面对人工智能的高度关注”，“各类智能化无人系统与作战平台将在地面、空中、水面、水下、太空、网络空间以及人的认知空间获得越来越多的应用，深刻改变未来战争人工智能的技术比重”。

与技术专家不同，高奇琦教授更关注人工智能的社会学意义。他认为“人工智能具备的颠覆性意义，已经远远超出了自然科学的范畴，必将影响到未来的社会结构，深刻改变我们的生活。这种颠覆最直接的表现之一可能就是就业领域”。“对这样一个可能具备空前颠覆性意义的技术发明，我们的社会和大多数人还没有做好准备去面对可能到来的冲击”，“每一个非自然科学的学者，甚至普通人，都应勇于跨界，关心和讨论人工智能的发展，参与未来规则的制定——这关系到每一个人的福祉”。