专家评论
位置: 首页  >  专家评论  >  陈智敏:探讨人工智能安全发展的科技伦理及法律问题
陈智敏:探讨人工智能安全发展的科技伦理及法律问题
2021-07-15 18:22:00 作者:赛博研究院 
关键词:人工智能 

新一代人工智能正在与实体经济深度融合,广泛应用于社会民生领域,激发创新活力和社会潜能,成为经济发展的新引擎。

随着我国移动基站、光缆线路、互联网接入端口等物质基础的不断夯实,人口众多形成的海量数据和市场需求的巨大优势,为人工智能广泛应用和深度挖掘提供了持续发展的动力。应该说,我们已经跻身于世界人工智能的第一方阵。但是人工智能发展机遇和安全风险并存,具体体现在以下几点:

  • 数据非法跨境流通可能危害国家主权和国家安全;

  • 数字信息的过度采集和非法使用,可能侵犯公民的权利和隐私;

  • 算法的偏好可能加剧社会的偏见或歧视,威胁公平正义;

  • 机器深度学习难以理解人性的道德,无人驾驶汽车紧急避险等智能决策可能威胁特定人群生命;

  • 人机交互式产品广泛应用所带来的工作、生活、感情等方面的高度依赖,可能威胁社会伦理。

所以说,这不仅是一个技术问题,也是一个安全问题,同时还涉及到伦理、法律和国际规则的相关问题。

目前,人工智能尚处于弱人工智能时代,生产力、生产关系开始面临解构和重塑。无论强人工智能、超人工智能时代是否到来,传统的生活次序可能受到撼动,甚至颠覆。需要对潜在的风险进行预判和研究,用伦理和法律搭建起风险治理框架,为人工智能持续健康安全发展提供可靠的保障。

党的十九届五中全会将人工智能作为具有前瞻性、战略性的国家重大科技项目进行了部署,在百年未有之大变局中,充分利用我国人工智能发展的比较优势,在人工智治理的国际规则制定中占有主动,拥有更多话语权,是提升我国国际竞争力的重要内容,也是我国积极参与全球治理体系,改革和建设的一个重要途径。

党中央国务院和有关部门、研究单位、企业都高度重视人工智能发展中的科技伦理和法律问题,相关研究正在实践中不断探索,也出台了一些相应的法律法规。

全国政协对于这个问题十分重视,2020年专门就人工智能发展中的科技伦理与法律问题成立了一个调研组,专门到安徽、江苏、北京开展了专题调研。2020年12月23日,十三届全国政协第45次双周协商座谈会在北京召开,邀请了有关部委和专家进行了深入协商和探讨,全国政协主席汪洋发表了重要讲话。根据这次会议精神和调研情况,我想就这个机会对人工智能的伦理和法律问题谈几点看法,跟大家共享。

一、要历史辩证全面地看待人工智能发展中的伦理和法律问题

一部人类发展史就是一部科学技术的进步史,科学技术具有创造性、革命性、颠覆性,它既重塑着社会生产力和生产关系,也重构着人们的生活方式和伦理法律次序。任何一项重大的科技创新及广泛应用都会对现有的社会生活伦理法律次序带来不同程度的冲击和挑战。历史上的哥白尼、伽利略的《天体运行论》、达尔文的《生物进化论》都是对当时的伦理法律次序的挑战。

人类社会就是在科技创新与伦理法律规则的对立统一彼此转化中,在二者的冲突平衡再冲突再平衡的螺旋式上升中不断向前发展,不断前进的。文明的发展会不断的推动伦理和法律的发展和变化,农业文明、工业文明,现在的信息文明应该都会带来不同的伦理、不同的相关法律。

所以说,这要提出一个问题,是按照现有的格局去思考还是按照人工智能的发展变化而不断调整、不断重构这些伦理和法律问题,我觉得这是一个关键问题。

二、从国家发展战略高度,制定人工智能发展规划,引导人工智能发展与国家的创新驱动发展战略相衔接

特别是我们的高端制造业,统筹发展和安全的关系,在发展中规范,在规范中发展。要重视人工智能红利形成的数字鸿沟、贫富鸿沟等社会财富分配的问题。

人工智能发展引发的就业问题,这些科技伦理和法律问题的研究,要构建起多部门协同、多学科融合、多元主体参与的风险治理和规则治理的研究框架和工作体系,这靠一个部门是不行的。

三、弘扬科技向善的理念

在科技人员中要树立扬善避恶造福人类的道德标准和道德底线,针对深度伪造技术可能引发的政治风险、社会风险,影响国家安全和国际社会安全,个人信息被窃取、盗卖可能引发的刑事犯罪。

现在我国电信诈骗案件处在高发期,每年平均上升30%,有的地方已经占了整个刑事案件的一半以上,超过传统的盗窃案件。

数据投毒导致人工智能系统的误判,危害社会公共安全,如卫生医疗、道路交通等问题。从法律法规上建立起数据权属、数据确权问题、数据安全保障、算法安全审查等制度,为人工智能发展形成正确的价值导向和稳定的社会预期提供有力保障。

四、构建人工智能伦理法律体系,必须要坚持以人民为中心的理念

这是我们总书记反复强调的,发展人工智能必须坚持人民至上,以人民为中心,以实现共同富裕为目标。在增进人民福祉的同时,解决好人民群众反映强烈的突出问题,绝不能损害群众的身体健康和生命财产安全,不能侵害广大消费者的合法权益,不能沦为不法资本利益集团谋取不正当利益的工具,不能形成数据算法和算力的垄断。反平台经济垄断实质是算力算法的垄断。准确判断出是否涉及到人民的切身利益,这是底线。我们要从制度上维护最广大人民群众的根本利益,让人工智能创造的社会财富,为全体社会成员共享共用,这是我们社会主义制度的属性所决定的。

五、在人工智能伦理、法律体系的国际规则制定中,要发挥引领作用

我们要走出自己的人工智能伦理法律路子,要建设有中国特色的体系,要胸怀世界百年未有之大变局和中华民族伟大复兴战略全局,立足中国国情,构建符合中国实际的伦理法律框架;立足先发优势,在人工智能治理国际规则的制定中积极参与,并发挥引领作用,为构建习总书记提倡的人类命运共同体,为人工智能全球治理体系的新规则、新次序、新格局,贡献出中国智慧和中国方案。