背景

2020年3月1日，《网络信息内容生态治理规定》（以下简称《规定》）正式施行，旨在加强网络生态治理，进一步推动了网络综合治理体系的建立和健全。该规定在强调政府、企业、社会、网民等主体共同治理网络信息内容的同时，也及时回应了算法推荐、深度伪造、流量造假、网络暴力等热点问题。本文就《网络信息内容生态治理规定》中涉及的算法推荐、深度伪造、流量造假、网络暴力等互联网新技术相关的突出问题，从全球视野进行比较分析，以期能够为科学合理治理互联网新技术提供有益借鉴。

一、 算法推荐引发负面影响，风险防范与技术和产业发展的平衡需要分级分类监管和多元治理

近年来，随着人工智能算法推荐的广泛应用引发的虚假信息、用户隐私、信息茧房、算法歧视等负面影响的持续发酵，我国相关立法和标准开始关注算法推荐。此次《网络信息内容生态治理规定》进一步明确算法推荐与人工编辑相结合的信息分发方式，第12条要求建立体现主流价值导向的推荐模型，建立健全人工干预机制，建立用户自主选择机制，进一步回应了算法推荐的相关问题。

国外也开始多举措规范包括算法推荐在内的算法决策应用。例如，欧盟《通用数据保护条例》（GDPR）通过赋予用户选择和控制权限来解决用户画像和自动化决策中的隐私问题，除此之外并没有给算法推荐等自动化决策提出其他更多的监管要求。美国《加利福尼亚州消费者隐私保护法案》(CCPA)对于个人信息的处理则继续沿用“opt-out机制”，即除非用户拒绝或退出，则公司可以继续处理用户的个人信息，对消费者而言更为实用，也更有利于市场发展和市场竞争。

整体而言，国外对于算法决策确立了分类分级的监管思路：分类即针对政府和公共部门使用的算法系统和商业领域的算法系统建立不同的监管，前者需要较强的事前监管，如欧盟提出针对前者建立“算法影响评估”机制[2]；分级即对于一般的商业算法系统如定向推送、个性化广告等采取事后追究法律责任的方式，但对于具有与政府和公共部门的算法系统应用类似的重大影响的商业算法系统可考虑一定程度的事前监管。此种分类分级监管方式避免给企业带来不成比例的成本和管理负担，有助于推动人工智能应用发展。此外，非监管的方式例如算法素养、伦理指南及伦理审查、技术标准和指南、用户控制等柔性方式，也将发挥重要作用。

二、深度伪造给网络内容治理带来新挑战，监管需要防范技术滥用，同时留出发展空间

《规定》第23条规定，网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。这一规定给今年备受国内外关注的“深度伪造”技术划定了应用边界，同时为行业探索有益应用场景留出了发展空间。

深度伪造和合成内容给网络平台治理带来了新挑战，主要表现为利用深度学习等人工智能技术伪造或合成高度逼真且真假难辨的图片、音频、视频来进行欺骗和欺诈，如色情报复、敲诈勒索、假冒身份、散布虚假信息等，给个人和企业利益以及公共安全带来威胁。而且深度伪造生成方法开源软件不断增多，极大地降低了操纵、伪造音视频的门槛。

全球来看，美国最早对深度伪造进行规制，今年以来，美国尤其担心深度伪造对2020年大选和国家安全的影响，开始探索立法应对措施，防范潜在滥用风险。2019年6月，美国国会先后提出了两部法律草案《深度伪造责任法案》和《2019年深度伪造报告法案》。此外，美国的加州、德州、马萨诸塞州、弗吉尼亚州等也陆续推出了相关立法。

综合国内外监管趋势来看，遏制深度伪造技术的滥用需要多方主体共同努力，采取分类分场景监管、行业自律、技术对抗、数字素养提升等多元化的举措，在防范风险的同时促进深度伪造技术妥善利用。在合理有效、灵活敏捷的监管之外，还需重视以下两点：一方面，探索更多有益运用场景，提振产业发展信心。另一方面，从源头要求制作者对深度伪造进行标注，同时鼓励行业开发应用检测识别技术，推动建立相关技术和行业标准。

三、流量造假行为被纳入禁止性规范，技术管网遏制流量经济野蛮生长

《规定》第24条规定，网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得通过人工方式或者技术手段实施流量造假、流量劫持以及虚假注册账号、非法交易账号、操纵用户账号等行为，破坏网络生态秩序。这一规定将流量造假等行为列为破坏网络生态秩序的禁止性行为，有利于规范数据利用，从源头制止流量造假。

流量是网络文化的重要指标之一。流量经济时代，流量劫持、流量造假等问题开始挑战传统法律。流量造假纠纷不仅发生在个人主体之间，平台间的流量之争则更加复杂。

整体而言，流量造假背后已经形成了巨大的灰色利益链条，从线上到线下需要更加严密的监管体系。首先，平台可以加强流量监控合作，形成全平台联动打击。其次，大力发展互联网内容产业，丰富网络评价体系，告别“唯流量论”。再者，提高违法成本，有效震慑流量造假行为。

三、网络暴力成诸多恶性事件导火索，监管之外还需引导理性上网

《规定》第21条针对网络暴力做出专门规定，明确禁止利用网络和相关信息技术实施侮辱、诽谤、威胁、散布谣言以及侵犯他人隐私等违法行为，违反该规定将依照相关法律、行政法规处理。网络暴力在新技术背景下具有新的发展趋势，如人工智能被用于实施色情报复等，该规定有助于净化网络环境、维护健康的上网秩序，并规范新技术的应用。

互联网在为用户提供充分表达空间的同时，非理性的声音也极易通过网络发酵，造成大规模网络行为失范。以网络暴力、隐私泄露等为典型，网络暴力主要表现网络欺凌、网络跟踪以及网络骚扰。

网络暴力成因复杂、牵涉面广，对暴力信息往往难以及时介入和监管。首先，互联网的复合性传播方式为网络舆论发酵提供了便利。其次，网络暴力信息界定模糊，难以及时发现并处理。整体而言，目前针对网络暴力的治理仍以事后监管为主，对网暴事件发生的施暴引导者、不实信息散布者及事件背后的组织策划者等关键对象进行惩治。引导用户理性上网，提升网民素养是从源头消解网络暴力的必要手段。

四、结论：探索新技术治理的中国模式，为新技术应用营造良好的制度土壤

就我国而言，防范新技术新应用相关的风险，已经成为了我国互联网治理的重要内容，需要明确整体上的治理思路和路径。如前所述，在中美欧引领互联网竞争的国际背景下，对于新技术新应用欧盟采取了更为侧重监管的路径，而美国相对宽松的监管环境在新技术背景下不大可能发生大的改变。以此为出发点，我国在监管新技术新应用的时候，需要考虑国际竞争视角和新技术新应用的社会经济效益，兼顾监管治理需求、防范风险、权益保护与技术创新、产业发展等。更进一步而言，在实践层面，多层次的治理体系比单一的监管和法律更能适应人工智能等新技术快速发展迭代、日益复杂化的特征，行业标准、自律公约、技术指南、最佳实践、伦理框架、伦理教育和技术素养等都将发挥更大的作用。在监管方面需要“疏堵结合、包容审慎、敏捷灵活”的方式，“疏”即破除新技术应用面临的法律障碍，如自动驾驶汽车、人工智能医疗等面临的传统监管障碍，构建新的监管框架；“堵”即明确应用边界，并以包容审慎、敏捷灵活的方式防范风险，保障技术和产业发展空间。

作者简介

张钦坤，腾讯研究院秘书长

曹建峰，腾讯研究院高级研究员

本文来源自《信息安全与通信保密》杂志2020年第2期专题文章，文章内容有删减。如需转载请获得授权。联系方式：public@sicsi.org.cn