聚焦人工智能大模型可信治理 | “何以杨数浦”品牌沙龙第二期精彩回顾

2025年1月13日，“何以杨数浦”数字经济合规发展品牌沙龙第二期活动在杨浦区长阳创谷成功举行。

本期沙龙围绕“智启未来：多视角下的人工智能大模型可信治理”主题，专家们聚焦人工智能安全合规领域，开展深入交流，吸引了一批人工智能、数字经济领域企业参与。

会上，安永联合上海市人工智能与社会发展研究会重磅发布了《可信人工智能治理白皮书》。安永风险管理与决策创新咨询服务合伙人张楠驰深入解读了《可信人工智能治理白皮书》的关键内容，并着重指出，在人工智能领域，信任是至关重要的基础。可信的人工智能不仅要在技术上表现出可靠性，更应在伦理道德上经得起考验，它必须在尊重人权、保护隐私、确保公平正义的前提下，为社会带来正面的影响。因此，构建一个全面且有效的AI治理体系，对于确保人工智能技术的健康发展至关重要。

据介绍，白皮书主要对比分析欧盟、美国和中国的AI治理体系，探讨AI技术的发展趋势和监管动向，并提出以安全、公平、透明为基石的九项可信人工智能发展原则；同时，白皮书中分享了企业级AI在算法、内容、资质等方面的合规责任和操作指南，并且提出优化覆盖AI全生命周期的风险治理策略等。

嘉宾分享环节，上海赛博网络安全产业创新研究院高级研究员李宁深入解读了《关于人工智能“模塑申城”实施方案》，并对上海在推动人工智能领域政策支持方面的具体措施进行了详尽的阐释。李宁指出，该方案特别聚焦于金融、制造、教育、医疗、文化与旅游、交通以及城市治理等多个关键领域，通过建立智能算力集群、语料库体系、虚实融合实训场以及行业基座大模型等关键基础设施，进一步推动人工智能大模型在垂直行业的广泛应用。

上海市信息安全测评认证中心创新研究院项目主管范劭林以“生成式人工智能服务合规工作指引”为主题进行分享，强调企业应对已备案的基础模型及其生成内容的安全性、准确性和可靠性进行定期评估，以确保生成内容符合科学常识和主流认知，从而降低错误内容的产生风险。此外，企业还需定期检查其在服务透明度、用户信息保护、服务稳定性等方面的安全措施是否充分。

Uplifeting创始人兼首席执行官佘汀涛、虚沅数（上海）网络信息科技有限公司创始人高海宁分别围绕“从中国制造向中国设计转变”“大语言模型私域化与数字员工应用开发”两个方面，分享了企业在AI大模型方面的实践。

在活动最后，嘉宾和现场观众聚焦人工智能的安全合规管理、发展方向以及未来趋势等主题进行深入交流，为本次活动拉下圆满帷幕。

本次沙龙由上海市杨浦区委网信办主办，上海赛博网络安全产业创新研究院承办，上海启迪之星、杨浦区互联网发展协会、上海社会科学院互联网研究中心、安永（中国）企业咨询有限公司共同协办。自2024年12月启动以来，“何以杨数浦”数字经济合规发展品牌沙龙采取线下形式，每月1期，共计12期。主要面向杨浦区及上海市数字经济企业管理层、法务、技术等相关从业人员，围绕数据经济合规有关主题，邀请产学研机构专家进行分享交流。