2024前沿人工智能安全的最佳实践：面向中国机构的研发实践案例与政策制定指南-人工智能合作与治理国际论坛.doc

执摘要

执摘要

前沿智能安全已成为全球和中国重点关注的议题

2023年1018，习近平主席在第三届“带路”国际合作峰论坛开幕式主旨演讲中宣布中将提出《全球智能治理倡议》1，重申各国应在智能治理中加强信息交流和技术合作，共同做好险防范，形成具有泛共识的智能治理框架和标准规范，不断提升智能技术的安全性、可靠性、可控性、公平性。2023年1026，联合国秘书古特雷斯宣布，联合国正式组建个新的“智能级别咨询机构”2，以探讨这项技术带来的险和机遇，并为国际社会加强治理提供持。2023年111，中国、美国在内的28个国家和欧盟，共同签署了《布莱切利智能安全宣》3，致认为前沿智能技术可能会引发巨险，尤其是在络安全、物技术和加剧传播虚假信息等。

此前的2023年428，中共中央政治局会议明确提出，要重视通智能发展，营造创新态，重视防范险4。2023年710，国家信办等七部联合公布《成式智能服务管理暂办法》5。随着前沿智能的快速发展，按照《关于加强科技伦理治理的意》6、《新代智能治理原则》7、《新代智能伦理规范》8等治理件，社会应积极落实对更级智能的潜在险研判和防范，确保智能安全可靠可控，推动经济、社会及态可持续发展。

中央信办,“全球智能治理倡议”,2023-10-18,/vvvv-vv/vv/c_vvvvvvvvvvvvvvvv.htm.

2联合国,“秘书组建级别咨询机构，全球39名专家共商智能治理”,2023-10-26,/zh/story/vvvv/vv/vvvvvvv.

3UKGovernment,“CountriesagreetosafeandresponsibledevelopmentoffrontierAIinlandmarkBletchleyDeclaration”,2023-11-01,.uk/government/news/countries-agree-to-safe-and-responsible-development-of-frontier-ai-in-landmark-bletchley-declaration.

4新华社,“中共中央政治局召开会议分析研究当前经济形势和经济作中共中央总书记习近平主持会议”,2023-04-28,/yaowen/vvvv-vv/vv/content_vvvvvvv.htm

5国家信办等七部,“成式智能服务管理暂办法”,2023-07-10,/zhengce/zhengceku/vvvvvv/content_vvvvvvv.htm.

6中共中央办公厅、国务院办公厅,“关于加强科技伦理治理的意”,2022-03-20,/zhengce/vvvv-vv/vv/content_vvvvvvv.htm.

7国家新代智能治理专业委员会,“新代智能治理原则发展负责任的智能”,2019-06-17,/kjbgz/vvvvvv/tvvvvvvvv_vvvvvv.html.

8国家新代智能治理专业委员会,“新代智能伦理规范”,2021-09-25,/kjbgz/vvvvvv/tvvvvvvvv_vvvvvv.html.

I

前沿智能安全的最佳实践

推动前沿智能安全的作刻不容缓

GPT-v等前沿模型展现出强的涌现能，在多领域逼近类平。同时，模型为多个技术向带来新的发展空间，包括多模态、主智能体、科学发现等能。模型能在未来年内仍存在数量级进步的空间。Inflection在未来18个内将使当前前沿模型GPT-v100倍的计算量。Anthropic预计在未来的5年于训练最模型的计算量将增加约1000倍。由于模型的涌现能9，这些更先进智能系统所带来的机遇和险具有巨不确定性。

短期内，社会需要积极预防智能所带来的络安全、物安全和虚假信息的滥险。与此同时，智能正获得越来越强的社交操纵、欺骗和战略规划等潜在危险能，未来先进的主智能系统将带来前所未有的控制挑战。对科技伦理和公共安全的重险，社会应该具备底线思维，凡事从最坏处准备，努争取最好的结果。

全球智能安全峰会中讨论了应对潜在险的智能安全级别(ASL)框架，参考了处

理危险物材料的物安全级别(BSL)标准10，基本思想是要求与模型潜在险相适应的安

全、安保和操作标准，更的ASL级别需要越来越严格的安全证明。预计未来半年内，我国