人工智能安全标准白皮书（2023）.pdfVIP

人工智能安全标准化白皮书 （ 版） 2023 全国信息安全标准化技术委员会 大数据安全标准特别工作组 2023年5月 人工智能安全标准化白皮书 （ 版） 2023 全国信息安全标准化技术委员会 大数据安全标准特别工作组 2023年5月 引 言 人工智能是人类科学技术发展的重要成果，是信息时代向前演进的关键 动力。运用好、发展好、治理好人工智能，让人工智能持续、安全地造福人类社 会，已经成为世界各国的基本共识。 党的十八大以来，在习近平新时代中国特色社会主义思想指引下，我国人 工智能保持了安全、有序、快速的发展进程，在政治、军事、医疗、工业、经济等 领域作用日益关键，已逐渐成为国家和社会的技术支柱。 当前，人工智能发展再一次迈入关键时期，以生成式人工智能为代表的新 技术、新应用不断打破人们对于人工智能的固有认知，也带来了大量网络意识 形态安全、数据安全、个人信息安全等方面新风险、新挑战，化解安全风险、统 筹发展和安全成为重大难题。 贯彻总体国家安全观，全国信息安全标准化技术委员会大数据安全标准 特别工作组坚持发挥标准化工作基础性、规范性作用，开展了一系列人工智能 安全标准化工作，为推动人工智能发展贡献力量。 面对人工智能安全新形势，为全面介绍人工智能安全标准化工作进展情 况，分享相关工作经验，在《人工智能安全标准化白皮书（2019版）》等前期研 究成果基础上，特发布本白皮书。 - I - 人工智能安全标准化白皮书（2023版） 编写单位 中国电子技术标准化研究院 复旦大学 浙江大学 西安交通大学 清华大学 上海商汤智能科技有限公司 中国科学院信息工程研究所 腾讯云计算（北京）有限责任公司 北京计算机技术及应用研究所 华为技术有限公司 阿里巴巴（北京）软件服务有限公司 蚂蚁科技集团股份有限公司 公安部第三研究所 中国科学院自动化研究所 上海燧原科技有限公司 北京百度网讯科技有限公司 国际商业机器（中国）有限公司 北京天融信网络安全技术有限公司 中电长城网际系统应用有限公司 OPPO广东移动通信有限公司 - II - 目录CONTENTS 一、人工智能发展现状……………………………………………………… 1 （一）人工智能技术特点……………………………………………… 1 （二）人工智能应用趋势……………………………………………… 2 （三）人工智能安全属性……………………………………………… 3 二、人工智能安全风险分析………………………………………………… 5 （一）用户数据用于训练，放大隐私信息泄露风险………………… 5 （二）算法模型日趋复杂，可解释性目标难实现 ………………… 5 （三）可靠性问题仍然制约人工智能关键领域应用………………… 6 （四）滥用误用人工智能，扰乱生产生活安全秩序………………… 6 （五）模型和数据成为核心资产，安全保护难度提升……………… 6 （六）网络意识形态安全面临新风险………………………………… 7 三、人工智能安全政策与标准现状………………………………………… 8 （一）国内外人工智能安全战略与政策法规………………………… 8 （二）国内外人工智能安全标准……………………………………… 11 四、人工智能安全