人工智能安全白皮书（2018年）

爱闹硪們

人工智能安全白皮书（2018年）
pdf
前 言
人工智能作为引领未来的战略性技术，日益成为驱动经济社会各
领域从数字化、网络化向智能化加速跃升的重要引擎。近年来，数据
量爆发式增长、计算能力显著性提升、深度学习算法突破性应用，极
大地推动了人工智能发展。自动驾驶、智能服务机器人、智能安防、
智能投顾等人工智能新产品新业态层出不穷，深刻地改变着人类生产
生活，并对人类文明发展和社会进步产生广泛而深远的影响。
然而，技术的进步往往是一把“双刃剑”，人工智能作为一种通
用目的技术，为保障国家网络空间安全、提升人类经济社会风险防控
能力等方面提供了新手段和新途径。但同时，人工智能在技术转化和
应用场景落地过程中，由于技术的不确定性和应用的广泛性，带来冲
击网络安全、社会就业、法律伦理等问题，并对国家政治、经济和社
会安全带来诸多风险和挑战。世界主要国家都将人工智能安全作为人
工智能技术研究和产业化应用的重要组成部分，大力加强对安全风险
的前瞻研究和主动预防，积极推动人工智能在安全领域应用，力图在
新一轮人工智能发展浪潮中占得先机、赢得主动。
本白皮书从人工智能安全内涵出发，首次归纳提出了人工智能安
全体系架构，在系统梳理人工智能安全风险和安全应用情况的基础上，
进一步总结了国内外人工智能安全的管理现状，研究提出了我国人工
智能安全风险应对与未来发展建议。
目 录
一、 人工智能安全内涵与体系架构 ........................ 1
（一） 人工智能基本概念与发展历程 ........................ 1
（二） 人工智能安全内涵 .................................. 2
（三） 人工智能安全体系架构 .............................. 3
二、 人工智能安全风险分析 .............................. 6
（一） 网络安全风险...................................... 6
（二） 数据安全风险...................................... 8
（三） 算法安全风险...................................... 9
（四） 信息安全风险..................................... 12
（五） 社会安全风险..................................... 13
（六） 国家安全风险..................................... 15
三、 人工智能安全应用情况 ............................. 16
（一） 网络信息安全应用 ................................. 17
（二） 社会公共安全应用 ................................. 20
四、 人工智能安全管理现状 ............................. 23
（一） 主要国家人工智能安全关注重点 ..................... 23
（二） 主要国家人工智能安全法规政策制定情况 ............. 26
（三） 国内外人工智能安全标准规范制定情况 ............... 29
（四） 国内外人工智能安全技术手段建设情况 ............... 31
（五） 国内外人工智能重点应用的安全评估情况 ............. 33
（六） 国内外人工智能人才队伍建设情况 ................... 34
（七） 国内外人工智能产业生态培育情况 ................... 36
五、 人工智能安全发展建议 ............................. 37
（一） 加强自主创新，突破共性关键技术 ................... 37
（二） 完善法律法规，制定伦理道德规范 ................... 38
（三） 健全监管体系，引导产业健康发展 ................... 39
（四） 强化标准引领，构建安全评估体系 ................... 40
（五） 促进行业协作，推动技术安全应用 ................... 40
（六） 加大人才培养，提升人员就业技能 ................... 41
（七） 加强国际交流，应对共有安全风险 ................... 42
（八） 加大社会宣传，科学处理安全问题 ................... 43