（来源：江苏省科协）
人工智能发展的势头越来越猛，由此也引发了各界人士对安全问题的深思，人文学科领域的学者从道德伦理与哲学规范的角度对安全问题提出了担忧，人工智能技术领域的学者也从系统安全的角度对安全问题进行了剖析。最近，中国工程院院士、中国电子信息产业集团首席科学家方滨兴发表学术论文《人工智能安全之我见》，详细阐述了人工智能在哪些领域会产生危险，如何通过技术革新平衡人工智能与安全之间的发展问题。
人工智能技术存在着巨大的安全性挑战。目前人工智能系统还无法超出固有的场景或对特定语境的理解，人工智能技术在下棋或游戏等有固定规则的范围内一般不会暴露其脆弱性，当环境数据与智能系统训练的环境大相径庭，或者实际的应用场景发生变化，或者这种变化超出机器可理解的范围时，人工智能系统可能就立刻失去判断能力。美国智库“新美国安全中心”最近发布的《人工智能：每个决策者需要知道什么》报告显示，人工智能的一些弱点可能对国家安全等领域造成巨大影响。
当前，人们已经开始关注人工智能自身的安全问题，霍金曾经在2015年8月与美国Reddit网的问答互动中，提出了人工智能“威胁论”的观点，后又曾多次在世界知名期刊撰文强调类似看法。比尔·盖茨称，人类在人工智能领域已经取得了很大进展，这些进展能让机器人在接下来的10年内学会驾驶和做家务，在一些特定的领域甚至能比人类优秀。但是之前他曾经提出警告，“人工智能如果进展太快，可能会对未来的人类造成一定威胁”。特斯拉创始人马斯克在Code大会上也预测智能机器人未来，他认为未来人类生活将离不开虚拟现实技术，而这一技术的高度发展将使人类很难分辨出真实与游戏的区别；加之人工智能的飞速发展，人类智商将会止步不前；最为严重的后果是机器人反超人类成为实际运营世界的主体，人类在机器人心中可能如宠物一般的存在。
人工智能作为最具颠覆性和战略性的核心关键技术，持续引起全球产业界、学术界和各国政府的高度关注。当前，人工智能技术在安全领域的应用需求日益迫切，同时，人工智能自身的安全问题也不容小觑，安全与人工智能并举，双方的融合发展与创新是我国强国战略中不可忽视的重要助推因素。（金鑫）