前段时间，一些视频在网上广泛传播。有人在1994年电视剧《射雕英雄传》中使用人工智能技术，将黄蓉一角的扮演者朱茵换成了杨幂，效果几可乱真。

人们看了之后，大多当做网络段子一笑而过，但仔细想想的话，如果你的脸也被用来制作假视频、假新闻，你还能笑得出来吗？

实际上，人工智能技术的滥用和因算法漏洞引起的安全问题，已经引起了业内人士的高度警觉，一场看不见硝烟的“攻防战”，正日趋白热化。

危险逼近

人工智能正深刻地改变着人们的生产生活方式，但今年以来，利用人工智能技术造假的新闻屡见报端，也引发了越来越多的公众关注。

公众对人工智能技术抱有希望和想象，相信它能为生活的方方面面带来改变，但我们也应当正视，当前人工智能技术还处在比较初步的发展阶段，还面临着一些挑战。

冰冻三尺非一日之寒。早在几年前，学术界和产业界已经感受到危机在悄悄逼近。

这几年在各种各样的学术会议上，我们能听到越来越多关切的声音，有关人工智能安全的论文也是呈指数级增长。

人工智能滥用也已引起国家有关部门高度关注。5月28日，国家互联网信息办公室发布了《数据安全管理办法（征求意见稿）》，其中明确表示，网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明“合成”字样；不得以谋取利益或损害他人利益为目的自动合成信息。

除了技术的滥用，人工智能本身存在的算法漏洞也令人担忧。几个月前，比利时鲁汶大学的研究人员发布了一则视频，实验者通过在肚子上贴一张打印出来的图片，就能够逃脱智能监控系统的识别，实现“隐身”；而想要把“隐身术”传给同伴也很简单，只要把这张纸递给他就好了。

可以设想，如果这项技术被犯罪分子掌握，他们就能够很容易躲避智能安防系统，给公共安全带来极大威胁。

“道”高一尺必先“魔”高一丈

以“一个核心、两个融合”作为发展战略，即以人工智能基础理论和基本方法研究为核心，积极推进大跨度的学科交叉融合，积极推进大范围的技术与产业、学校与企业融合。

但是人工智能又与应用结合相当紧密，因此我们的研究一定要产生出算法、孵化出新产业，甚至成为人工智能界的‘BAT。

在这一思路的指引下，致力于打造安全、可靠、可解释的第三代人工智能，提供工业检测、预测性维护、金融风控、人工智能系统安全评测与防护等服务。

在技术层面，人工智能安全会是一个持续攻防的过程。攻击者会采用新的方法来进行攻击，而防御者也需要适应动态变化的攻击场景。如果要占据主动权，就要对未来可能潜在的攻防场景做预演，并为应对潜在的风险提前设计可行方案。

但是，想练就一副“火眼金睛”，就需要大量高质量的数据去训练计算机。

打开“黑盒”

张钹在2016年中国计算机大会上提出了“后深度学习时代的人工智能”，此后又进一步提出了“第三代人工智能”的概念，曾引起广泛关注。

这是因为当前主流的基于深度学习的人工智能技术即第二代人工智能，存在着一个难以逾越的“天花板”，业内人士称之为“黑盒”。

当前人工智能的算法越来越复杂，它告诉你明天要下雨，但是你完全不知道它是怎么做的决策，又谈何信赖呢？如果被人利用，“黑盒”将带来严重的安全问题。

人工智能安全平台——“RealSafe对抗攻防平台”，它能够提供多种攻击与防御算法，开展全面、细致的攻击防御算法的评测与比较。此外，通过该平台，研究人员可以很容易地开展人工智能安全方面的学习和实训，帮助更多的人来关心和研究人工智能安全。

随着人工智能技术渗透到人们生活的各个方面，因技术滥用、算法漏洞等导致的安全问题也随之而来。对此，公众需要提高自我保护意识。

显然，人工智能的“无间道”还将长时间上演。但可以肯定的是，这条螺旋式上升的路，终会将人类带往一个充满想象力的未来。