对于人工智能，我们必须认识到，它跟以往我们讨论的所有科学技术都不一样。现在人类玩的最危险的两把火，一把是生物技术，一把就是人工智能——生物技术带来很多伦理问题，但是那把火的危险性还没有人工智能大，人工智能这把火现在最危险。最近一些商业公司，通过“人机大战”之类的商业炒作，一方面加剧了这种危险，但另一方面也激发了公众对人工智能前景的新一轮关注，这倒未尝没有好处。

我们可以把人工智能的威胁分成三个层次来看：近期的、中期的、远期的——也就是终极威胁。

近期威胁：大批失业、军事化

人工智能的近期威胁，有些现在已经出现在我们面前了。近期威胁基本上有两条：

第一条，它正在让很多蓝领工人和下层白领失去工作岗位。现在较低层次的人工智能已经在很多工厂里被大量采用。有些人士安慰人们说，以前各种各样新的技术被发明时，也曾经让一些工人失去岗位，后来他们不都找到新的岗位了吗？但是我认为人工智能不一样。媒体曾放过这样的消息，包括人工智能的从业者自己也都在欢欣鼓舞地展望，说人类现在绝大部分的工作岗位，人工智能都是可以替代的。果真如此，显然这个社会将会变成绝大部分人都没有工作的状态。对于这样的社会，人类目前没有准备好。今天如果有少数人没有工作，多数人有工作，多数人养着少数人问题不大，这样的社会是我们现有的社会制度和伦理道德结构能够承受的。但是如果颠倒过来，这个社会中有相当大的比例——且不说超过50%，按照那些对人工智能的展望，将来90%以上的工作岗位都会被人工智能取代。比如说人们想听一场报告，找个人工智能来做就可以了，说不定比现在的听起来还要来劲。

电动汽车特斯拉的生产流水线已经大量使用机械手臂

当这个社会大部分人都没有工作的时候，社会会变得非常不稳定。那么多没有工作的人，他们可以用无限的时间来积累不满，酝酿革命，于是就会危及社会稳定。无论东方还是西方，无论什么意识形态的社会制度，在这个形势面前都将黯然失色。所以说人类还没有准备好。

顺便再展望一下，既然90%以上的工作岗位都可以由人工智能来取代，那么“革命战士”这种工作岗位能不能由人工智能来取代？革命能不能由人工智能来发起和进行？当然也可能。但是想想看，这样的革命会带来什么呢？很简单，那就是科幻影片《黑客帝国》和《未来战士》中的世界——人类被人工智能征服、统治、压迫。

这是人工智能近期的第一个威胁，现在在很多工厂已经出现了。对工厂来说，这个级别的人工智能是很容易实现的。那些工厂的管理者说，我们换一个[机器人]上来，它的成本只不过是三个工人一年的工资，但是它们管理起来太容易了。管理工人很难，你让他加班他不愿意，加得多了他可能跳楼自杀或上街游行，而机器人你让它24小时一直干着都没有问题，管理成本又节省下来——管理成本往往是无形的，不那么容易计算。换用机器人很容易就可以收回成本，也许一年就收回来了。所以他们乐意用机器人取代工人。一些地方政府还通过政策鼓励当地的工厂用机器人来替代工人，换个角度想想，城市这样发展下去，不需要几年，几百万工人失去工作，到那个时候后悔就来不及了。

人工智能第二个近期的威胁，是由加入军队的人工智能带来的。但现在以美国为首的某些发达国家，最起劲的事情就是研发军事用途的人工智能。研发军事用途的人工智能本质上和研发原子弹是一样的，就是一种更有效的杀人手段。为什么埃隆·马斯克等人也号召要制止研发军事用途的人工智能，道理很明显：研发军事用途的人工智能，就是研发更先进的杀人武器，当然不是人类之福。