人工智能会不会带来世纪灾难?

新一轮人机大战落幕,中国围棋国手柯洁落泪,因为他无法接受以0:3的比分落败。

这一消息的讨论余热还没有退去,又一个关于人工智能(AI)的爆炸性消息传来。近日,Facebook在实验中让两个AI聊天机器人互相对话,发现机器人竟逐渐发展出人类无法理解的独特语言。看到此情景,研究人员不得不对其进行人工干预。

Facebook在研究报告中指出,机器人有时可以很好地胜任客服谈判的角色,甚至懂得使用“先假装而后承认”的对话策略。但是实验中机器人自行发展出新语言让人不安,人们或许可以从中一窥未来世界的样子。语言被认为是人类独有的技能。Facebook的聊天机器人的表现刷新了人们的认知。

作为人类,面对这样的消息,显然不能以“机器人是人制造的,最终还是受人控制”这样自欺欺人的逻辑来安慰。机器人有独立意识后,一旦它们在商量怎么摆脱人类的约束,人类该怎么办?

前几天,看到杨小刚先生在第一财经APP发表了《阿尔法狗炒股摸彩票一定能战无不胜吗?》,对人工智能会否给人类带来灾难表达了积极乐观的态度,我其实同意该文很多观点,如机器可能超越人类,但却无法取代人类;如应该为技术文明的飞跃欢呼,以及由此还可以引发人类终极话题的重新思考等。

这样的乐观当然是有强大理由的,因为人类毕竟在风雨跌撞中走过了几千年,拥有了今天的繁荣与自信。这篇文章倾向于相信这样一种哲学:人工再怎么发达,都不可能超越人类,世界虽然是客观存在,但人类所及只是人类思维的主观反映结果,如果有一种人类人工可以超越人类,则意味着其已经进入超验范畴,那就是人可以造神,而不是神造人了。

乐观的理由虽然不少,但我觉得悲观的理由也可以找出一箩框。而且这种“乐观”很大可能会建立在巨大灾难的基础上,即表现为所谓风雨过后的“彩虹”,至于“彩虹“之前的“暴风雨”会是怎样烈度的肆虐,从人类有过的无数次的战争灾难来看,我想没有人会愿意身处那个“彩虹”之前的“暴风雨中”吧。

人类历史几千年的真实经验就是,科技的飞跃每每伴随着灾难的升级,每一次“彩虹”之前的“风雨”,都可能是动辄千万计的生灵席卷其中。

中华民族共祭的人文始祖黄帝,也是中国第一位诗人,写下了史载的中国第一首诗《弹歌》,《弹歌》共八个字,“断竹,续弹;飞土,逐肉”,记载的是华夏民族研发弓箭应用于生产生活的场面。这一生产工具不久被应用到了战争,尽管我们找不到相关死亡人数记录,但完全可以合理相像,弓箭的应用导致战争死伤人数在当时必然是一次“飞跃”。

毕竟,弓箭和木棒一样,当时还只是一种最原始的竹木“科技”,杀伤力的飞跃也只是相对那个时代而言。金属应用于农业生产无疑又是人类史上一次科技的飞跃,而与此同时,人类战争也就进入了残酷的冷兵器时代,一场战争几十万人死亡的情况也就逐渐演变为常态。秦驽无疑也是当时的“大杀器”,但秦驽的登场,伴随着的却是数以百万计的士兵与平民死亡,与此同时则是华夏文明最开放最具活力时代的夭折,最终酿造“百家皆行秦政法”的历史悲剧。

宋朝人发明火药、随后火炮开始应用于战争,人类开始从冷兵器向热兵器过渡,也正是在这个过渡期,蒙古人抓住了机遇,把宋朝发明的这个“大杀器”师其长技了一把,使得作为野战之王的蒙古军团成功克服了攻城短板,同时也使人类战争灾难死亡人数一跃而至千万级。

在蒙古军团南征北伐中,历史学家估计战争导致约3000万至6000万人口死亡,强大的金国据说死亡人数超过90%,而南宋人口消亡一半。火药号称中国四大发明之一,但这个发明甫登历史舞台,就引发了战争灾难又一次飞跃。

更不用说第一次世界大战,是人类历史上应用科技产品规模最大的战争,重机枪、坦克、毒气甚至刚刚试飞成功不久的飞机,都一一闪亮登场,这场战争导致1500万人死亡,但这显然已经创造了欧洲的记录,因为一战的主战场是在欧洲,亚洲主要人口大国如中国和印度都只是有所波及。一战无疑为人类史谱写了一幅前所未有的壮阔死亡图景,证明科技文明再次为人类灾难的升级推波助澜。

然而,一战的伤痛尚未愈合,短短二十年相对平静的“繁衍生息”后,二战又爆发了。二战的科技产品应用无疑又是一个新的高峰,飞机、坦克和航母成为主流武器,核武器也初试身手,而战争导致的死亡人数也飙升到7000万,科技文明谱写的灾难乐章又是一次划时代的飞跃。

黔西南 触摸未来
我们正身处一个只要愿意思考,就能改变世界的时代