现在不是担心谁控制人工智能的时候，而应该担心人工智能是否能被完全控制住。未来100年中，人类将面临比人类更聪明的人工智能的挑战。
1月4日晚间，在Master完成60胜，结束人机车轮战后，因与AlphaGo对战而成名的欧洲围棋冠军樊麾就在社交网络上发表了一篇公告。在这篇公告中，谷歌公司明确表示Master是“阿法狗”的升级测试版这一表态也证实了此前的猜测，这几日所向披靡的Master正是AlphaGo。这也契合了赫拉利在《未来简史》中要表达的想法：人类迎来第二次认知革命，人工智能和算法终将战胜人类。
面对AI的挑战，是棋手的噩梦还是人类的噩梦
Master在过去一周成了所有围棋手的噩梦，它一路攻城掠地，锐不可当，让“守住人类棋手最后的尊严”的屏障，轻易地被攻陷了，人类数千年的实战演练进化，却在人工智能面前显得不堪一击。这不仅引起了棋坛的震动和人们的高度关注，同时也印证了霍金的预言是正确的。霍金说：现在不是担心谁控制人工智能的时候，而应该担心人工智能是否能被完全控制住。未来100年中，人类将面临比人类更聪明的人工智能的挑战。
赫拉利在其著作《未来简史》中发出警告，未来，在整个社会层次架构中，人工智能可能终结人类，人类最终沦为无用的阶级。这绝非危言耸听，等到拥有高度智能而本身没有意识的算法接手几乎一切工作，而且都能比有意识的人类做得更好，人类还能做什么？ 虽然目前还有许多事情是有机算法比非有机算法做得更好，也有专家反复声称，有些事情“永远”不是非有机算法所能做到，但赫拉利认为，通常这里的“永远”都不超过一、二十年。
关于人工智能挑战人类的案例，我们可以追溯到上个世纪，80年代讨论到人类的独到之处，很习惯用西洋棋作为人类较为优越的主要证据。他们相信计算机永远不可能在西洋棋领域打败人类。但在1996年2月10日，IBM的深蓝（Deep Blue）超级计算机就打败了世界西洋棋王卡斯珀罗夫（Garry Kasparov），终结了这项认为人类较为优越的论点。
二十年后，这也印证了赫拉利对于“永远”这一时间的解释，AI得到了更惊人的成就，并引发成一个全球瞩目的事件：谷歌的AlphaGo软件自学围棋这种古老的中国策略游戏，而围棋的复杂度远超过西洋棋，虽然一般认为这并不在AI程序能够处理的范围，但是事实已经说明一切，AlphaGo和韩国棋王李世石在首尔举行一场比赛，AlphaGo靠着出奇的下法、创新的战略，以4-1击败李世石，令各方专家跌破眼镜。赛前，大多数专业棋手都肯定李世乭能赢得比赛，但等到赛后分析AlphaGo的棋路，多数人的结论则是围棋已经就此结束，人类不再有希望能打败AlphaGo或其后代发明，因为人类面对AI的挑战，似乎已经发现这恐怕是一场“噩梦”。
人工智能打脸的实力已超越你的想象
过了仅仅不到一年，Master横扫一切的态势，让人类的脸火辣辣的疼。
而谷歌在昨晚的公告中还有耐人寻味的一段：
“世界冠军古力与阿尔法围棋对弈以后写了，‘人类与人工智能共同探索围棋世界的大幕即将拉开’。我们现在结束了非正式的测试，非常期望今年能有机会与围棋组织以及专家共同探索神秘的围棋，在相互启发的气氛中共同领会围棋的奥妙。我们希望尽快发布其他公告。”
在这篇公告中，谷歌公司除了明确表示Master是“阿法狗”的升级测试版，而在其中更是有个惊人的所在——Master可能完全没学过棋谱，而这也侧面印证了Master不按常理出牌的套路。
要知道，DeepMind公司创始人哈萨比斯此前在一次采访中曾透露，他们的团队正在尝试训练一个没有学习过人类棋谱的人工智能，这也可能就是Master和AlphaGo不同的原因。如果Master真的没有学习过人类棋谱，而有了突飞猛进的实力，那恰恰印证了谷歌AI技术的全新突破。
人工智能的实力已经不容置疑，近来，计算机算法也证明了自己在各类应用中的价值。2002年，银弹有限的奥克兰运动家队（Oakland Athletics）总经理比利。宾恩（Billy Beane）靠着由经济学家和计算机怪才所开发的一套神秘计算机算法，找出人类球探忽视或低估的球员，打造一只这样的赢球队伍。虽然在守旧派看来，宾恩的算法根本是玷污棒球的神圣殿堂，令他们大感愤怒。 但没多久，这些人就只能满地捡眼镜碎片。宾恩用算法打造的这只低成本球队（4,400万美元），不仅能与纽约洋基队（1.25亿美元）这种传统棒球强队平分秋色，甚至还成为美联史上第一只二十连胜的队伍。很快地，其他球队也跟进使用同样的算法策略。
就连负责管理所有活动的经理，也可能被取代。例如Uber，就因为有强大的算法，只要几位人员，就能管理数百万的Uber司机。大多数的命令都是由算法自动下达，无须人为监督
记者和编辑的工作更会被轻易取代，如果我们把计算机算法看成是一种阅读行为，那么今天的计算机已经发展到不仅能读，而且还能写作了。例如IBM公司发布了去年四季度的财报，计算机会先“读”一遍该公司财报的内容，然后提取出主要的信息，比如该季度的收入、利润，与华尔街预期的对比，人员情况，市场份额，等等；然后计算机可以写一篇关于IBM业绩的新闻稿，当然最后在发表前多少还是经过了人工的一些润色处理。
事实上，随着时间演进，不仅是因为算法变得更聪明，也是因为人类逐渐走向专业化，于是用计算机来取代人类愈来愈容易。又或者，算法自己也可能成为所有人。人类法律已经能够认可公司或国家这种互为主体的实体，称之为“法人”。可能在不久之后，算法也能得到这样的地位。这样一来，某一套算法就能自己拥有一个运输帝国、或是创投公司资本，而不必遵守任何人类拥有人的命令。
无用的人类将何去何从
那么，人要做什么呢？常有人说，艺术是我们最终（而且是人类独有）的圣殿。然而，并没有理由相信艺术创作能绝免于算法的净土。人类是哪来的信心，认为计算机谱曲永远无法超越人类？赫拉利指出，在生命科学看来，艺术并不是出自什么神灵或超自然灵魂，而是有机算法发现数学模式之后的表现。若真是如此，非有机算法就没有理由不能掌握。
到了二十一世纪，我们可能看到的是一个全新而庞大的无工作阶级：这一群人类没有任何经济、政治或艺术价值，对社会的繁荣、力量和荣耀也没有任何贡献。这个“无用的阶级”不只是失业，而是根本无业可就。
由于接下来的科技发展潜力极其庞大，很有可能就算这些无用的大众什么事都不做，整个社会也有能力喂饱这些人、让这些人活下去。人总得做些什么，否则肯定会无聊到发疯，答案之一可能是靠药物和电动。那些对社会来说多余的人，可以多花点时间在3D虚拟世界里；比起了无生趣的现实世界，虚拟世界能够为他们提供更多刺激、更多情感投入。然而，自由主义推崇人类生命及人类体验神圣不可侵，这样的发展会是一记致命打击。这些人对社会毫无用处，整天活在现实与虚幻之间，这样的人命何来神圣？
就算立意全然良善的程序，也可能带来令人恐惧的结果。有一套常见的剧本，就是某间公司设计出第一套真正的人工超级智能，给了它一个毫无恶意的测试，像是计算π值。但就在任何人意识到任何事之前，AI已经接管整个地球、消灭人类、发动攻击征服整个银河系，把整个已知宇宙转变成巨大的超级计算机，花上几兆兆年的时间，只为了算出更精确的π。毕竟，这正是它的创造者交给它的神圣使命。
所以赫拉利在《未来简史》中提出最终警告，一旦人工智能超越人类智能，可能就会直接消灭人类。AI这么做的理由，一是可能担心人类反扑、拔掉AI的插头，二是要追求某种我们现在还难以想象的目标。毕竟，等到整个系统比人类更聪明，要再控制系统有何动机，实在有如天方夜谭。所以我们有理由担心，随着Master的不断迭代或进化，极有可能将最终成长为消灭人类的“魔鬼终结者”。
来源/互联网第一猎
