他指出，同样可怕的还有社会的动荡。当大学和学院的教职员工停止学习新事物，从错误百出的教科书里，他们提供的教育将萎缩和退化成为教条、似是而非以及未经测试的假设。
 
　　2076年的世界：我们修复了气候，但是仍然面对威胁
 
　　现在是2076年，天空看起来确实是乳白色的。在刮着大风的平原和海洋上，人类搭建了风电农场。但在这些涡轮机边上，人们还建造了一种不同类型的塔，并从空气中吸收二氧化碳。
 
　　于是，一大块土地成为了森林。在发电场中种植的树木，在生长、收获、以及燃烧过程之中，都不会让二氧化碳排放到大气中。相反，排放的二氧化碳将被捕捉，并泵送到地下储存容器中。船舶将粉状矿物倾倒在海洋中，使其吸收二氧化碳，并减少海洋酸化。
 
　　所有这些技术都是为了扭转长达两个多世纪温室气体排放而做的绝望补救。 但他们尚未能完成这一目标，我们反而仍然在排放温室气体。所以，在10公里至18公里的大气中，一层细微的粒子屏蔽了太阳向地球的照射，并使我们的环境保持凉爽。这也是为什么天空有点发白的原因。
 
　　英国南安普敦大学的约翰·谢普德说：“我认为，在60年后，我们很有可能将使用这两种技术。” 他指的是两种风格截然不同的地球工程计划：从空气中吸收二氧化碳，并使用遮阳罩将一些太阳光线弹回宇宙中。
 
　　像许多气候科学家一样，谢普德认为气候谈判进展得太慢。 即使工业排放量能够迅速下降，尽管即使这一点还要打上一个大大的问号，还有其他的方面造成的棘手问题。我们没有飞机燃料的替代产品，而供养众多的人类需要精耕细作的农业，而这两者占据了全球二氧化碳排放量的四分之一。
 
　　这就是为什么我们必须从空气中吸收二氧化碳。因为这是一个很难实现的目标，我们可能还要依靠“太阳辐射管理”。
 
　　研究中最多出现的想法，是将硫酸盐细颗粒喷入平流层，但人们对于其后果仍然知之甚少。电脑模型表明，最终世界上会分为赢家和输家。虽然遮阳方案可以将全球平均气温降低到工业化前的水平，但这会带来区域差异。北欧、加拿大、西伯利亚和两极将比之前更加温暖，而海洋上的温度将降低。
 
　　人们预计，全球变暖将使得湿润地区变得更潮湿，而干燥的区域更干燥。电脑模型指出，遮阳罩可能可以改善这一点，但是，这样的改善仍然不是均匀的。仰赖这季节性降雨的热带区域由于季风变干，可能会遭受的最大的影响。
 
　　谢普德担心，所有这些将会引起国际争端。他设想了一种全球性的理事会，而政府可以根据满足本国需求的气候而进行游说。为了旅游业或者农业，有些人可能更加青睐温暖的气候。但是依赖珊瑚礁吸引游客的国家则可能需要更多的CO2吸收技术来抵御海洋酸化和漂白。
 
　　最后是一个苦涩的转折。飞上天的东西最终都会降下来，所以人们将不得不不断补充遮阳罩。比如说，一些国际地球工程协议的完全崩溃这样的事情发生之后，我们停止喷洒硫酸盐，后果将是灾难性的。
 
　　在十年到二十年的时间内，没有遮阳罩的地方温度将会飙升。原来温暖的地区会变得超级热，谁也不知道我们将面临的是什么临界点。后果之严重，几乎不值得我们去考虑。

　　2076年的世界：无论机器多聪明，人类仍将是主宰
 
　　无论你怎样看，未来似乎都前景黯淡。在环境、经济和政治等方方面面，世界似乎都面临着巨大的压力。表面上，我们在未来面临的威胁数不胜数：一个巨大的小行星撞击、全球变暖、一种新型瘟疫、或者是把一切变成灰色的粘土的离经叛道的纳米机器人。实际上，我们都不太确定究竟该最害怕什么，甚至未来人类是否还存在都是一个大大的问号。
 
　　但这几年，我们讨论最多的一个潜在威胁则是人工智能。 2014 年 12 月，史蒂芬·霍金告诉英国广播公司，“全人工智能的发展可能会导致人类的终结…它将自己能发展自己，并以不断增长的速度重新设计自己。受到缓慢的生物进化限制的人类，将无法与之竞争，并最终将被取代。”去年，他接着这一话题对媒体表示，人工智能有可能是“发生在人类头上最好的或最坏的事” 。
 
　　其他的知名人士，包括埃隆·马斯克、比尔·盖茨和史蒂夫·沃兹尼亚克，对于人工智能可能对人类造成的风险也作了类似的预测。 然而，数十亿美元仍旧滚滚地流入人工智能领域的研究中，并且这一领域正在取得惊人的进步。
 
　　在今年3月份的一场堪称里程碑的比赛之中，围棋大师李世石以1-4的比分落败于AlphaGo计算机。在许多其他领域，无论是在地面驾驶出租车还是在空中赢得格斗，计算机正逐步开始接管人类。
 
　　理论上，霍金的恐惧源自于技术奇点这一想法。在该语境中，奇点是指机器智能开始跨越式发展的时间点，同时也是一个更为智能的新型物种开始统治地球的起点。 技术奇点这一想法可以追溯到许多早期的思想家，其中包括计算的创始人之一约翰·冯·诺伊曼（John von Neumann）和科幻作家弗诺文奇（Vernor Vinge）。
 
　　有趣的是，这个想法的历史大致与AI研究本身相近。在1958年，数学家斯坦尼斯瓦夫·乌兰姆（Stanislaw Ulam）在悼念不久之前逝世的冯·诺伊曼的文章中，他回忆道：“（我们有过）一次对话，对话的中心是不断加速的技术进步和人类生活方式的变化，而这些变化促成了一些奇点基础观点的雏形......我们那时候的理解是，奇点之后，人类的事务将无法继续。”
 
　　最近，技术奇点的想法受雷·库兹韦尔（Ray Kurzweil）的推广而广为人知。他预测，技术奇点将在2045年左右发生，而尼克·博斯特鲁姆（Nick Bostrom）已经写了一本介绍后果的畅销书。
 
　　我们害怕机器超越我们的智力有如下几个原因。人类之所以能够成为地球上的最具有统治力的物种，最主要是因为我们拥有无可比拟的智力优势。许多动物比我们体型更大，更快或更强，但我们利用我们的智慧发明了工具，发展了农业，并开发出许多惊人的技术，比如蒸汽机、电机和智能手机。我们的生活由此改变，并使得我们得以统治地球。
 
　　因此，具有思考能力的、甚至思考能力可能比人类还要强大的机器未来很有可能将篡夺人类的位置——这一想法毫不意外，就正如大象、海豚和熊猫依靠我们的善意继续存在，而我们的命运则反过来有可能取决于这些高级思维机器的决定。
 
　　智力爆炸这一观点，即机器能够递归般提高它们的智力，从而迅速超过人类智力，其实并不是一个特别疯狂的想法。
 
　　从许多类似的指数趋势中，计算领域获益匪浅。 摩尔定律预测集成电路上的晶体管数量每两年将增加一倍，这是过去几十年来的现实。 因此，假设AI也将经历指数增长并不是不合情理的。
 
　　像许多在 AI 领域工作的同事一样，我们预测，距离 AI 达到甚至超越人类的智力水平仅仅只需 30 年到 40 年即可。
 
　　总之，我们认为，技术奇点是不可能实现的。