AI 在工厂自动化领域已经出现了巨大飞跃，机器学习正在快速进入能源及其他企业应用（移动、汽车等）中 。 下一次工业革命可能会是人类直接主导的最后一次工业革命 ，恕我直言，未来 AI 将成为协作者以及潜在的领导者。

　　一些研究人员认为，这一天的到来只是时间问题。用斯坦福大学名誉教授尼尔斯·尼尔森博士（Dr. Nils Nilsson）的话来讲，“机器会唱着这样的歌，‘你会做的任何事，我都能做得更好；任何事我都做得比你好’。”

　　针对越来越多的自治系统导致的就业市场剧变，海尔吉·赫尔加松博士（Dr. Helgi Helgason）表示，“与其说是风险，倒不如说是必然，我们应该将根据这一点去改变教育政策。”

　　今年 1 月在瑞士召开的 世界经济论坛 2016 年年会 上，AI 带来的经济颠覆成为了一大议题，由此可见全球领导人正开始规划如何有针对性地整合 AI 科技并应用到世界经济中——但这是一项需要许多人来完成的艰巨任务。

　　未来二十年中另一个常被提及的风险是对 AI 的管理不善。显然 AI 企业已经对此有所顾虑，一些硅谷顶级科技大师给 OpenAI——一家关注于 AI 技术对人类的正面作用的非营利研究机构——投资了 10 亿美元。

　　“机器会唱着这样的歌，‘你会做的任何事，我都能做得更好；任何事我都做得比你好’。”

　　——斯坦福大学名誉教授尼尔斯·尼尔森博士（Dr. Nils Nilsson）

　　“很难估量人脑级别的 AI 能对社会带来多少益处，AI 开发不当或使用不当给社会带来多少损失同样很难想象，”OpenAI 在 2015 年 12 月的 上线页面 上写着这样的两句话。我们开发 AI、管理 AI 的方式存在着极为深远的影响，并将塑造未来社会的道德和伦理准则。

　　西蒙弗雷泽大学副教授菲利普·帕斯基耶尔（Philippe Pasquier）表示，“当我们部署越来越多的人工智能并赋予更多的责任时，造成负面后果的故障风险也在与日俱增，”不过他也指出，他不认为 AI 会对社会本身带来高风险。

　　能力越大，责任就越大，如何监管这样的能力成为了大家最为关切的问题。

　　坦普尔大学王培博士认为主要风险存在于“忽视深度学习（deep learning）、强化学习（reinforcement learning）等热门技术的缺陷和限制。许多领域都会发生这样的事。”SmartAction 创始人彼得·沃斯博士（Dr. Peter Voss）表达了类似的观点，指出他最担心的是“无知的人类破坏 AI 的能力和智力。”

　　考虑新兴 AI 技术伴随有哪些风险不是件容易的事，设计出可能的解决方案及保障措施更加困难，而如何全球协作对这些措施进行实施并监控才是最最困难的工作。但考虑到所有这些任务的紧迫性和危险性，我愿意无数次打赌，这样的努力是值得去冒险的。