AD
5月15日，“中欧第三届美国论坛”在波士顿举行，超过200位来自中美两国的专家学者、企业家及企业高管齐聚一堂，探索数字经济之道。在论坛上，麻省理工学院（MIT）物理学教授Max Tegmark对人工智能的发展现状和未来趋势，以及发展过程中人类需要加以重视的问题等进行了详细介绍。他认为，人工智能可以帮助人类创造一个繁荣的未来，但是，我们要积极引导人工智能往正确的方向发展，避免其被误用或滥用，最终造成无可挽回的后果。一起来看这位人工智能大拿的分享。
【点击视频，走进现场】
Max Tegmark
麻省理工学院（MIT）物理学教授
未来生命研究所创始人
《穿越平行宇宙》《生命3.0》等
畅销书作家
人工智能是一项非常强大的技术，所有行业都与之息息相关。
人工智能不会止步，它将继续发展并最终成为有史以来最强大的技术，这意味着它最终将成为人类最棒的或最糟糕的事情。无论是美国和中国，大家都会在这场科技革命里输赢一体。
让我们从宇宙之广远开始。宇宙经历308亿年的发展演化之后，在我们这个小小的蓝色星球上，发生了一些奇妙的事情。那就是我们现在致力于开发的人工智能技术，有可能帮助我们的生活实现前所未有的蓬勃发展，这是一个非凡的机遇。
宇宙里诞生的第一个生命，我叫它“生命1.0”，因为它像细菌一样，没有学习能力。而我管人类叫做“生命2.0”，因为我们具备学习能力。这让我们的文化得以进化，使人类成为了地球上最强大的物种。未来，“生命3.0”不仅可以取代软件，还可以取代我们身体的硬件。
我的朋友，Skype的联合创始人Jaan Tallinn曾用火箭技术来比喻其他技术的发展。他认为，我们仅仅让科技变得强大并不足够，还需要懂得如何驾驭科技，以及知道我们打算利用科技到达哪里。所以，我想谈谈AI的几个方面：AI的力量，如何驾驭AI，以及AI的发展目标——也就是我们尝试用它来做什么。
AI会完全替代人类吗？
在我看来，智能是实现目标的能力。实现的目标越复杂，越需要智能。智能只与信息加工有关，与加工介质到底是碳基（如人类大脑）还是硅基（如电脑）无关。
今天，人工智能的发展速度令人咋舌。不久前，还没有可以行走的机器人。而现在，自运行火箭可通过人工智能完成自主降落。不久前，人工智能还无法进行人脸识别。而现在，人工智能不仅可以识别人脸，还可以模拟人脸，甚至以你的面孔出现并说出你从未说过的话。
如果我们能够加速人工智能在各个领域的研究，那么现有成就将只是极小的一部分。在生物技术和医疗技术领域，AI或将得到更广泛的应用。
例如，在诊断前列腺癌、肺癌和眼部疾病等方面，AI已经可以与顶级医生媲美甚至更为出色。在硬件方面，我们现在也正在用超声波机器取代大而笨重、价格昂贵的机器。超声波机器不仅体积小到可以放进你的口袋，而且价格也更便宜。
另外一个例子。谷歌DeepMind建立了Alpha Zero，它只需要自我训练24小时便能够击败最优秀的人类选手。但于我而言，印象最深刻的部分并不是AI可以打败人类之中最优秀的玩家，而是AI可以淘汰像我这样的人类AI研究者。
我喜欢通过比喻来思考AI所处的现状，一起来看一张图。
在这张图上，海平面之下的是AI可以完成的任务，海平面之上的是AI不能处理的任务。海平面会随着AI的发展而不断上升。一个问题是：海平面最终会上升到什么位置？最终会不会淹没陆地，从而AI完全代替人类？
有人会说：“不，总有一些工作，人类可以比机器更好地完成。”这是事实吗？
建立AGI（通用人工智能）一直以来就是人工智能的研究目标。一旦我们实现了AGI，AI可以比人类更好地完成所有工作，包括完成AI开发人员的工作。这意味着谷歌、百度、腾讯等企业的AI研究员都会被AI所替代。
如果你认为AGI就像是疯狂的科幻小说，那么还有更疯狂的科幻小说——超级智能，即人工智能自我创造出来的智能。
AGI和超级人工智能会成为现实吗？
我前同事Rodney Brooks是严肃的AI研究者，他认为“未来几百年都不会发生这种事”。但是，像谷歌DeepMind的领导者Demis Hassabis这样的人，则认为这绝对会发生。
这就提出了一个问题，如果这种情况真的发生了，人工智能完全代替了人类，人类将何去何从？对此，我们面临着一个选择。不是是否停止技术发展的选择，而是自满和野心之间的选择。
我们可以自满地说：“我们只要发展比人类更好、更便宜的技术就行了，不必担心后果。”我们也可以设想一下，我们更愿意生活在什么样的未来，然后思考如何才能走向这样的未来。
人类如何驾驭AI的发展？
我们正在让人工智能变得更强大，但怎样才能引导AI帮助我们到达想要的未来？
如果我们能让智慧跟上技术发展的步伐，就可以创造出一个鼓舞人心的高科技未来。但挑战在于，我们将不得不改变策略。
在早期的技术发展中，我们的策略是从错误中学习。例如遭受火灾后发明了灭火器；遭遇车祸后发明了安全带和安全气囊等。但是，面对核能、合成生物、AGI等技术，我们最好在开始就一步到位，预防错误，因为容错空间太小，甚至根本没有。
因此，从微观层面，企业应用AI系统时需周全考虑它可能被骇客攻击的方式，以及它可能以何种形式失灵或损害企业利益。从全球层面，我们要思考AI技术中有哪些可能会步入歧途，确保其处于正确轨道。
在引导AI积极发展方面，我认为中国有着独特的优势，原因有二：其一，中国具有很强的技术实力；其二，中国具有古老的智慧。
中国的技术实力有目共睹。去年我去了中国三次，对中国的技术进步印象尤为深刻。在麻省理工学院，优秀毕业生中有很多都是中国人。中国作为文明古国之一，有着长远规划的传统和能力。
2017年，我们在（美国加州）阿西洛马讨论人工智能的发展原则，有很多来自中国的参会者。这次讨论产生了23条人工智能原则，迄今为止全球已经有1000多名AI研究人员在上面签名。
任何科技，都可能成为帮助人们或伤害人们的新方法。AI研究人员希望禁止人工智能用于破坏性的军事用途，即用于致命性自主武器。因此，在阿西洛马的讨论会上发生了许多令人振奋的事情，个人代表、企业以及其他人承诺不制造这些人工智能武器。在这其中，发展中国家联盟也起到了推动作用。
在阿西洛马的讨论会上，人们还达成了一个共识：人工智能有能力推动全球GDP的快速增长，就像工业革命推动全球经济增长一样。你看看美国就知道，由于技术发展的原因，生产率得以上升，工资也是如此。
但是，这种情况在最近一些年有所变化。非大学毕业的美国白人男性并没有比几十年前赚更多的钱，这就是为什么会出现日益严重的愤怒情绪和两极分化等。实际上，技术才是关键因素。当机器代替了人工，大部分收入都归于那些拥有机器的人。如何使AI发展所带来的财富惠及每一个人，而非加大贫富差距，是我们需要思考的问题。
除了禁止致命性自主武器，缩小AI发展所带来的贫富差距，我们还必须在提高AI的可靠性和稳定性方面加大投入。如果无法保证系统的可靠性和稳定性，AI可能会发生故障并产生危害。
AI带来的真正风险，不是像电影里那样变成邪恶的终结者，而是与我们的目标不一致。因此，必须确保我们制造的机器能够理解目标，实现目标并真正坚持目标。就像我们对待自己的孩子那样，在养育的过程中确保他们有良好的目标。而且我们还必须确保AI不能落入某些可以使用它们的恐怖分子的手中，被非法地用来对付普通大众。
AI是有史以来最强大的技术。它可以放大我们的智慧，使我们更好地解决重大问题。我们可以借助AI的力量，实现所有可持续发展目标。但是，我们接纳AI的好处时，要谨慎思考它的使用禁忌，以确保我们不会做出对人类有危害的事情。只有这样，我们才能创造一个人类驾驭AI，而非AI凌驾于人类之上的未来。
编辑 | 岳顶军 马艺璇
自2013年起，中欧已先后三次走进美国举办商界论坛，推动两国企业间的交流与合作。而本届美国论坛也是中欧25周年校庆五大海外论坛的“开篇之作”。25年来，中欧不断助力中国经济的创新、转型和全球化步伐，推动不断深化的国际经济合作，为中国和海外商界搭建沟通桥梁。今年7-10月，中欧还将先后走进慕尼黑、布鲁塞尔、伦敦、巴黎四城举办欧洲论坛，欢迎持续关注！
本文首发于微信公众号：中欧国际工商学院。文章内容属作者个人观点，不代表和讯网立场。投资者据此操作，风险请自担。
