忘记埃隆·马斯克的禁令 让我们将精力投入建立安全的AI

埃隆·马斯克(Elon Musk)最近评论了监管AI的必要性，称其为人类生存的风险。就像任何人类创造的情况一样，不断增加的杠杆技术可以为人类带来好事或坏事，但是我们在开发初期就必须担心AI并对其进行规范的前提还不充分。我们可能要考虑的第一个问题是，我们担心的是AI可能演变成的冷漠还是恶意。

我之所以提出这一点，是因为马斯克本人曾将AI的发展称为“召唤恶魔”，将邪恶的形象与它联系在一起。对人类历史的任何诚实评估都向我们表明，最令人震惊的恶意意图可能来自人的心灵。

历史还显示，然而，技术极大地改善了我们共享的人类经验。从印刷机到互联网，总是有反对者宣扬对新技术的恐惧。然而，当被领导者为了集体利益而引导时，这些技术虽然破坏了已知的生活方式，但却在我们的人类体验中产生了积极的变化。AI也不例外。

在负责任的道德领导者手中，这项技术有望以一种可以释放人类无法想象的潜力的方式来增强人类的能力。人工智能和其他任何技术都是中立的。技术的道德性反映了我们的集体道德，这取决于我们选择使用技术的方式。

想象一下历史上的任何独裁者都拥有一个庞大的核武库。如果他们的复仇武器带有核尖头并且可以到达地球的各个角落，那么他们将如何塑造其余的历史呢?例如，考虑一下穿刺者弗拉德(Vlad the Impaler)，恐怖的伊凡(Ivan)和成吉思汗(Genghis Khan)会做的事情。这些恶毒的人不仅是人类的领袖，也是人类的国王。技术是否已经发展到疯子可以将废物浪费到地球上的地步?对于核，生物和化学武器，答案是肯定的。我们已经忍受了自己的恶意和技术的乘法效应带来的生存风险。我们不需要人工智能。

在此阶段令人恐惧的猎物将损害建设性AI的发展。有人争论说技术驱动着历史。如果有人类目的，就可以在学习，发展，进步和建设中找到。发挥我们的创造潜力，使自己摆脱困扰我们的资源限制和造成我们最糟糕情况的匮乏。这样，人工智能(可以模仿人类最奇妙的素质，思想素质的技术)可以成为解放力量和我们的最终成就。在这个阶段，人工智能将带来更多的收益。

如果那还不够，请花一点时间思考创新的不可逆转性。可以这么说，还没有开发出有意义的技术然后将其放回瓶子中。当世界分裂和断开时，有时会丢失一些知识，但是几乎总是被某个独立的思想家在地球的一个遥远的角落重新发现，与原始发现无关。这就是技术和知识的本质……它渴望被发现。如果我们认为规章制度会阻碍人工智能的发展，那我们就错了。他们可能会做的是阻止有良好意愿的人发展这种愿望。他们不会停止其余的。

在考虑禁令时，重要的是要考虑是否可以执行这些禁令，以及受禁令公开影响的各方实际上将如何行事。博弈论是与冲突和合作条件下的决策有关的数学分支，它提出了一个著名的问题，称为《囚徒困境》。

困境是这样的：一个团伙的两个成员A和B都被分别逮捕和关押。如果他们两个都出卖，则各自服刑两年。如果A背叛B，但B没有暗示他的同志，则A可以自由出任，而B可以任职三年。如果他们两个都保持沉默，他们每个人都会服务一年。尽管看起来“荣誉”的事情是保持沉默并服务一年，以使惩罚是平等且微不足道的，但任何一方都不能相信另一方会遵循这一光荣的做法。原因是，通过背叛对方，这个不光彩的演员有可能获得免于苏格兰的待遇。乙方和甲方都必须考虑到对方可能会选择最适合自己情况的路线，如果是这种情况，被背叛的一方将遭受最大的损失(即 三年监禁)。因此，双方可采取的合理行动是相互背叛并“定居”一年。

让我们扩展这个框架，看看它如何适用于AI禁令。显然，人工智能是一项在每个领域都具有变革性影响的技术。从医药，制造，能源到国防和政府。如果AI被禁止用于军事行动，那么将有多个政党-在这种情况下是国家-在我们的囚徒困境中将开始像A和B那样思考。如果他们遵守禁令，但其他人通过秘密地继续发展武器化的AI来“背叛”，那么对其他人的好处就会最大化，而对禁令的追随者的负面影响则是巨大的。

如果各方自愿放弃这种事态发展并履行禁令，那么我们就有一个最好的情况。但是并不能保证会如此。就像囚犯一样，这些国家在不了解对方可能会做什么的情况下，秘密地做出决定。最后，如果所有各方都开发这种技术，那么情况要比遵守禁令要容易得多，因为存在风险。但是所有各方至少都知道，如果任何一方决定使用AI武器，他们将面临抵抗，即存在威慑力到位。

我们是否应该希望AI被永久使用?治愈而不是伤害?我们是否应该致力于这一目标并为之努力?当然。但是，这并不以欺骗自己为代价，以为我们可以简单地解决我们的问题。人工智能就在这里，而且它会一直存在。它将不断变得更加智能和强大。知识希望被发现，并且在任何时候都不能禁止任何创新。我们实际上并不需要沿着可授权性和禁止性的道路走下去，而实际上需要在可解释性AI，道德体系和AI安全性等领域更加快速地推进AI方面加倍投资。这些已经成为并且可以成为真正的技术，功能和算法，这些技术，功能和算法将能够安全处理事故和计数器，以蓄意滥用。

除我们的实验室外，包括AI的德克萨斯州大学在内的更广泛的社区正在做大量工作来思考AI系统安全性的各个方面。让我们超越“禁忌思维”，放下袖子，致力于开发框架，使人类能够积极利用AI(这是我们的最大发明)并让我们的孩子获得难以想象的回报。