让我们把精力放在建立安全的人工智能上

伊隆马斯克最近评论了规范人工智能的必要性，并称其为人类存在的风险。正如任何人类创造的情况一样，增加的杠杆技术可以为人类提供善或恶，但我们需要害怕人工智能并在其发展的早期对其进行规范的前提并不是很有根据。我们可能会考虑的第一个问题是，我们担心的是人工智能可能会变得冷漠或恶意。

我提出这个问题是因为马斯克本人之前已经将人工智能的发展称为“召唤恶魔”，将邪恶的形象与之联系起来。对人类历史的任何诚实评估都向我们表明，最令人震惊的恶意意图可能来自人类的心灵和思想。

然而，历史也表明，技术压倒性地推动了我们共享的人类经验。从印刷机到互联网，一直有反对者宣传对新技术的恐惧。然而，当领导者为集体利益引导时，这些技术虽然破坏了已知的生活方式，但却在我们的人类经历中创造了一种积极的进化。AI也不例外。

在负责任的道德领导者手中，该技术有望以一种可以释放无法想象的人类潜力的方式增强人的能力。与任何技术一样，AI是中立的。技术的道德性反映了我们的集体道德，这取决于我们如何选择使用它。

想象一下历史上任何一个拥有大型核武库的独裁者。如果他们的复仇武器是核弹并可以到达地球的所有地方，他们将如何塑造其余的历史?例如，考虑一下Vlad the Impaler，Ivan the Terrible和Genghis Khan会做些什么。这些恶毒的人类不仅实际上成了男人的领袖和国王。技术已经发展到一个疯子可以为地球浪费的地步吗?有了核武器，生物武器和化学武器，答案很遗憾，是的。我们已经忍受了来自我们自身的恶意和技术的乘法效应的存在风险。我们不需要人工智能。

在这个阶段陷入恐惧的牺牲将损害建设性的人工智能发展。有人认为技术推动了历史。如果有人的目的，那就是在学习，进化，进步和建设中找到它。发挥我们的创造潜力，摆脱困扰我们的资源限制以及带来我们最坏情况的稀缺性。通过这种方式，人工智能 - 可以模仿最奇妙的人类品质，思想品质的技术 - 可以成为一种解放力量和我们的最终成就。在这个阶段，人工智能还有很多好处。

如果这还不够，请花一点时间思考创新的不可逆转性。没有开发出有意义的技术，然后将其放回瓶中，可以这么说。当世界被分割和断开时，有时会丢失一些知识，但几乎总是在一个独立的思想家的地球的遥远角落重新发现，与原始发现无关。这就是技术和知识的本质......它渴望被发现。如果我们认为监管和控制会阻碍人工智能的发展，那我们就错了。他们可能做的是阻止那些有良好意愿的人开发它。他们不会停止休息。

在考虑禁令时，重要的是要考虑是否可以执行禁令，以及受禁令明显影响的各方如何实际行事。博弈论是一个涉及冲突与合作条件决策的数学分支，它提出了一个着名的问题叫做“囚徒困境”。

这种困境是这样的：一个团伙A和B的两名成员都被逮捕并独立封锁。如果他们互相背叛，每人都服刑两年。如果A背叛了B，但是B并没有暗示他的同志，那么A就会自由，但是B会服用三年。如果他们都保持沉默，他们每人服务一年。虽然似乎“光荣”的事情是保持沉默并服务一年，以便惩罚是平等和最小的，但任何一方都不能相信对方会采取这一光荣的过程。原因在于，通过背叛对方，可以获得无耻行为的不光彩演员。B和A都必须考虑对方可能采取最适合自己情况的方法，如果是这种情况，被出卖方将遭受最大损害(即 三年监禁)。因此，双方可以采取的合理行动方针是相互背叛并“定居”一年。

让我们扩展这个框架，看看它如何适用于AI禁令。人工智能显然是一项在各个领域都具有变革影响的技术; 从医药，制造业，能源到国防和政府。如果人工智能在军事活动中被禁止，那么会有多个政党 - 在这种情况下的国家 - 在我们的囚徒困境中会开始像A和B一样思考。如果他们尊重禁令，但其他人通过暗中继续武器化人工智能的发展而“背叛”，那么其他人的优势就会最大化，而禁令追随者的负面影响是巨大的。

如果所有各方都自愿放弃这种发展并遵守禁令，那么我们就有了最好的案例。但不能保证会出现这种情况......就像囚犯一样，这些国家正在闭门造车，对另一方可能做的事情知之甚少。最后，如果所有各方都开发此类技术，那么情景就不如遵守禁令那么乐观 - 存在风险 - 但所有各方至少都意识到，如果其中任何一方决定使用人工智能武器，他们将面临抵抗，即存在威慑力到位。

我们应该希望人工智能用于良好吗?要治愈而不是伤害?我们应该致力于这一目标并努力实现这一目标吗?当然。但不要以欺骗自己为代价，认为我们可以简单地禁止我们的问题。AI就在这里，它就在这里。它将不断变得更聪明，更有能力。知识希望被发现，没有任何禁令可以阻止创新在时机到来时飙升。我们实际上需要在可解释的人工智能，道德系统和人工智能安全等领域加倍投入更快速的人工智能推进，而不是沿着d和禁令的道路走下去。这些是并且可以成为真正的技术，能力和算法，可以安全处理事故和计数器，以便故意滥用。

除了我们的实验室之外，在更广泛的社区，包括德克萨斯大学奥斯汀分校，正在思考AI系统安全的各个方面，正在做大量的工作。让我们走过“禁止思考”，卷起袖子，努力开发框架，让人类积极地利用人工智能 - 我们最伟大的发明 - 让我们的孩子获得难以想象的奖励。“