人工智能 法律和我们的未来

科学家和政策制定者周二聚集在麻省理工学院，讨论人工智能中最棘手的问题之一：如何治理它。

第一届麻省理工学院人工智能政策大会有七个小组讨论，涉及各种人工智能应用程序，25位发言人 - 包括两位前白宫办公厅主任，前内阁秘书，国土安全和国防政策负责人，行业和民间社会领导人，以及领导研究人员。

他们的共同关注点：如何利用人工智能创造的机会 - 包括交通和安全，医药，劳工，刑事司法和国家安全等领域 - 同时积极应对挑战，包括社会偏见的可能性，透明度的需求，以及可能会阻碍人工智能创新，同时加剧美国和世界各地的社会问题。

麻省理工学院互联网技术，经济和国家安全项目(TENS)主任R. David Edelman表示：“当涉及人工智能在公众信任领域时，快速行动和打破一切的时代已经结束。”政策研究倡议组织(IPRI)，以及奥巴马总统白宫经济和技术政策总统特别助理。

埃德尔曼补充说：“我们所有人都没有发言权，这太危险了。”

IPRI的创始主任，麻省理工学院计算机科学与人工智能实验室(CSAIL)的首席研究科学家Daniel Weitzner表示，对话的一个关键目标是帮助政策分析人员对他们积极塑造人工智能影响的能力充满信心。社会。

“我希望政策制定者清楚地认识到人工智能技术不是一个不可动摇的对象，而是计算机科学，政府和整个社会之间的正确互动将有助于塑造新技术的发展，以满足社会的需求，”威茨纳在活动结束时说。

麻省理工学院人工智能政策大会由IPRI组织，同时是经济合作与发展组织(OECD)为期两天的会议，该组织是总部设在巴黎的政府间协会，正在为全球36个国家制定人工智能政策建议。作为活动的一部分，经合组织专家参加了为期半天的机器学习实践培训课程，他们在1922年计算机科学与工程教授Hal Abelson的指导下培训和测试了一个神经网络。在麻省理工学院。

周二的论坛也开始于安东尼奥·托拉尔巴(Antonio Torralba)，CSAIL教授，电气工程与计算机科学系(EECS)以及麻省理工学院寻求情报部主任的人工智能技术入门。人工智能注意到人工智能“正在发生这么多事情”，托拉尔巴打趣道：“很难知道未来是什么，但要知道现在是什么就更难了。”

周二的活动由IPRI和麻省理工学院的情报探索联合举办，当时人工智能正在接受大量的媒体关注 - 以及前所未有的金融投资和机构支持。

就其本身而言，麻省理工学院于2018年10月宣布成立麻省理工学院斯蒂芬A.施瓦茨曼计算学院，得到斯蒂芬施瓦兹曼的3.5亿美元礼物的支持，这将成为计算机科学，数据科学研究和教育的跨学科联系。 ，AI和相关领域。该学院还将解决与计算相关的政策和道德问题。

“在麻省理工学院，我们处于一个独特的时刻，即将推出新的麻省理工学院施瓦茨曼计算学院，”Weitzner指出。“解决计算中的政策和道德问题的承诺将导致新的人工智能研究和课程，以培养学生开发新技术，以满足社会的需求。”

其他机构也在扩大对人工智能的承诺 - 包括经合组织。

“事情正在迅速发展，”经合组织科学，技术和创新主任安德鲁威科夫说。“我们需要开始尝试领先于此。”

威科夫补充说，人工智能在2019 - 2020年是经合组织的“三大”政策优先事项，并表示该组织正在形成一个“政策观察站”，以对人工智能的影响进行现实评估，包括自动化取代工作的问题。

威克夫说：“那里有很多关于[工人]流离失所的恐惧。” “我们需要看看这一点，看看现实是什么，而不是恐惧。”

麻省理工学院斯隆管理学院教授，​​麻省理工学院斯隆管理学院教授Erik Brynjolfsson在制造和劳工问题小组讨论会上表示，相当多的想法源于恐惧而不是现实。

Brynjolfsson说，与大多数工作所需的技能范围相比，“今天机器学习能做的事情要窄得多”。“我认为这将成为多年来的现状。”

Brynjolfsson指出，他自己对该主题的研究，评估各种工作中使用的各种具体任务，表明自动化往往取代一些但不是全部的任务。

Brynjolfsson说：“在这些职业中，没有一个机器学习能够完成任务。” “你不仅可以经常插入机器。”然而，他指出，计算机可以篡夺某些任务这一事实意味着“重新发明和重新设计”对许多工作来说都是必要的。尽管如此，正如Brynjolfsson强调的那样，“这个过程将持续多年，即使不是几十年。”

在此次活动中强调的一个主要观点是，人工智能政策制定在各个行业之间可能会有很大不同。对于自动驾驶汽车 - 也许是人工智能最受欢迎的应用 - 美国各州具有重要的规则制定能力，各州的法律可能差别很大。

在关于人工智能和交通运输的小组讨论中，安德鲁和埃尔娜维特比电气工程和计算机科学教授以及CSAIL主任Daniela Rus表示，她认为交通“是主要目标之一，也是采用的主要目标之一对于当前和不久的将来的人工智能技术。“

罗斯建议，在一些低速，不太复杂的环境中使用自动驾驶汽车可能会在五年左右的时间内完成，但她也明确表示自动驾驶汽车在更复杂，更高速的情况下表现不佳，并且在坏天气。

部分由于这些原因，许多自动驾驶汽车的特点是驾驶员可以接管控制系统。但正如罗斯指出的那样，“取决于人们瞬间接管的能力”，而研究目前显示，驾驶员需要9秒才能控制他们的车辆。

交通小组讨论还涉及AI在航海和航空系统中的使用。在后一种情况下，“你无法调查你的AI副驾驶的眼睛，并判断他们的信心，”联合技术公司战略技术副总裁约翰 - 保罗克拉克说，关于人机界面的复杂动态。

在其他行业，基本的人工智能挑战涉及数据访问，Torralba和CSINA和EECS的麻省理工学院教授Regina Barzilay都强调了这一点。在一个关于医疗保健的小组讨论中，Barzilay介绍了她的研究的一个方面，该研究使用机器学习来分析乳房X线照片结果，以便更好地早期发现癌症。在Barzilay看来，人工智能政策可以解决她工作中的关键技术挑战，包括获取更多数据和跨群体测试 - 这两者都有助于完善自动化检测工具。

然而，关于如何最好地创建患者数据访问的问题导致了一些活跃的后续交流。特朗普政府前卫生和人类服务部长Tom Price表示，“去识别数据绝对是进一步发展的关键”，而听众中的一些麻省理工学院研究人员表示，创建完全匿名的患者数据实际上是不可能的。 。

哈佛肯尼迪学院经济政策实践教授，奥巴马白宫经济顾问委员会前主席杰森弗曼解决了保险公司根据人工智能产生的预测拒绝向人们报道的担忧。人们很可能在以后的生活中患上疾病。弗曼认为，解决这个问题的最佳解决方案不在人工智能领域：根据预先存在的条件防止拒绝护理，这是“平价医疗法案”的一个要素。

但整体而言，弗曼补充道，“人工智能的真正问题在于我们没有足够的人力资源。”

对于他而言，Weitzner建议，代替完全匿名的医疗数据，“我们应该就数据的允许用途和不允许的用途达成一致”，因为“正确认真地认真对待问责制的正确方法” “。

就此而言，组织的问责制构成了周二讨论的另一个试金石，特别是在执法和人工智能小组中。

“政府实体需要对他们在人工智能方面的工作保持透明，”哈佛大学法学院讲师，FBI前任总法律顾问吉姆贝克说。“我认为这很明显。”

美国公民自由联盟马萨诸塞州分会执行主任卡罗尔罗斯警告不要在执法中过度使用人工智能工具

“我认为人工智能有巨大的希望，但这实际上取决于数据科学家和执法部门是否合作，”罗斯说，这表明一定数量的“垃圾科学”已经进入了向执法官员推销的工具中。 。罗斯还引用麻省理工学院媒体实验室的Joy Buolamwini作为评估此类AI工具的领导者; Buolamwini成立了Algorithmic Justice League，这是一个审查面部识别技术使用的团体。

总而言之，正如埃德尔曼在闭幕词中指出的那样，政策世界由“非常不同的法律体系”组成，政策制定者需要问自己一般法规在多大程度上是有意义的，或者如果人工智能政策问题最好以更具体的方式解决 - 无论是医学，刑事司法还是交通运输。

“我们的目标是看到这些领域之间的相互联系......但正如我们所做的那样，我们也要问自己，”人工智能治理“是否是正确的框架 - 可能只是在不久的将来，所有治理都涉及人工智能问题，无论如何，“爱德曼说。

Weitzner在会议结束时呼吁各国政府继续与计算机科学和人工智能技术社区合作。“塑造世界未来的技术正在发展中。如果我们继续将这种对话作为通知技术设计和跨学科研究的方式，我们就有机会确保它们满足社会的需求。“