节能芯片可以执行强大的人工智能任务

近年来，人工智能领域的一些最令人兴奋的进步已经成为卷积神经网络，简单信息处理单元的大型虚拟网络，它们在人类大脑的解剖学上松散地建模。

神经网络通常使用图形处理单元(GPU)来实现，所述图形处理单元是在具有屏幕的所有计算设备中找到的专用图形芯片。移动GPU是手机中的类型，可能有近200个内核或处理单元，非常适合模拟分布式处理器网络。

在本周于旧金山举行的国际固态电路会议上，麻省理工学院的研究人员提出了一种专门用于实现神经网络的新芯片。它的效率是移动GPU的10倍，因此它可以使移动设备在本地运行强大的人工智能算法，而不是将数据上传到Internet进行处理。

神经网络在人工智能研究的早期被广泛研究，但到了20世纪70年代，它们已经失宠了。然而，在过去十年中，他们以“深度学习”的名义享受了复兴。

研究人员称之为“Eyeriss”的新芯片也可以帮助引入“物联网” - 车辆，电器，土木工程结构，制造设备，甚至牲畜都会有传感器直接报告信息的想法联网服务器，帮助维护和任务协调。借助强大的人工智能算法，联网设备可以在本地做出重要决策，只将结论而非原始个人数据委托给互联网。当然，板载神经网络对电池供电的自动机器人很有用。

神经网络通常被组织成层，并且每个层包含大量处理节点。数据进入并在底层的节点之间划分。每个节点操纵它接收的数据并将结果传递给下一层中的节点，这些节点操纵它们接收的数据并传递结果，依此类推。最后一层的输出产生了一些计算问题的解决方案。

在卷积神经网络中，每层中的许多节点以不同的方式处理相同的数据。因此，网络可以膨胀到很大的比例。虽然它们在许多视觉处理任务上胜过更多传统算法，但它们需要更多的计算资源。

由神经网络中的每个节点执行的特定操作是训练过程的结果，其中网络试图找到原始数据与由人类注释器应用于其的标签之间的相关性。使用像麻省理工学院研究人员开发的芯片，可以将训练有素的网络简单地导出到移动设备中。

该应用对研究人员施加了设计约束。一方面，降低芯片功耗和提高效率的方法是使每个处理单元尽可能简单; 另一方面，芯片必须足够灵活，以实现针对不同任务量身定制的不同类型的网络。

Sze和她的同事 - Yu-Hsin Chen，电气工程和计算机科学研究生，会议论文的第一作者; Joel Emer，麻省理工学院电气工程与计算机科学系的实践教授，芯片制造商NVidia的高级杰出研究科学家，以及Sze，该项目的两位主要研究人员之一; 和Tushar Krishna一起担任新加坡 - 麻省理工学院研究与技术联盟的博士后工作，现在是乔治亚理工学院计算机和电气工程的助理教授 - 定居在拥有168个核心的芯片上，大致与移动GPU有。

Eyeriss效率的关键在于最小化核心与远程存储体交换数据所需的频率，这种操作会消耗大量的时间和精力。虽然GPU中的许多内核共享一个大型内存库，但每个Eyeriss内核都有自己的内存。此外，芯片具有在将数据发送到各个核之前压缩数据的电路。

每个核心也能够直接与其直接邻居通信，因此，如果他们需要共享数据，则不必将其路由到主存储器。这在卷积神经网络中是必不可少的，其中许多节点正在处理相同的数据。

芯片效率的最后一个关键是专用电路，可以跨核心分配任务。在其本地存储器中，核心不仅需要存储由其模拟的节点操纵的数据，还需要存储描述节点本身的数据。可以针对不同类型的网络重新配置分配电路，以最大化在从主存储器获取更多数据之前它们中的每一个可以做的工作量的方式跨核来自动分配两种类型的数据。

在会议上，麻省理工学院的研究人员使用Eyeriss实现了一个执行图像识别任务的神经网络，这是第一次在定制芯片上演示了最先进的神经网络。

“这项工作非常重要，展示了深度学习的嵌入式处理器如何提供功率和性能优化，将这些复杂的计算从云端带到移动设备，”三星移动处理器创新实验室的高级副总裁Mike Polley说。“除硬件考虑因素外，麻省理工学院的论文还通过支持行业标准的[网络架构] AlexNet和Caffe，仔细考虑如何使嵌入式核心对应用程序开发人员有用。”

麻省理工学院研究人员的工作部分由DARPA资助。