谷歌的人工智能TPU芯片现在可以在其公共云上使用

谷歌有限责任公司（GoogleLLC）今天通过增加Tensor ProcessingUnities来支持其公共云平台，Tensor ProcessingUnities是一个内部设计的芯片系列，专门为人工智能工作量提供动力。

一个TPU（图）由四个特定于应用程序的集成电路组成，并配有64G的“超高带宽”存储器。该组合单元可以提供多达180个触发器，或每秒万亿个浮点运算，一个标准的计算机性能单元。今年晚些时候，谷歌计划添加一个聚类选项，该选项将允许云客户将多个TPU组合成一个“豆荚”，其速度在pe taflop范围内，或为teraflop的1000倍。

在今天的公告中，该公司没有分享更多的业绩细节。然而，去年谷歌两位顶级工程师撰写的一篇博客文章显示，当时内部使用的豆荚包括64个TPU，其总输出为11.5个触发器。相比之下，世界上最强大的超级计算机只有93台，尽管值得注意的是，这家搜索巨头很可能没有使用相同的基准方法来测量TPU的速度。

无论哪种方式，芯片代表了谷歌云平台的一个主要补充。当谷歌去年4月首次让世界看到TPU的规格时，它透露芯片至少可以运行某些机器学习工作量，比现成的硅快15到30倍。这包括图形处理单元，它们特别适合机器学习模型。主要由英伟达（NvidiaCorp.）以及先进微型设备公司（Advanced Micro Device Inc.）制造，它们仍然是当今大多数项目的首选。

因此，谷歌的云客户应该获得更快地训练和运行其AI软件的能力。谷歌机器学习研究和开发背后的谷歌大脑团队领导人杰夫·迪恩（Jeff Dean）在推特（Twitter）上说，一个单一的云T PU可以用来实现流行的ResNet-50图像分类模型，在24小时内达到75%的准确率，总成本不到200美元。

谷歌已经创建了几个预先优化的神经网络包，客户可以在TPU上运行。阵容包括一个版本的ResNet-50，以及机器翻译的模型，语言建模和识别图像中的对象。公司还可以使用谷歌的开源TensorFlow机器学习引擎创建自己的AI工作负载。

喜欢在AI项目中使用传统图形卡的客户今天也收到了一个新的功能。谷歌在其Kubernetes引擎服务中增加了GPU支持，以允许将机器学习模型打包到软件容器中。后一种技术提供了一个轻量级的抽象层，使开发人员能够更容易地展开更新和跨环境移动应用程序。

新的TPU每小时6.50美元，而通过Kubernetes引擎租用的GPU将以谷歌现有的费率为每个支持的芯片模型收费。

芯片对各种各样的人工智能任务有多准备，特别是对于严重的计算机工作量，仍然不确定。Moor Insights&；Strategy总裁兼首席分析师帕特里克？”GPU是最好的培训方式。锁定TPU意味着锁定GCP和TensorFlow。

更有甚者，摩尔黑德的同事卡尔·弗伦德（Karl Freund）在《福布斯》（Forbes）上写道，谷歌的成本和速度索赔并不真正成立。“考虑到显而易见的事实，人们确实不得不对谷歌的营销大胆感到有点惊叹：谷歌的4芯片兽，充满了64GB昂贵的高带宽内存，每个性能单位的成本大约比英伟达的单芯片（1年前的特斯拉V100GPU加速器）高出33%，”他加起来比这要快3倍。

谷歌也不是唯一一个追求自己AI芯片的公司。芯片巨头英特尔公司（Intel Corp.）一直在宣传其最新的人工智能工作负载中央处理单元，以及被称为现场可编程门阵列的定制芯片。今天，TheInfor mation报道说，Amazon.com公司正在开发自己的AI芯片，以帮助其Echo智能扬声器和其他使用Alexa数字助理的硬件在设备上进行更多的处理，这样它就可以比向云呼叫更快地响应。