人工智能如何启用Edge Computing

人工智能已成为采用边缘计算市场的主要参与者。边缘计算层最初仅用于为物联网部署提供更低的计算，存储和处理能力。此外，无法发送到云进行分析和处理的敏感数据也在边缘处理。此方法的另一个额外好处是减少了从往返到云的延迟。更快的响应时间允许在边缘积极过滤数据，并且还可以显着节省云存储和带宽的任何额外成本。

边缘计算已经能够提供三个基本功能，即更快的决策制定，过滤数据传输和本地数据处理。由于大多数决策最近都在利用人工智能，因此优势正在成为部署云培训机器学习模型的理想目的地。

所采用的方法依赖于利用GPU来加速培训。AWS，Azure和IBM等云提供商正在为其服务提供GPU。这与Tensorflow和PyTorch等现代深度学习框架相结合，可以在培训过程中实现大规模加速。

与公共云基础架构相比，边缘计算由于资源和计算能力有限而缺乏自身能力。在边缘部署的深度学习模型不能获得与公共云相同的马力。然而，为了弥合数据中心和边缘之间的差距，芯片制造商正在构建专用的加速器。虽然GPU仍然无法比拟，但这些芯片确实加速了推理过程。

目前市场上出现的三款AI加速器是NVIDIA Jetson，Intel Movidius和Myriad Chips，最后是Google Edge Tensor Processing Units。这三种产品都针对边缘管道工作流程进行了高度优化，未来几年的使用量将会增加。随着AI继续成为优势的关键驱动因素，硬件加速器和软件平台的组合对于运行推理模型变得越来越重要。通过加速AI推理，边缘将成为一个更有价值的工具，并改变我们所知道的ML管道。