您现在的位置是: 首页 > 人工智能 >

Facebook的PyTorch AI框架增加了对移动应用程序部署的支持

  • 2020-03-25 11:09:03    来源:   作者:

Facebook Inc.今天更新了其流行的人工智能软件框架PyTorch,其中包含对新功能的支持,这些新功能可将AI模型更无缝地部署到移动设备。
 Facebook的PyTorch AI框架增加了对移动应用程序部署的支持

开发人员可以使用PyTorch 研究和构建用于软件应用程序的AI模型,然后借助与领先的公共云平台的集成将这些应用程序直接用于生产。PyTorch最初是由Facebook的AI研究小组构建的,它是针对编程语言Python的机器学习功能库。

它主要设计用于深度学习,深度学习是机器学习的一个分支,试图模仿人脑的运作方式。它在语言翻译,图像和语音识别等领域取得了重大突破。

在移动设备上运行机器学习的能力非常重要,因为应用程序可以从较低的延迟中受益匪浅。如果应用程序可以自行处理数据而无需将其发送到云,那么毕竟,一切将变得更加流畅。
 Facebook的PyTorch AI框架增加了对移动应用程序部署的支持

这就是Facebook试图在最新版本的PyTorch中解决的问题,它支持从Python到在iOS和Android上部署的“端到端工作流程”。Facebook的PyTorch团队在博客文章中表示,这仍然是一项试验性功能,并且仍有很多工作要做,以提高移动中央处理器和图形处理器上机器学习模型的性能。

第二项实验功能旨在在构建机器学习应用程序时更有效地利用服务器端和设备上的计算资源。对“八位模型量化”的支持的增加是在推理过程中提高性能的一种努力,在推理过程中,这是训练有素的机器学习模型得出结论或做出预测时。量化是指用于以降低的精度执行计算和存储的技术。
 Facebook的PyTorch AI框架增加了对移动应用程序部署的支持

“为支持在服务器和边缘设备上进行更有效的部署,PyTorch 1.3现在使用熟悉的急切模式Python API支持8位模型量化,” PyTorch团队写道。

PyTorch还获得了一个名为Captum的新工具,该工具旨在帮助开发人员更好地理解为什么他们的机器学习模型可以得出一定结论。

PyTorch团队写道:“ Captum提供了先进的工具,以了解特定神经元和层的重要性如何影响模型做出的预测。” “ Captum的算法包括集成的梯度,电导,SmoothGrad和VarGrad以及DeepLift。”

其他更新包括发布Detectron2对象检测库,以帮助进行计算机视觉研究。此外,Facebook还宣布了一个新的基于社区的研究项目CrypTen的启动,该项目将探索隐私和安全技术的实施,例如安全的多方计算,受信任的执行环境以及使用PyTorch进行的设备上计算。

最后,Facebook表示,PyTorch现在支持Google Cloud的Tensor处理单元,以更快地开发和训练机器学习模型:“当组装到称为Cloud TPU Pods的多机架ML超级计算机中时,这些TPU可以在数分钟或数小时内完成ML工作负载;在其他系统上,这些工作负载以前需要几天或几周的时间。”

Constellation Research Inc.的分析师Holger Mueller告诉SiliconANGLE,今天的更新显示Facebook在PyTorch及其相关服务方面取得了稳步的进展。

“不过,关键问题是,与Google的TensorFlow相比,PyTorch能够弥合多少差距?” 穆勒说。“两者都是移动的目标,开发人员的采用将提供答案。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。
Top