要闻

当前位置/ 首页/ 要闻/ 正文

PyTorch 1.3带来了量化和TPU支持带来的速度提升

导读 Face book今天发布了最新版本的深度学习库Py Torch,并提供了量化和GoogleCloud TPU支持,以更快地训练机器学习模型。 传感器处理单元的支持始于用单片机训练模型的能力,后来将

Face book今天发布了最新版本的深度学习库Py Torch,并提供了量化和GoogleCloud TPU支持,以更快地训练机器学习模型。

传感器处理单元的支持始于用单片机训练模型的能力,后来将扩展到Cloud Pods,Face bookCTOMikeSchroepfer今天说。

今天还有新的Py TorchMobile,用于从Android和iOS设备开始在边缘设备上部署ML;CryptTen,一种用于加密机器学习的工具;Captum,一种用于解释机器学习模型的工具。

这个消息今天在旧金山中途举行的Py火炬开发者大会上

今天,Py火炬1.3提供了量化模型的能力,以推断服务器或移动设备。 量化是一种降低精度执行计算的方法。

最新版本的Py火炬将支持8位整数的热切模式量化与热切模式PythonAPI,并将允许训练后量化在各种方法,如动态量化和量化感知训练。

今年春天,谷歌的TensorFlowLite1.0也引入了量化。

Py Torch项目经理乔·斯皮萨克在接受Venture Beat的电话采访时说,1.3版还附带了名为“张量”(一种编写更干净代码的方法)。

“这真的是为了让你写更干净的代码,”他说。 “我实际上能够将这些代码嵌入到代码中,而不是有一个注释,上面写着,嘿,这个数字是高度,这个数字是宽度等,所以我会说更多的是可读的、更干净的代码和更可维护的代码。

今年3月,在TensorFlow DevSummit上,TensorFlow Federal和TensorFlowPrivacy宣布,今天的版本与联邦学习的其他进展一起。

Face book一直在与谷歌的深度思维研究科学家安德鲁·特拉斯克(Andrew Trask)合作开发隐私保护模型,他今年春天推出了一个Udacity课程,教开发者如何使用联邦学习和PySyft等工具,这是一个开源项目,有一个用于加密深度学习的图书馆,扩展了Py Torch、TensorFlow和Keras。

Face book还推出了两个新的开源框架:Detectron2,一个新版本的Detectron对象检测系统,以及通常用于翻译的语音识别扩展。

今年春天,在支持Tensor Board的F8开发人员会议上,Py火炬1.1发布。

在过去的两年里,Face book已经放弃使用其前身Torch或Caffe2,以努力使Py Torch成为深度学习的主要工具,CTOMikeSchroepfer在会议开始时说。 这对于让研究人员和开发人员保持同一页是至关重要的。

“这意味着它现在是在Face book上进行机器学习[和]深度学习的实际工具,不仅用于有机地进行的研究,而且用于生产,因此我们的绝大多数模型现在都是在Py火炬上训练的,”Schroepfer在舞台上说。 “在计算机视觉、NLP、语音、翻译等多个领域都是如此——所有这些系统现在都在使用Py Torch。

他说,特斯拉、微软、优步等大公司也采用了Py火炬。

在过去的一年里,Py火炬深度学习图书馆在人工智能从业者中的知名度大大提高。 现在有近1200名开发商为开源项目做出了贡献,6月发布的一项O‘Reilly分析发现,ar Xiv提到的Py火炬从1月到6月上升了194%,现在与TensorFlow提到的一样。