新的PyTorch发布了!添加TorchScript API,扩展ONNX导出……关注4个新功能-量子比特
铜之灵来自凹非寺
量子出品|公众号QbitAI
今天,pytorch版本1.2.0正式发布。
官方称,与1.1版相比,新版本在使用体验方面迈出了更大的一步。主要新增功能/更改包括:。
除了完善TorchScript环境、将模型编译为TorchScrip的新API扩展ONNX模型导出支持增强Transformer架构的模块级支持外,TensorBoard现在也可以使用了
对于这一系列的更新,Reddit网友非常高兴。
有网友评价说,Transformer层非常棒,以前需要使用自己的定制层,现在终于不需要维护了。
TensorBoard不再是一个实验功能。RIP,浏览器。
总之,1.2.0版的PyTorch更方便易用。一起看具体的更新。
四大更新
TorchScript编译器
TorchScript编译器最初出现在1.0版中。您可以将PyTorch模型转换为静态表示,以便在Python不可用的受限环境中进行优化和运行。
新版本扩展了TorchScript对PyTorch模型中使用的Python子集的支持,并提供了新的易于使用的API来将模型编译为TorchScript。
到目前为止,TorchScript编译器逐步将模型转换为TorchScript,并将编译后的代码与Python无缝混合。新API允许将nn.Modules转换为ScriptModules。
让我们来看一下使用示例。
扩展ONNX导出
作为一种开源的模型交换形式,通过在不同的框架中以相同的形式存储和交互模型数据,ONNX的出现大大节省了开发人员的时间。
在PyTorch的最新版中,开发者进一步扩展了ONNX导出。
主要包括:。
它支持各种各样的Opset,包括在Opset10中导出dropout、slice、flip、interpolate、ScriptModule改进、作为多个Tensor factory和tuples输入输出的新10多个附加PyTorch operator支持
nn.Transformer模块
1.2.0版pytorch包含标准的nn.Transformer模块。此模块完全依赖于注意机制,以明确输入和输出之间的全局依赖关系。这些组件可以独立使用。
例如,nn.TransformerEncoder可以单独使用,不需要更大的nn.Transformer。新API包括nn.transformernn.transformerencoder和nn.transformerencoderlayernn.transformerdecoder和nn.TransformerDecoder层
Tensorboard
还有一个更新。如果输入Fromtorch.utils.tensorboardimportsummarywriter,则可以直接使用。
如果安装了TensorBoard,这些实用程序可以在目录中记录PyTorch模型和标准,用户可以在TensorBoard UI中可视化。
更新×3
这次更新的不仅有PyTorch1.2,还有torchvision0.4、torchaudio0.3和torchtext0.4。
版本0.4包括:。
可用于读写视频文件和音频文件的I/O基本体支持任何编码和格式。
与torch.utils.data.Dataset和torch.utils.data.DataLoader兼容的标准视频数据集。
基于Kinetics-400数据集构建的预培训模型。可用于视频(培训脚本)行为分类。
用于训练自己视频模型的参考训练脚本
torchaudio0.3主要旨在让机器解释声波,在新版本中,以标准化、复数(complex number)、转换(再采样)为中心进行了改进,torchaudio的转换接口也得到了更新。
当torchtext0.4是目标时,NLP研究可用于处理基于原始文本的数据。
此次更新的版本包含了很多学习带有“one-command”数据加载的baseline的人气导演,同时也更新了使用新数据集进行文本分类分析的方法教程。
接送门
PyTorch介绍:
htps://pytorch.org/blog/pytorch-1.2-and-domain-API-release/
GitHub地址:
htps://github.com/pytorch/pytorch/releases
-结束了
认真征集
量子招聘编辑/记者,工作地点在北京中关村。期待有才气、热情的同学参加!有关详细信息,请在量子比特公开号码(QbitAI)的对话界面上回复“招聘”两个字。
量子比特QbitAI·头条号合同作者
#8217; #8217; 追踪AI技术和产品的新动向