PyTorch是时下最流行的AI框架,寒武纪对其进行了定制化开发,新增了对寒武纪加速板卡及寒武纪AI软件栈的支持,通常称之为Cambricon PyTorch。相比于原生PyTorch,用户基本不用做任何代码改动即可快速地将AI模型迁移至Cambricon PyTorch上。
针对CV 分类、检测、分割、NLP、语音等场景常用的各类经典和前沿的AI模型,本仓库展示了如何对其进行适配,使其可运行在Cambricon PyTorch上。开发者在进行其他AI 应用移植时可参考本仓库。
CV:
| MODELS | FRAMEWORK | Train Mode | Distributed Train | Infer Mode |
|---|---|---|---|---|
| ResNet50 | PyTorch1.6 | FP32&& | YES | CNNL |
| ResNet18 | PyTorch1.6 | FP32 | YES | CNNL |
| VGG16 | PyTorch1.6 | FP32&& | YES | CNNL |
| MobileNetv2 | PyTorch1.6 | FP32&& | YES | CNNL |
| AlexNet | PyTorch1.6 | FP32 | YES | CNNL |
| GoogLeNet | PyTorch1.6 | FP32&& | YES | CNNL |
| ResNet101 | PyTorch1.6 | FP32 | YES | CNNL |
| VGG19 | PyTorch1.6 | FP32 | YES | CNNL |
| VGG16_bn | PyTorch1.6 | FP32 | YES | CNNL |
| ShuffleNet_v2_x0_5 | PyTorch1.6 | FP32 | YES | CNNL |
| ShuffleNet_v2_x1_0 | PyTorch1.6 | FP32 | YES | CNNL |
| ShuffleNet_v2_x1_5 | PyTorch1.6 | FP32 | YES | CNNL |
| ngc-resnet50v1_5 | PyTorch1.6 | FP32&& | YES | CNNL |
| Inceptionv2 | PyTorch1.6 | FP32&& | YES | CNNL |
| Inceptionv3 | PyTorch1.6 | FP32&& | YES | CNNL |
| Inceptionv4 | PyTorch1.9 | FP32&& | YES | CNNL |
| OLTR | PyTorch1.6 | FP32 | NO | CNNL |
| P3D | PyTorch1.6 | FP32 | FP32&& | CNNL |
| Swin-Transformer-SSL | PyTorch1.9 | FP32&& | YES | CNNL |
| swin_transformer | PyTorch1.6 | AMP | YES | CNNL |
| crnn | PyTorch1.6 | FP32 | YES | CNNL |
| FasterRCNN | PyTorch1.6 | FP32 | YES | CNNL |
| MaskRCNN | PyTorch1.6 | FP32 | YES | CNNL |
| RFBNet | PyTorch1.6 | FP32 | FP32&& | CNNL |
| SSD_ResNet50 | PyTorch1.6 | FP32&& | YES | CNNL |
| SSD_VGG16 | PyTorch1.6 | FP32&& | YES | CNNL |
| PointPillar | PyTorch1.9 | FP32 | YES | CNNL |
| unet3d | PyTorch1.6 | FP32 | YES | CNNL |
| CycleGAN_and_pix2pix | PyTorch1.6 | FP32 | NO | CNNL |
| enet | PyTorch1.9 | FP32&& | YES | CNNL |
NLP:
| MODELS | FRAMEWORK | Train Mode | Distributed Train | Infer Mode |
|---|---|---|---|---|
| transformer | PyTorch1.6 | FP32 | YES | CNNL |
| BERT | PyTorch1.6 | FP32 | YES | CNNL |
| bert-base-cased | PyTorch1.6 | FP32&& | YES | CNNL |
| CRF | PyTorch1.6 | FP32 | NO | CNNL |
| bert_base_finetune_msra_ner | PyTorch1.6 | FP32&& | YES | CNNL |
| DeepSpeech2 | PyTorch1.6 | FP32 | YES | CNNL |
| MT5 | PyTorch1.6 && 1.9 | FP32&& | YES | CNNL |
SpeechSynthesis/:
| MODELS | FRAMEWORK | Train Mode | Distributed Train | Infer Mode |
|---|---|---|---|---|
| Tacotron2 | PyTorch1.6 | FP32 | YES | CNNL |
| WaveGlow | PyTorch1.6 | AMP | YES | CNNL |
| WaveRNN | PyTorch1.6 | FP32&& | YES | CNNL |
recommendation/:
| MODELS | FRAMEWORK | Train Mode | Distributed Train | Infer Mode |
|---|---|---|---|---|
| DLRM | PyTorch1.6 | FP32&& | YES | CNNL |
Speech/:
| MODELS | FRAMEWORK | Train Mode | Distributed Train | Infer Mode |
|---|---|---|---|---|
| speechbrain | PyTorch1.9 | FP32 | YES | CNNL |
PyTorch ModelZoo 的 License 具体内容请参见LICENSE文件。
PyTorch ModelZoo 仅提供公共数据集以及预训练模型的下载链接,公共数据集及预训练模型并不属于 PyTorch ModelZoo ,PyTorch ModelZoo 也不对其质量或维护承担责任。请您在使用公共数据集和预训练模型的过程中,确保符合其对应的使用许可。
如果您不希望您的数据集或模型公布在 PyTorch ModelZoo上,或者您希望更新 PyTorch ModelZoo中属于您的数据集或模型,请您通过 Gitee 中提交 issue,您也可以联系ecosystem@cambricon.com告知我们。
- Cambricon Torch支持v1.16.0(Cambricon SDK 1.14)
- Cambricon Torch支持v1.15.0(Cambricon SDK 1.13)
- Cambricon Torch支持v1.14.0(Cambricon SDK 1.12)
-
Cambricon Torch支持v1.13.0(Cambricon SDK 1.11)
-
CV: 新增enet网络的支持,MaskRCNN支持COCO2017数据集训练
-
NLP: 新增MT5网络的支持
-
Speech: 新增speechbrain网络的支持
-
Cambricon Torch支持v1.11.0
-
CV: 新增ResNet18/ResNet50/ResNet101/VGG16/VGG16_bn/VGG19/MobileNetv2/AlexNet/GoogLeNet/ShuffleNet_v2_x0_5/ShuffleNet_v2_x1_0/ShuffleNet_v2_x1_5/ngc-resnet50v1_5/Inceptionv2/Inceptionv3/Inceptionv4/OLTR/P3D/Swin-Transformer-SSL/swin_transformer/crnn/MaskRCNN/FasterRCNN/RFBNet/SSD_ResNet50/SSD_VGG16/PointPillar/unet3d/CycleGan_and_pix2pix网络的支持
-
NLP: 新增transformer/BERT/bert-base-cased/CRF/bert_base_finetune_msra_ner/DeepSpeech2网络的支持
-
SpeechSynthesis: 新增Tacotron2/WaveGlow/WaveRNN网络的支持
-
Recommendation: 新增DLRM网络的支持