Paddle模型轉(zhuǎn)PaddleLite模型
一、標(biāo)準(zhǔn)模型格式
PaddlePaddle 模型有兩種保存格式：
Combined Param ：所有參數(shù)信息保存在單個(gè)文件params中，模型的拓?fù)湫畔⒈４嬖?strong>model文件中。
Seperated Param：參數(shù)信息分開保存在多個(gè)參數(shù)文件中，模型的拓?fù)湫畔⒈４嬖?strong>model文件中
通過opt導(dǎo)出工具可以直接導(dǎo)出

#Seperated Param
./opt --model_dir=./mobilenet_v1 --valid_targets=x86 --optimize_out_type=naive_buffer --optimize_out=mobilenet_v1_opt

#Combined Param
./opt --model_file=./mobilenet_v1/__model__ --param_file=./mobilenet_v1/params --valid_targets=x86 --optimize_out_type=naive_buffer --optimize_out=mobilenet_v1_opt

二、預(yù)訓(xùn)練模型格式
1、轉(zhuǎn)inference 模型

#下載預(yù)訓(xùn)練模型
wget -P ./product_pretrain/ https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/pretrain/product_ResNet50_vd_Aliproduct_v1.0_pretrained.pdparams

#轉(zhuǎn)換為inference模型
# -c 后面設(shè)置訓(xùn)練算法的 yml 配置文件
# -o 配置可選參數(shù)
# Global.pretrained_model 參數(shù)設(shè)置待轉(zhuǎn)換的訓(xùn)練模型地址，不用添加文件后綴 .pdmodel，.pdopt 或 .pdparams。
# Global.save_inference_dir 參數(shù)設(shè)置轉(zhuǎn)換的模型將保存的地址。
python3 tools/export_model.py -c ppcls/configs/Products/ResNet50_vd_Aliproduct.yaml -o Global.pretrained_model=./product_pretrain/product_ResNet50_vd_Aliproduct_v1.0_pretrained -o Global.save_inference_dir=./deploy/models/product_ResNet50_vd_aliproduct_v1.0_infer

轉(zhuǎn)換成功后目錄
├── product_ResNet50_vd_aliproduct_v1.0_infer
│ ├── inference.pdiparams # 識(shí)別 inference 模型的參數(shù)文件
│ ├── inference.pdiparams.info # 識(shí)別 inference 模型的參數(shù)信息，可忽略
│ └── inference.pdmodel # 識(shí)別 inference 模型的 program 文件

PaddleGAN項(xiàng)目腳本和PaddleCls腳本不太一樣，具體參數(shù)不同

python3 -u tools/export_model.py -c configs/stylegan_v2_256_ffhq.yaml  --load stylegan2-ffhq-config-f-directions.pdparams --inputs_size="1,1,512;1,1" 

2、inference模型轉(zhuǎn)nb模型
通過opt工具轉(zhuǎn)化nb模型

./opt --model_file=./inference.pdmodel --param_file=./inference.pdiparams --valid_targets=x86 --optimize_out_type=naive_buffer --optimize_out=product_ResNet50_vd_aliproduct_v1_opt

轉(zhuǎn)化過程如果有不支持的op會(huì)提示失敗，因?yàn)镻addle支持的op目前PaddleLite不支持，需要將不支持的op對應(yīng)的架構(gòu)版本源碼編寫測試通過后重新編譯PaddleLite和opt工具

Error: This model is not supported, because 1 ops are not supported on 'x86'. These unsupported ops are: 'matmul_v2'.

查看所有架構(gòu)支持的op

./opt --print_all_ops=true 

查看x86支持的op

./opt --print_supported_ops=true --valid_targets=x86

將系統(tǒng)架構(gòu)改為opencl可以轉(zhuǎn)換成功

./opt --model_file=./inference.pdmodel --param_file=./inference.pdiparams --valid_targets=opencl --optimize_out_type=naive_buffer --optimize_out=product_ResNet50_vd_aliproduct_v1_opt

Paddle模型轉(zhuǎn)ONNX

通過pip安裝paddle2onnx

pip install paddle2onnx

轉(zhuǎn)換命令

paddle2onnx \
    --model_dir [model dir] \
    --model_filename [model filename] \
    --params_filename [params filename] \
    --save_file [save file] \
    --opset_version [opset version]

支持的op列表

https://paddle-lite.readthedocs.io/zh/latest/quick_start/support_operation_list.html