TensorFlow模型合并工具

這個工具可以合并所有 TensorFlow 模型到同一個可以用于 TensorFlow Serving 格式的大模型. 它有如下優(yōu)勢

  • 可以將小模型合并到同一模型中, 更容易部署.
  • 因?yàn)榭梢院喜? 故每次部署的模型名字都是相同的, 只是版本不同, 根據(jù) TensorFlow Serving 的特性, 可以進(jìn)行熱部署.

詳情查看 GitHub.

用法

  1. 將訓(xùn)練并 frozen 后的模型放入 ./frozen 文件夾下;
  2. 在 export_serving_model.py 中添加導(dǎo)出信息;
    • 設(shè)置更新信息 UPDATE_MESSAGE
    • 定義導(dǎo)出函數(shù)
    • 在函數(shù)上方添加 @ServingInfo.export 修飾即可導(dǎo)出(如不添加, 則不導(dǎo)出此模型)
  3. 運(yùn)行 export_serving_model.py 腳本;
  4. 將 ./serving/{version} 拷貝到服務(wù)器部署;

說明

運(yùn)行 export_serving_model.py 會自動在文件夾 ./serving 中生成(或修改)兩個文件:

  • current_version: 表示當(dāng)前版本, 里面記錄了更新信息.
  • exported_models: 表示已導(dǎo)出的模型.

已導(dǎo)出的模型

model signature_name input_signature_map output_signature_map frozen location(./frozen)
[model description] hyaudio_1 'inputs':'hyaudio/vggish_input:0' 'classes':'hyaudio/predict_classes:0', 'probs':'hyaudio/predict_probs:0' audio/hyaudio.pb
[model description] hyaudio_2 'inputs':'hyaudio/vggish_input:0' 'classes':'hyaudio/predict_classes:0', 'probs':'hyaudio/predict_probs:0' audio/hyaudio.pb

檢查導(dǎo)出的模型

使用官方的 SavedModel CLI 工具.

查看所有 SignatureDef 簽名:

saved_model_cli show --dir ./serving/1 --tag_set serve

查看指定模型的所有輸入, 輸出節(jié)點(diǎn)信息:

saved_model_cli show --dir ./serving/1 --tag_set serve --signature_def audio_hyaudio
最后編輯于 ：
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡書系信息發(fā)布平臺，僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容