モデル変換におけるテンプレートプロジェクトのセットアップ

この記事では、モデル変換におけるテンプレートプロジェクトのセットアップとカスタマイズ方法を紹介します。特定のモデル、データセット、ワークフローのニーズに合わせて、sample.json、model_project.config などの設定ファイルを編集する手順を案内します。

テンプレートプロジェクトを作成すると、以下のファイルが生成されます。テンプレートプロジェクトを機能させるには、プロジェクトのreadmeに従い、必要に応じてパラメータを更新してください。

sample.json の更新

サンプルを動作させるには、以下のプロパティを入力する必要があります。例:

• MODEL_PATH: Intel/bert-base-uncased-mrpc
• MODEL_TASK: text-classification
• DS_NAME: glue
• DS_SUBSET: mrpc
• DS_SPLIT: validation
• DATA_COLS: [ "sentence1", "sentence2" ]
• FIXED_PARAMS: [ "batch_size", "sequence_length" ]
• FIXED_VALUES: [ 1, 128 ]

ニーズに合わせて他のパラメータも調整できます。

• execution_providers: [ "CPUExecutionProvider" ]: QNNExecutionProvider などの他のプロバイダに変更可能です。対応するデバイス上で実行する必要があります。
• max_length: 128 / batch_size: 1: 静的量子化を行う場合、入力サイズを固定する必要があります。FIXED_VALUES と一致するように調整してください。
• max_samples: 100: 使用するサンプル数です。

model_project.config の更新 (任意)

ワークフローの name を、実行内容がわかるように更新してください。これにより、ワークフローリストから選択しやすくなります。

modelInfo の displayName と modelLink を、使用しているものに更新してください。これにより、モデルリストから選択しやすくなります。

sample.custom.config の更新 (任意)

このファイルは Run パネルと Re-evaluate パネルのレンダリングに使用されます。sample.json に合わせてパラメータの追加や削除が可能です。JSON のプロパティ名を変更した場合は、パスの更新が必要になることがあります。

inference_sample.ipynb の更新 (任意)

出力モデルをロードしてテストするためのコードを記述してください。このファイルは履歴（history）フォルダにコピーされるため、異なる ipynb を使用して、異なる履歴のモデルを比較することができます。