モデル変換におけるテンプレートプロジェクトのセットアップ

この記事では、モデル変換でテンプレートプロジェクトをセットアップおよびカスタマイズする方法について説明します。sample.json、model_project.configなどの設定ファイルを編集して、特定のモデル、データセット、ワークフローのニーズに合わせて調整する方法を案内します。

テンプレートプロジェクトを作成すると、以下のファイルが作成されます。テンプレートプロジェクトを機能させるには、プロジェクトのreadmeに従って、必要に応じてパラメーターを更新してください。

sample.jsonの更新

サンプルを動作させるには、以下のプロパティを入力する必要があります。例：

• MODEL_PATH: Intel/bert-base-uncased-mrpc
• MODEL_TASK: text-classification
• DS_NAME: glue
• DS_SUBSET: mrpc
• DS_SPLIT: validation
• DATA_COLS: [ "sentence1", "sentence2" ]
• FIXED_PARAMS: [ "batch_size", "sequence_length" ]
• FIXED_VALUES: [ 1, 128 ]

その他のパラメータも必要に応じて調整できます。

• execution_providers: [ "CPUExecutionProvider" ]: QNNExecutionProviderのような他のプロバイダーの場合。対応するデバイスで実行する必要があります。
• max_length: 128 / batch_size: 1: 静的量子化の場合、入力サイズは固定する必要があります。これらをFIXED_VALUESと一致するように調整します。
• max_samples: 100: 使用されるサンプルの数。

model_project.configの更新 (オプション)

ワークフローのnameを、行いたいことを反映するように更新します。これにより、ワークフローリストから選択しやすくなります。

modelInfoのdisplayNameとmodelLinkを、使用しているものに更新します。これにより、モデルリストから選択しやすくなります。

sample.custom.configの更新 (オプション)

このファイルは、RunパネルとRe-evaluateパネルをレンダリングするために使用されます。sample.jsonと一致するようにパラメータを削除または追加できます。JSONプロパティ名を変更した場合は、パスの更新が必要になる場合があります。

inference_sample.ipynbの更新 (オプション)

独自のコードを記述して、出力モデルをロードしてテストします。このファイルは履歴フォルダにコピーされるため、異なるipynbを使用して異なる履歴のモデルを比較できます。