モデル変換でテンプレートプロジェクトを設定する

この記事では、モデル変換でテンプレートプロジェクトを設定およびカスタマイズする方法を紹介し、sample.json、model_project.configなどの構成ファイルを編集して、特定のモデル、データセット、ワークフローのニーズに合わせて調整する方法を説明します。

テンプレートプロジェクトを作成すると、以下のファイルが作成されます。テンプレートプロジェクトを機能させるには、プロジェクトのreadmeに従って、必要に応じてパラメーターを更新してください。

sample.jsonの更新

サンプルを機能させるには、以下のプロパティを入力する必要があります。例えば

• MODEL_PATH: Intel/bert-base-uncased-mrpc
• MODEL_TASK: text-classification
• DS_NAME: glue
• DS_SUBSET: mrpc
• DS_SPLIT: validation
• DATA_COLS: [ "sentence1", "sentence2" ]
• FIXED_PARAMS: [ "batch_size", "sequence_length" ]
• FIXED_VALUES: [ 1, 128 ]

必要に応じて他のパラメーターも調整できます

• execution_providers: [ "CPUExecutionProvider" ]: QNNExecutionProviderのような他のプロバイダーに。一致するデバイスで実行する必要があります
• max_length: 128 / batch_size: 1: 静的量子化の場合、入力サイズは固定されている必要があります。これらをFIXED_VALUESと一致するように調整します
• max_samples: 100: 使用されるサンプルの数。

model_project.configの更新 (オプション)

ワークフローのnameを、やりたいことを反映するように更新します。そうすることで、ワークフローリストから選択しやすくなります。

modelInfoのdisplayNameとmodelLinkを使用しているものに更新します。そうすることで、モデルリストから選択しやすくなります。

sample.custom.configの更新 (オプション)

このファイルはRunパネルとRe-evaluateパネルをレンダリングするために使用されます。sample.jsonと一致するようにパラメーターを削除または追加できます。JSONプロパティ名を変更した場合、パスの更新が必要になる場合があります。

inference_sample.ipynbの更新 (オプション)

出力モデルをロードしてテストするために独自のコードを記述します。このファイルは履歴フォルダにコピーされるため、異なるipynbを使用して異なる履歴からのモデルを比較できます。