VS Codeのエージェントモードを拡張するには、を試してください!

モデル変換でテンプレートプロジェクトを設定する

このドキュメントでは、モデル変換におけるテンプレートプロジェクトの設定方法とカスタマイズ方法を紹介し、特定のモデル、データセット、ワークフローのニーズに合わせてsample.json、model_project.configなどの設定ファイルを編集する手順を案内します。

テンプレートプロジェクトを作成すると、以下のファイルが生成されます。テンプレートプロジェクトを機能させるには、プロジェクトのREADMEに従って、必要に応じてパラメーターを更新してください。

Template project files

sample.json を更新する

サンプルを機能させるには、以下のプロパティを入力する必要があります。例:

  • MODEL_PATH: Intel/bert-base-uncased-mrpc
  • MODEL_TASK: text-classification
  • DS_NAME: glue
  • DS_SUBSET: mrpc
  • DS_SPLIT: validation
  • DATA_COLS: [ "sentence1", "sentence2" ]
  • FIXED_PARAMS: [ "batch_size", "sequence_length" ]
  • FIXED_VALUES: [ 1, 128 ]

他のパラメーターも必要に応じて調整できます。

  • execution_providers: [ "CPUExecutionProvider" ]: QNNExecutionProviderのような他のプロバイダーの場合。対応するデバイスで実行する必要があります。
  • max_length: 128 / batch_size: 1: 静的量子化の場合、入力サイズは固定である必要があります。これらをFIXED_VALUESと一致するように調整してください。
  • max_samples: 100: 使用されるサンプル数。

model_project.config を更新する(任意)

ワークフローのnameを、実行したい内容を反映するように更新してください。これにより、ワークフローリストから選択しやすくなります。

modelInfoのdisplayNamemodelLinkを使用しているものに更新してください。これにより、モデルリストから選択しやすくなります。

sample.custom.config を更新する(任意)

このファイルは、「Run」パネルと「Re-evaluate」パネルをレンダリングするために使用されます。sample.jsonに合わせてパラメーターを削除または追加できます。JSONプロパティ名を変更した場合は、パスの更新が必要になる場合があります。

inference_sample.ipynb を更新する(任意)

出力モデルをロードしてテストするための独自のコードを記述します。このファイルは履歴フォルダーにコピーされるため、異なるipynbを使用して異なる履歴のモデルを比較できます。