Foundry Toolkit FAQ

モデル

リモートモデルのエンドポイントと認証ヘッダーはどこで確認できますか？

一般的なOpenAIサービスプロバイダーにおいて、エンドポイントと認証ヘッダーを確認する方法の例を以下に示します。その他のプロバイダーについては、各社のドキュメントにてチャット補完（chat completion）エンドポイントと認証ヘッダーに関する説明をご確認ください。

例1: Azure OpenAI

1. Azure OpenAI Studio の デプロイメント (Deployments) ブレードに移動し、例えば gpt-4o などのデプロイメントを選択します。まだデプロイメントを作成していない場合は、Azure OpenAIのドキュメントを参照して作成してください。

   

2. エンドポイント (Endpoint) セクションにある ターゲットURI (Target URI) フィールドから、チャット補完エンドポイントを取得します。

   

3. エンドポイント (Endpoint) セクションの キー (Key) プロパティからAPIキーを取得します。

   コピーしたAPIキーは、Foundry Toolkitの認証ヘッダーとして api-key: <YOUR_API_KEY> という形式で追加してください。認証ヘッダーの詳細については、Azure OpenAIサービスのドキュメントを参照してください。

例2: OpenAI

1. 現時点では、チャット補完エンドポイントは https://api.openai.com/v1/chat/completions に固定されています。詳細はOpenAIのドキュメントを参照してください。

2. OpenAIのドキュメントにアクセスし、API Keys または Project API Keys を選択してAPIキーを作成または取得します。

   コピーしたAPIキーは、Foundry Toolkitの認証ヘッダーとして Authorization: Bearer <YOUR_API_KEY> という形式で入力してください。詳細はOpenAIのドキュメントを参照してください。

   

エンドポイントURLや認証ヘッダーを編集するには？

誤ったエンドポイントや認証ヘッダーを入力すると、推論時にエラーが発生する可能性があります。

1. VS Codeの settings.json ファイルを開きます

   • 認証失敗の通知内にある Edit settings.json を選択します

     

   • または、コマンドパレット (⇧⌘P (Windows, Linux Ctrl+Shift+P)) で Open User Settings (JSON) と入力します

2. windowsaistudio.remoteInfereneEndpoints 設定を検索します

3. 既存のエンドポイントURLや認証ヘッダーを編集または削除します。

   

   設定を保存すると、ツリービューまたはプレイグラウンドのモデルリストが自動的に更新されます。

OpenAI o1-mini または OpenAI o1-preview の待機リストに参加するには？

OpenAI o1シリーズモデルは、推論と問題解決タスクをより高い集中力と能力で処理するために特別に設計されています。これらのモデルはユーザーのリクエストを処理・理解することに時間をかけるため、科学、コーディング、数学などの分野で非常に優れた性能を発揮します。例えば、医療研究者が細胞配列データの注釈付けに使用したり、物理学者が量子光学に必要な複雑な数式を生成したり、あらゆる分野の開発者がマルチステップのワークフローを構築・実行したりすることに活用できます。

GitHubモデルマーケットプレイスにアクセスしてOpenAI o1-miniまたはOpenAI o1-previewを探し、待機リストに参加してください。

独自のモデルやHugging Faceの他のモデルを使用できますか？

ご利用のモデルがOpenAI APIコントラクトをサポートしている場合、クラウド上でホストし、Foundry Toolkitにカスタムモデルとして追加できます。その際、モデルのエンドポイントURL、アクセスキー、モデル名などの主要な情報が必要です。

ファインチューニング

ファインチューニングの設定項目が多数ありますが、すべて設定する必要がありますか？

いいえ、テスト目的であればデフォルト設定とサンプルのデータセットのままで実行可能です。独自のデータセットを使用する場合は設定の調整が必要になります。ファインチューニングのチュートリアルを参照してください。

Foundry Toolkitでファインチューニングプロジェクトの雛形が作成されません

拡張機能をインストールする前に、拡張機能の前提条件を必ず確認してください。

NVIDIA GPUを搭載していますが、前提条件チェックで失敗します

NVIDIA GPUがあるにもかかわらず「GPUが検出されません」というエラーで失敗する場合は、最新のドライバーがインストールされているか確認してください。NVIDIAのサイトでドライバーを確認・ダウンロードできます。

また、パスが正しく通っていることも確認してください。確認するには、コマンドラインで nvidia-smi を実行します。

プロジェクトを生成しましたが、Condaで環境をアクティブ化できません

環境の設定に問題があった可能性があります。ワークスペース内から bash /mnt/[PROJECT_PATH]/setup/first_time_setup.sh を使用して、手動で環境を初期化できます。

Hugging Faceデータセットを使用する場合、どのように取得しますか？

python finetuning/invoke_olive.py コマンドを実行する前に、必ず huggingface-cli login コマンドを実行してください。これにより、データセットをユーザーの権限でダウンロードできるようになります。

環境

この拡張機能はLinuxや他のシステムでも動作しますか？

はい、Foundry ToolkitはWindows、Mac、Linuxで動作します。

WSLでCondaの自動アクティブ化を無効にするには？

WSLでのCondaのインストールを無効にするには、conda config --set auto_activate_base false を実行してください。これでベース環境の自動アクティブ化が無効になります。

コンテナはサポートされていますか？

現在コンテナのサポートに取り組んでおり、将来のリリースで有効になる予定です。

なぜGitHubとHugging Faceの認証情報が必要なのですか？

プロジェクトテンプレートはすべてGitHubでホストされており、ベースモデルはAzureまたはHugging Faceでホストされています。これらの環境にAPI経由でアクセスするにはアカウントが必要です。

Llama 2のダウンロード中にエラーが発生します

Llama 2サインアップページからLlamaへのアクセス権を申請していることを確認してください。これはMetaの貿易コンプライアンスを遵守するために必要です。

WSLインスタンス内でプロジェクトを保存できません

Foundry Toolkitのアクション実行時はリモートセッションが現在サポートされていないため、WSLに接続した状態でプロジェクトを保存することはできません。リモート接続を閉じるには、画面左下の「WSL」を選択し、「リモート接続を閉じる (Close Remote Connections)」を選択してください。

エラー: GitHub API forbidden

プロジェクトテンプレートは microsoft/windows-ai-studio-templates GitHubリポジトリでホストされており、拡張機能はGitHub APIを使用してリポジトリコンテンツを読み込みます。Microsoft社内の場合、forbiddenエラーを回避するためにMicrosoft組織の承認が必要になる場合があります。

回避策についてはこちらを参照してください。具体的な手順は以下の通りです。

1. VS CodeからGitHubアカウントをサインアウトする

2. VS CodeとFoundry Toolkitを再読み込みすると、再度GitHubへのサインインを求められます

3. 重要: ブラウザの承認ページで、アプリがMicrosoft組織にアクセスすることを許可するようにしてください

   

ONNXモデルの一覧表示、読み込み、またはダウンロードができません

VS Codeの出力パネルでFoundry Toolkitのログを確認してください。Agent エラーまたは Failed to get downloaded models と表示される場合は、すべてのVS Codeインスタンスを閉じてから再度VS Codeを開いてください。

(この問題は、基盤となるONNXエージェントが予期せず終了したことが原因であり、上記の手順でエージェントを再起動します。)