🚀 VS Code で GitHub Copilot を無料入手!

AIツールキットのモデル

AIツールキットは、広範な生成AIモデルをサポートしています。Small Language Models (SLM) と Large Language Models (LLM) の両方がサポートされています。

モデルカタログでは、さまざまなソースのモデルにアクセスできます

  • GitHub ホスト型モデル (Llama3, Phi-3, Mistral モデル)
  • パブリッシャーホスト型モデル (OpenAI ChatGPT モデル、Anthropic Claude、Google Gemini)
  • ローカルにダウンロードされたモデル (例: HuggingFace から)
  • ローカルで実行中の Ollama モデル
  • Bring-Your-Own-Models に接続する

モデルを見つける

モデルカタログでモデルを見つけるには

  1. アクティビティバーで [AI Toolkit] ビューを選択します

  2. カタログ > モデル を選択してモデルカタログを開きます

    Select model in model catalog

    モデルカタログでモデルカードを選択して、選択したモデルの詳細を表示します。

  3. フィルターを使用して、利用可能なモデルのリストを絞り込みます

    • ホスト元: AIツールキットは、モデルホスト元として GitHub、ONNX、OpenAI、Anthropic、Google をサポートしています。

    • パブリッシャー: AIモデルのパブリッシャー (Microsoft、Meta、Google、OpenAI、Anthropic、Mistral AI など)

    • タスク: 現在、テキスト生成 のみがサポートされています。

    • モデルタイプ: CPU、GPU、または NPU でリモートまたはローカルで実行できるモデルをフィルター処理します。このフィルターは、ローカルでの可用性に依存します。

    • ファインチューンサポート: ファインチューンを実行するために使用できるモデルを表示します。

セルフホスト型モデルまたはローカルで実行中の Ollama モデルを参照するには

  1. モデルカタログで + モデルの追加 を選択します

  2. モデルクイックピックで Ollama またはカスタムモデルを選択します

  3. モデルを追加するための詳細を入力します

ライセンスとサインイン

一部のモデルでは、パブリッシャーまたはホストサービスのライセンスとサインイン用アカウントが必要です。その場合、モデルプレイグラウンド でモデルを実行する前に、この情報の提供を求められます。

テストするモデルを選択

AIツールキットを使用すると、チャット補完のためにプレイグラウンドでモデルのテスト実行ができます。モデルカタログのモデルカードのアクションを通じて、さまざまなオプションを利用できます。

  • プレイグラウンドで試す: ダウンロードせずに、選択したモデルをプレイグラウンドでのテスト用にロードします
  • ダウンロード: Hugging Face などのソースからモデルをダウンロードします
  • プレイグラウンドにロード: ダウンロードしたモデルをチャットのためにプレイグラウンドにロードします

独自のモデルを持ち込む

AIツールキットのプレイグラウンドは、リモートモデルもサポートしています。インターネットからアクセス可能なセルフホスト型またはデプロイ済みモデルがある場合は、AIツールキットに追加してプレイグラウンドで使用できます。

  1. ツリービューで マイモデル にカーソルを合わせ、+ アイコンを選択してリモートモデルを AIツールキットに追加します。
  2. モデル名、表示名、モデルホストURL、オプションの認証文字列など、要求された情報を入力します。

Bring Your Own Models

Ollama モデルを追加する

Ollama を使用すると、多くの一般的な genAI モデルを GGUF 量子化を介して CPU でローカルに実行できます。ローカルマシンに Ollama がインストールされており、ダウンロードされた Ollama モデルがある場合は、モデルプレイグラウンドで使用するために AIツールキットに追加できます。

前提条件

  • AIツールキット v0.6.2 以降。
  • Ollama (Ollama v0.4.1 でテスト済み)

ローカルの Ollama を AIツールキットに追加する

  1. ツリービューで マイモデル にカーソルを合わせ、"+" アイコンを選択してモデルを追加します

    または、モデルカタログまたはプレイグラウンドで + モデルの追加 ボタンを選択します。

  2. Ollama モデルを追加 を選択します

    Select model type to add

  3. 次に、Ollama ライブラリからモデルを選択 を選択します

    別のエンドポイントで Ollama ランタイムを開始する場合は、カスタム Ollama エンドポイントを指定 を選択して Ollama エンドポイントを指定します。

  4. AIツールキットに追加するモデルを選択し、OK を選択します

    注

    AIツールキットには、Ollama にすでにダウンロードされており、まだ AIツールキットに追加されていないモデルのみが表示されます。Ollama からモデルをダウンロードするには、ollama pull <model-name> を実行します。Ollama でサポートされているモデルのリストを表示するには、Ollama ライブラリ を参照するか、Ollama ドキュメント を参照してください。

  5. 選択した Ollama モデルがツリービューのモデルリストに表示されるはずです。

    注

    添付ファイルは、Ollama モデルではまだサポートされていません。Ollama の OpenAI 互換エンドポイント を使用して接続しており、まだ添付ファイルをサポートしていないためです。

12/11/2024