AI Toolkitのモデルプレイグラウンド
AI Toolkitプレイグラウンドは、生成AIモデルを試すためのインタラクティブな環境を提供します。さまざまなプロンプトをテストしたり、モデルパラメータを調整したり、異なるモデルからの応答を比較したり、さまざまな種類の入力ファイルを添付してマルチモーダル機能を探索したりできます。
プレイグラウンドでモデルをテストする
プレイグラウンドにアクセスするには
- AI Toolkitビューで、ツール > プレイグラウンドを選択します。
- モデルカタログのモデルカードからプレイグラウンドで試すを選択します。
- マイモデルからモデルをダブルクリックしてプレイグラウンドで開きます。
プレイグラウンドでモデルをテストするには、次の手順に従います。
- モデル設定で、ドロップダウンリストからモデルを選択します。
- オプションで、モデルの応答をガイドするためにシステムプロンプトを追加します。
- オプションで、選択したモデルで利用可能なモデルパラメータを設定します。
- チャット入力ボックスにチャットプロンプトを入力します。
GitHub従量課金モデルのサポート
AI ToolkitはGitHubの従量課金モデルをサポートするようになり、無料枠の制限を超えても作業を続けることができます。
-
GitHubのモデル使用制限に達すると、AI Toolkitは警告を表示し、GitHubの有料使用ドキュメントへのリンクを提供します。
-
GitHub設定でモデルの課金を有効にする（GitHubアカウントへのサインインが必要です）。
-
課金を有効にした後も、ワークフローを変更することなくプレイグラウンドまたはエージェントビルダーでモデルを使い続けることができます。
モデル設定
モデル設定パネルでは、プレイグラウンドの対話に使用するモデルを選択し、モデルの動作をガイドするシステムプロンプトを設定し、選択したモデルのモデルパラメータを設定できます。
モデルを選択する
モデル設定パネルのドロップダウンリストには、AI Toolkitに追加したモデルが表示されます。モデルを閲覧するを選択してモデルカタログを開き、さらにモデルを追加できます。
システムプロンプト
システムプロンプトは、モデルの動作と応答スタイルをガイドする事前定義された指示です。入力テキスト領域でシステムプロンプトを追加、編集、または削除して、モデルが応答を生成する方法に影響を与えることができます。
推論パラメータの設定
利用可能なパラメータは、モデルの種類とパブリッシャーによって異なります。一般的なパラメータには以下が含まれます。
- 温度: モデルの出力のランダム性を制御します。値が低いほど出力は決定的になります。値が高いほどばらつきが増します。
- Top P: 選択されたトークンの累積確率を制限することで、出力の多様性を制御します。値が低いほど応答はより焦点を絞ったものになります。値が高いほどより多様な出力が可能になります。
- 最大応答長（トークン）: モデルの応答におけるトークンの最大数を設定します。これは生成されるテキストの長さを制限します。
- Frequency Penalty: モデルが応答で同じトークンを繰り返す可能性を低減します。値が高いほど繰り返しが抑制されます。
- Presence Penalty: モデルが応答に新しいトピックや概念を導入するよう促します。値が高いほど生成されるテキストの多様性が促進されます。
チャットプロンプト
チャットプロンプトは、モデルに提供する入力テキストです。モデルに質問、ステートメント、またはモデルが応答してほしい任意のテキストを入力できます。モデルは、提供されたプロンプトと設定されたシステムプロンプトおよびパラメータに基づいて応答を生成します。
チャットプロンプト入力ボックスで利用できる機能
- 送信: チャットプロンプトをモデルに送信して処理します。
- クリア: チャットプロンプト入力ボックスをクリアします。
- ファイル添付: マルチモーダルモデルのチャットプロンプトにファイルを添付します。
- 画像添付: マルチモーダルモデルのチャットプロンプトに画像を添付します。
- Web検索: チャットプロンプトに関連する情報を見つけるためにWeb検索を実行します。
- モード切り替え: AI機能を使用するための異なるモードを切り替えます。
モードの切り替え
チャットプロンプト入力ボックスで異なるモードを切り替えることができます。
- モデルがネイティブにサポートするAI機能を使用する: このモードでは、選択したモデルのネイティブ機能（Web検索やファイル添付など）を使用できます。
- すべてのAI機能を使用する: このモードでは、モデルのネイティブ機能に関わらず、ファイル添付などAI Toolkitによって実装されたAI機能を使用できます。
選択したモデルまたはAI Toolkitによって機能がサポートされていない場合、チャットプロンプト入力ボックスの上に警告が表示されます。警告は、その機能をサポートする別のモデルに切り替えることを推奨します。
モデルの応答
モデルの応答はチャットプロンプト入力ボックスの上に表示されます。チャットプロンプトを入力する前に、プレイグラウンドはウェルカム画面を表示し、プレイグラウンドを開始するための3つのスタータープロンプトを提供します。
モデル応答領域で利用できる機能
- 応答をコピー: モデルの応答テキストをクリップボードにコピーします。
- 応答を再生成: 同じプロンプトに基づいてモデルの応答を再生成するか、別のモデルで応答を再生成します。
- コードをコピー: 応答で生成されたコードをクリップボードにコピーするか、新しいファイルに挿入します。
- レンダリング: プレイグラウンドは、モデルの応答におけるコードスニペット、画像、マークダウン、LaTeX、その他のコンテンツのレンダリングをサポートします。
- トークン数: モデルの応答で使用されたトークンの数を表示します。これはモデルのコストとパフォーマンスを理解するのに役立ちます。
ツールバー
プレイグラウンドのツールバーは、さまざまなアクションや機能に素早くアクセスできます。
- 新しいプレイグラウンド: 新しいプレイグラウンドセッションを作成します。
- 履歴: チャット履歴の表示、名前変更、削除、切り替えができます。
- 自動命名: チャットセッションの名前は、ユーザープロンプトに基づいて自動的に生成されます。
- 比較: 異なるモデルからの応答を並べて比較します。
- コードを表示: LLM統合からチャットプロンプトの生成されたコードを表示します。
モデルの応答を比較する
比較機能を使用すると、異なるモデルからの応答を並べて比較できます。これは、同じプロンプトに対する異なるモデルのパフォーマンスを評価するのに役立ちます。
モデルの応答を比較するには
- ツールバーの比較ボタンを選択します。
- ドロップダウンリストから比較したいモデルを選択します。
- 入力ボックスのいずれかに同じチャットプロンプトを入力します。プロンプトは他の入力ボックスにもコピーされます。
- 送信を選択して、選択したすべてのモデルにプロンプトを送信します。
- 各モデルからの応答が並べて表示され、簡単に比較できます。
比較している各モデルについて、次のことができます。
- 応答テキストをクリップボードにコピーする。
- 選択したモデルのモデルパラメータを設定する。
- 選択したモデルとのチャットを続行する。
学習したこと
この記事では、次のことを学習しました。
- AI Toolkitプレイグラウンドを使用して、生成AIモデルと対話する方法。
- プレイグラウンドでモデルをテストし、システムプロンプトとパラメータを設定し、ファイルを添付してマルチモーダル機能を探索する方法。
- 比較機能を使用して、同じプロンプトに対する異なるモデルのパフォーマンスを評価し、応答を並べて表示する方法。
- チャットプロンプト入力ボックスを使用して、プロンプトの送信、ファイルや画像の添付、Web検索の実行、AI機能のモード切り替えを行う方法。
- モデルの応答を表示し、応答をコピーまたは再生成し、コードスニペット、画像、マークダウン、LaTeXをレンダリングする方法。
- モデル応答のトークン数を追跡して、コストとパフォーマンスを理解する方法。
- モデル設定パネルを使用して、モデルの選択、システムプロンプトの設定、推論パラメータの調整を行う方法。
- ツールバーを使用して、新しいプレイグラウンドセッションの作成、チャット履歴の表示と管理、セッションの自動命名、モデルの比較、生成されたコードの表示を行う方法。
- チャット履歴の管理（表示、名前変更、削除、セッション間の切り替えを含む）。