AI Toolkit のモデルプレイグラウンド

AI Toolkit のプレイグラウンドは、生成 AI モデルを試すための対話型環境を提供します。さまざまなプロンプトをテストし、モデルパラメーターを調整し、異なるモデルからの応答を比較し、さまざまな種類の入力ファイルを添付することでマルチモーダル機能を探索できます。

プレイグラウンドでモデルをテストする

プレイグラウンドにアクセスするには

• AI Toolkit ビューで、ツール > プレイグラウンド を選択します。
• モデルカタログのモデルカードから プレイグラウンドで試す を選択します。
• マイ モデル からモデルをダブルクリックしてプレイグラウンドで開きます。

プレイグラウンドでモデルをテストするには、次の手順に従います。

1. モデルの基本設定 で、ドロップダウンリストからモデルを選択します。
2. オプションで、モデルの応答をガイドするために システムプロンプト を追加します。
3. オプションで、選択したモデルで利用可能なモデルパラメーターを設定します。
4. チャット入力ボックスにチャットプロンプトを入力します。

モデルの基本設定

モデルの基本設定 パネルでは、プレイグラウンドでやり取りするモデルを選択し、モデルの動作をガイドするシステムプロンプトを設定し、選択したモデルのモデルパラメーターを構成できます。

モデルを選択する

モデルの基本設定 パネルのドロップダウンリストには、AI Toolkit に追加したモデルが表示されます。モデルを参照 を選択してモデルカタログを開き、さらにモデルを追加できます。

システムプロンプト

システムプロンプトは、モデルの動作と応答スタイルをガイドする事前定義された指示です。入力テキストエリアでシステムプロンプトを追加、編集、または削除して、モデルが応答を生成する方法に影響を与えることができます。

推論パラメーターを設定する

利用可能なパラメーターは、モデルの種類とパブリッシャーによって異なります。一般的なパラメーターには、次のものがあります。

• 温度 (Temperature): モデルの出力のランダム性を制御します。値が低いほど、出力はより決定論的になります。値が高いほど、より多くのばらつきが導入されます。
• Top P: 選択されたトークンの累積確率を制限することで、出力の多様性を制御します。値が低いほど、より焦点を絞った応答が生成されます。値が高いほど、より多様な出力が可能になります。
• 最大応答長 (トークン) (Max Response Length (Tokens)): モデルの応答に含まれるトークンの最大数を設定します。これは、生成されるテキストの長さを制限します。
• 頻度ペナルティ (Frequency Penalty): モデルが応答で同じトークンを繰り返す可能性を低減します。値が高いほど、繰り返しが抑制されます。
• 存在ペナルティ (Presence Penalty): モデルが応答で新しいトピックや概念を導入することを促します。値が高いほど、生成されるテキストの多様性が促進されます。

チャットプロンプト

チャットプロンプトは、モデルに提供する入力テキストです。質問、ステートメント、またはモデルに応答させたい任意のテキストを入力できます。モデルは、提供されたプロンプトと設定されたシステムプロンプトおよびパラメーターに基づいて応答を生成します。

チャットプロンプト入力ボックスで利用可能な機能

• 送信: チャットプロンプトをモデルに送信して処理します。
• クリア: チャットプロンプト入力ボックスをクリアします。
• ファイルの添付: マルチモーダルモデルのチャットプロンプトにファイルを添付します。
• 画像の添付: マルチモーダルモデルのチャットプロンプトに画像を添付します。
• Web 検索: チャットプロンプトに関連する情報を見つけるために Web 検索を実行します。
• モード切り替え: AI 機能を使用するための異なるモードを切り替えます。

モードを切り替える

チャットプロンプト入力ボックスで異なるモードを切り替えることができます。

• モデルのネイティブサポートAI機能を使用する: このモードでは、選択したモデルのネイティブ機能 (Web 検索やファイルの添付など) を使用できます。
• すべてのAI機能を使用する: このモードでは、モデルのネイティブ機能に関わらず、AI Toolkit によって実装されたAI機能 (ファイルの添付など) を使用できます。

選択したモデルまたは AI Toolkit によって機能がサポートされていない場合、チャットプロンプト入力ボックスの上に警告が表示されます。この警告は、その機能をサポートする別のモデルに切り替えることを推奨します。

モデルの応答

モデルの応答は、チャットプロンプト入力ボックスの上に表示されます。チャットプロンプトを入力する前に、プレイグラウンドは、プレイグラウンドの利用を開始するための3つのスタータープロンプトを含むウェルカム画面を表示します。

モデル応答領域で利用可能な機能

• 応答をコピー: モデルの応答テキストをクリップボードにコピーします。
• 応答を再生成: 同じプロンプトに基づいてモデルの応答を再生成するか、別のモデルで応答を再生成します。
• コードをコピー: 応答で生成されたコードをクリップボードにコピーするか、新しいファイルに挿入します。
• レンダリング: プレイグラウンドは、モデルの応答に含まれるコードスニペット、画像、Markdown、LaTeX、およびその他のコンテンツのレンダリングをサポートしています。
• トークン数: モデルの応答で使用されたトークンの数を表示します。これは、モデルのコストとパフォーマンスを理解するのに役立ちます。

ツールバー

プレイグラウンドのツールバーには、さまざまなアクションや機能にすばやくアクセスできます。

• 新しいプレイグラウンド: 新しいプレイグラウンドセッションを作成します。
• 履歴: チャット履歴の表示、名前の変更、削除、および切り替えを行います。
• 自動命名: チャットセッションの名前は、ユーザープロンプトに基づいて自動的に生成されます。
• 比較: 異なるモデルからの応答を並べて比較します。
• コードを表示: LLM 統合からのチャットプロンプトに対して生成されたコードを表示します。

モデルの応答を比較する

比較機能を使用すると、異なるモデルからの応答を並べて比較できます。これは、同じプロンプトに対する異なるモデルのパフォーマンスを評価するのに役立ちます。

モデルの応答を比較するには

1. ツールバーで 比較 ボタンを選択します。
2. ドロップダウンリストから比較したいモデルを選択します。
3. いずれかの入力ボックスに同じチャットプロンプトを入力します。プロンプトは他の入力ボックスにコピーされます。
4. 送信 を選択して、選択したすべてのモデルにプロンプトを送信します。
5. 各モデルからの応答が並んで表示され、簡単に比較できます。

比較している各モデルについて、次のことができます。

• 応答テキストをクリップボードにコピーします。
• 選択したモデルのモデルパラメーターを設定します。
• 選択したモデルとのチャットを続行します。