メインコンテンツにスキップ

Evalsの管理方法

Evalsの検索、フィルタリング、タグ付け、作成、CSVファイルからのSimulationsのインポート、FinのEvals全体でのパフォーマンス確認。

対応者:Dawn Perrott

この記事では、Evalsの検索、フィルタリング、タグ付け、新しいEvalの作成、Evalsの整理、CSV(comma-separated values)ファイルからのSimulationsのインポート、Scorecardの追加、FinのEvals全体でのパフォーマンス確認方法を説明します。

Evalsページとは?

Evalsページにはワークスペース内のすべてのEvalが一覧表示され、各テストグループのパフォーマンスを確認し、再実行できます。Evalはテーマ別のテストグループで、その中の各テストはSimulationと呼ばれます。ページを開くには、Fin AI Agent > Test > Evalsに移動してください。

Fin AI Agent > TestのEvalsページにて、Eval名、結果、タグ、最終実行の列を持つ10件のEvalsの表、検索ボックス、フィルタ追加ボタン、新規Evalボタンを表示。

Evalsテーブルには以下の列があります:

  • Eval名:Evalの名前と、その隣に実行ボタンがあります。ボタンにカーソルを合わせるとRun evalラベルが表示されます。

  • 結果:Evalの最新実行時のパフォーマンス例(例:4/6 Passed)。

  • タグ:Evalに付けられたタグ。

  • 最終実行日:Evalが最後に実行された日付。

  • 最終実行者:Evalを最後に実行した人。

  • 最終更新日:Evalが最後に変更された日時。

  • 作成日:Evalが作成された日時。

Default Evalの実行ボタンにカーソルを合わせた状態のEvalsページ。Run evalラベル、結果、タグ、最終実行日列を表示。


Evalsの整理方法

Evalsを整理するには、ビジネスに合ったテーマでSimulationsをEvalsにグループ化します。多くのチームはまだ機能していない部分から始め、そこから拡張します。一般的な出発点は以下の通りです:

  • 既知の問題:Finが誤った、不完全な、または役に立たない回答をした会話。各会話をSimulationとして再現し、原因を修正して再実行し修正を確認します。会話を素早く再現するには、Set up Simulations for Evalsの実際の会話からSimulationを作成する方法を参照してください。

  • エスカレーションシナリオ:Finがチームメイトに引き継ぐべき(または引き継ぐべきでない)状況。

  • トピックシナリオ:返金リクエストなどの1つのトピックを様々なバリエーションでテスト。会話量上位10〜20のトピックが良い出発点です。

  • 行動シナリオ:トピックに関係なく、Finが異なる状況でもトーンやブランドを維持しているかをチェック。

時間をかけて、最も重要な会話をカバーする「ゴールデンセット」として1つまたは複数のEvalsを構築します。ゴールデンセットは定期的に(例えば週次やFinの設定変更時に)再実行し、重要なシナリオが機能していることを確認します。


名前、結果、タグでEvalを見つける方法

名前でEvalを見つけるには、Evalsページ上部のSearch evalsボックスに入力します。リストを絞り込むには、Add Filterをクリックし、ResultまたはTagを選択します。

結果でEvalsをフィルタリングする方法

  1. Fin AI Agent > Test > Evalsに移動します。

  2. Add Filterをクリックし、次にResultをクリックします。

  3. 1つ以上の結果を選択します:Not run、Running、Queued、Passed、Partially passed、Failed、Canceled、またはUnprocessable。

EvalsページのAdd FilterメニューでResultが選択されており、Not run、Running、Queued、Passed、Partially passed、Failed、Canceled、Unprocessableのチェックボックスを表示。

タグでEvalsをフィルタリングする方法

  1. Fin AI Agent > Test > Evalsに移動します。

  2. Add Filterをクリックし、次にTagをクリックします。

  3. 1つ以上のタグを選択します。各タグはそれを使用しているEvalsの数を表示します。

EvalsページのAdd FilterメニューでTagが選択されており、fin simsとnew product releaseのタグのチェックボックスを表示、それぞれ1つのEvalで使用。


新しいEvalを作成する方法

Evalを作成するには、手動で作成するか、CSV(comma-separated values)ファイルから顧客シナリオのリストをインポートするかを選択します。

  1. Fin AI Agent > Test > Evalsに移動します。

  2. New evalをクリックします。

  3. Create manuallyを選択してSimulationsを自分で作成するか、Upload a CSVを選択して顧客シナリオのリストをインポートします。

  4. Evalに最大250文字のわかりやすく説明的な名前を付けて、後で再実行したときに内容がわかるようにします。

EvalsページのNew evalメニューが開いており、「Create manually」と「Upload a CSV(顧客シナリオのリストをインポート)」の2つのオプションを表示。

各Evalには最大50のSimulationsを格納できます。CSVファイルからのインポートについてはCSVファイルからSimulationsをインポートする方法を参照してください。Eval内のSimulationsの設定についてはSet up Simulations for Evalsを参照してください。

CSVファイルからSimulationsをインポートする方法

CSVファイルからSimulationsをインポートするには、EvalsページまたはEval内からアップロードします。各行が1つのSimulationになり、保存前にすべての列の一致を確認します。インポートには、Fin AI Agent & AutomationのCan view configuration and propose changes in a draft releaseまたはCan view configuration and publish changes directly to main (individually or in a release)の権限が必要です。

新しいEvalにインポートするには、Fin AI Agent > Test > Evalsに移動し、New evalをクリックしてUpload a CSVを選択します。既存のEvalにSimulationsを追加するには、そのEvalを開き、オプションメニュー(...)からImport CSVを選択し、Import toでそのEvalを選びます。

EvalsページのUpload a CSV fileダイアログ。ドラッグエリアに「Drag a CSV here」、最大10MB・50行制限、ファイル選択ボタン、含めるフィールド(Header row、Opening message、Follow-up instructions、Channel、Handoff、Expected answer)、テンプレートダウンロードリンク、キャンセルと続行ボタンを表示。

Simulations用のCSVファイルに何を含められますか?

CSVインポートで5つのSimulationフィールドを埋められます。必須はOpening messageのみです。

  • Opening message(必須):シミュレーションされる顧客がFinに最初に話す内容。

  • Follow-up instructions:顧客が知っていること、Finに尋ねられた場合に共有する内容、コミュニケーション方法。

  • チャネル:シミュレートされた顧客が書き込むチャネル。Messenger または Email のいずれか。

  • Handoff:Fin が会話を引き継ぐかどうか。なし、チームへ、またはワークフローへ。

  • 期待される回答:Fin が合格するために言うべきことや行うべきこと。各期待される回答は Fin の返信チェックになります。1つのシミュレーションに複数の期待される回答を追加する場合は、それぞれを同じセルの別々の行に記入してください。

既成のファイルから開始するには、CSVファイルをアップロードダイアログのテンプレートをダウンロードをクリックしてください。テンプレートには5つのフィールドそれぞれの列があります。

列ヘッダーはテンプレートと完全に一致する必要はありません。question、prompt、persona、outcome、ground truth のような一般的な名前は自動的に認識されます。カンマ、セミコロン、タブ区切りのファイルすべて対応しています。

CSVインポートの制限は何ですか?

制限

値

ファイルおよび評価ごとの行数

50

ファイルサイズ

10 MB

期待される回答あたりの文字数

1,000

一致させるシミュレーションフィールド数

5

CSVファイルをアップロードして列をシミュレーションフィールドに一致させる方法

  1. CSVファイルをアップロードダイアログで、CSVファイルをドラッグするかファイルを選択をクリックします。ファイルはブラウザで読み込まれ、保存前に行数と列数とともに表として表示されます。別のファイルを使う場合はファイルを置き換えるをクリックしてください。

    ファイル読み込み後のCSVファイルをアップロードダイアログ。support-questions.csvファイルは10行7列を表示し、ファイル置き換えボタンと、Customer question、Persona、Channel、Escalation、Ideal answer、Must also mention、Ticketの列プレビューがあります。1行は顧客質問なし。表の下にはファイルに含めるフィールドがリストされており、Opening message(必須)、Follow-up instructions、Channel、Handoff、Expected answer、テンプレートダウンロードリンク、キャンセルと続行ボタンがあります。
  2. 表を確認してから続行をクリックしてください。

  3. 列を一致させるステップで、各列に一致したシミュレーションフィールドを確認し、間違っている場合は変更するか、一致をリセットをクリックしてやり直してください。

  4. インポート先の横で、新しい評価を選択して名前を入力するか、既存の評価を選択してシミュレーションを追加します。

各シミュレーションフィールドは1つの列に一致し、使用しない列は未使用にリストされ無視されます。期待される回答が1,000文字を超える場合、どうするか尋ねられます:除外する(デフォルト)はその回答なしで行をインポート、1,000文字に切り詰めるは回答の最初を保持、これらの行をスキップは行全体を除外します。

CSVファイルを編集せずにChannelとHandoffの値を修正する方法

Finが認識しないChannelやHandoffの値(例:WhatsAppやYes)があると、そのフィールドに警告が表示されます。

  1. ChannelまたはHandoffフィールドの警告を選択してください。

  2. 認識されない各値の意味を選択してください。

  3. 適用をクリックしてください。

また、行をスキップを選択してそれらの行をインポートから除外することもできます。放置した値はChannelはMessenger、HandoffはNo handoffがデフォルトになります。

CSVファイルからシミュレーションをプレビューおよびインポートする方法

  1. シミュレーションをプレビューをクリックすると、最初のメッセージ、フォローアップ指示、Finの返信チェック、引き継ぎを含め、各行が実行される様子を確認できます。

  2. ダイアログ下部の行数を確認してください。インポートされる行数(例:10行中9行)と除外される行が表示されます。

  3. インポートをクリックしてください。

インポート後、何件のシミュレーションが作成されたかの確認が表示されます。各行は評価内に、開始メッセージ名のシミュレーションとして表示され、すべて実行をクリックできます。インポートされたシミュレーションはテスト顧客とすべてのブランドを使用するため、特定の顧客を選ぶにはシミュレーションを開いてください。タグはCSVファイルではなく評価に追加されます。リリース内でインポートすると、そのリリースにシミュレーションが追加されます。

CSVファイルからシミュレーションをインポートできない場合は?

  • 開始メッセージに一致する列がない、または行がありません。

  • 新しい評価に名前がないか、名前が既に使われています。

  • ファイルに50行を超える行があります。

行数が既存の評価のシミュレーション数を50以上にする場合、何件まで追加できるか表示され、最初の[number]件をインポートを選択してその分だけインポートできます。インポート時に行が拒否されると保存されません。問題のある行は理由とともにリストされ、これらの行を除いてインポートを選択して残りをインポートできます。


評価にタグを付けて管理する方法

タグは関連する評価をグループ化し、スイートが増えてもすぐに見つけられるようにします。例えば、トピック(Refunds)、チームや担当者(Billing team)、テストの種類(Regression、Escalation)、言語(French)でタグ付けできます。評価は必要なだけタグを持てます。

評価のタグを作成する方法

タグを表示・作成するには、評価ページ右上のタグをクリックします。タグパネルには各タグと使用中の評価数が表示され、タグ検索ボックスでタグを探せます。

  1. Fin AI Agent > テスト > 評価に移動します。

  2. タグをクリックし、新しいタグをクリックします。

  3. 名前の下にタグ名を入力します。例:「Refunds」。

  4. 必要に応じて、評価を追加をクリックし、タグ作成時に付ける評価を選択します。

  5. タグを作成をクリックします。

評価ページ上にタグパネルが開き、2つのタグ、新しいタグボタン、タグ検索ボックス、名前フィールド付き新規タグフォーム、評価追加ドロップダウン、キャンセルとタグ作成ボタン、既存のタグ fin sims と new product release(各1評価)が表示されています。

評価にタグを追加する方法

  • Evalsリストから: 1つ以上のEvalsの横にあるチェックボックスを選択し、リスト上部のTagをクリックして追加するタグを選択します。最大100件のEvalsに一度にタグ付けできます。

  • Eval内から: Evalの名前の下にある+ Tagをクリックします。

Evalsのタグを名前変更または削除する方法

タグの名前を変更または削除するには、Evalsページの上部にあるTagsをクリックするか、タグピッカーでManage tagsを選択します。パネルには各タグを使用しているEvalsの数が表示されます。タグを削除すると、リリース内のEvalsを含むすべてのEvalからそのタグが削除されます。

注意: タグは個々のSimulationではなくEvalsに適用されます。Simulationを別のグループに分けたい場合は、別々のEvalsに分割してください。Evalタグは会話や連絡先に使用するタグとは別です。


EvalにScorecardを追加する方法

Scorecardは、合否チェックに加えてClarificationやEfficiencyなどの品質スコアリングをEvalに追加します。追加するには、Evalを開き、右上のNew simulationの隣にあるAdd scorecardをクリックします。追加後、Simulation resultsの隣にQuality evaluationセクションが表示されます。

Scorecardの作成、基準の追加、各基準のスコア重み付けとCritical設定の方法については、EvalにScorecardを追加する方法をご覧ください。


Evals全体でFinのパフォーマンスを見る方法

すべてのEvalsでのFinのパフォーマンスを見るには、Fin AI Agent > Test > Evalsの上部にある概要を確認してください。これは各Simulationが最後に実行された時点を反映し、2つの部分で構成されています。

  • Simulation results: すべてのSimulationチェックとHandoffチェックに合格したSimulationの数、例:42/50 passed (84%)。エラーが発生したSimulationは不合格とカウントされ、まだ実行されていないSimulationも合計に含まれます。

  • Quality evaluation: 各Scorecardについて、それを使用しているすべてのEvalsの平均レビュー得点と各基準の平均値。矢印を使ってScorecard間を移動できます。

    Fin AI Agent > Test > Evalsの下にScorecardが付いたqualityDefaultという名前のEval。Simulation resultsは4/6合格、Quality evaluationは94%のレビュー得点とClarification、Communication、Efficiency、Expectation Settingなど各Scorecard基準の割合を示しています。表には6つのシミュレーション会話があり、Notes、Last run、Result、Review score、Clarification、Communication、Efficiencyの列があります。

概要は検索やフィルターに応じて更新されるため、タグでフィルターするとそのタグが付いたEvalsの結果のみが表示されます。

以前の実行結果を比較するには、Simulationを開き、その結果の横にある実行履歴ドロップダウンをクリックします。日付ごとに各実行結果が一覧表示されます。

qualityDefault Evalから開いたSimulationで、Pass結果の下に実行履歴ドロップダウンが開いています。4つの実行が日付順にリストされ、それぞれPassとマークされています:たった今、11月3日17:13、8月26日15:35、8月26日14:49。右側にはHandoffチェックがPassでExpected: No handoff、SimulationチェックはPassでFinの返信チェックと合格理由が表示されています。


Evals管理に関するよくある質問

Evalには最大何件のSimulationを保持できますか?

Evalは最大50件のSimulationを保持できます。追加するには、既存のSimulationを削除するか、新しいEvalを作成してください。

CSVファイルからSimulationを作成できますか?

はい、CSVファイルからSimulationを作成できます。New evalをクリックし、Upload a CSVを選択して顧客シナリオのリストをインポートします。既存のEvalにインポートしたSimulationを追加するには、そのEvalを開き、オプションメニュー(...)からImport CSVを選択します。Batch Testの質問も同様にCSVファイルにエクスポートでき、各質問がSimulationの開始メッセージになります。

個々のSimulationにタグを付けられますか?

個々のSimulationにはタグを付けられません。タグはEvalsにのみ適用されます。Simulationを別のグループに分けたい場合は、別々のEvalsに分割してください。

誰がEvalsを作成、編集、実行できますか?

Fin AI Agent & Automationの下でCan view configuration and propose changes in a draft releaseまたはCan view configuration and publish changes directly to main (individually or in a release)の権限を持つチームメンバーは、Evalsの作成、編集、タグ付け、実行ができます。Can view configurationの権限を持つチームメンバーはEvalsとその結果を閲覧でき、タグでフィルターも可能です。

こちらの回答で解決しましたか?