メインコンテンツにスキップ

セーフティガード

セーフティガードの概要—その内容、検出するトピック、そして二段階システムがFinの応答を安全に保つ仕組み

対応者:Dawn Perrott

この記事を使って、セーフティガードが顧客メッセージをどのように検出するか、常に拒否されるトピックを確認し、拒否する代わりにFinにフラグ付きメッセージを独自の手順やナレッジコンテンツで処理させる方法を理解しましょう。

セーフティガードとは何ですか?

セーフティガードは、Finに組み込まれた敏感で有害なコンテンツに対する防御シールドです。すべてのメッセージを自動的に検出し、顧客には常に安全で慎重な応答を提供し、チームは必要な時だけ介入します。

セーフティガードはIntercomのAI使用と行動認証(AIUC-1)の一部であり、Finを使用するすべてのワークスペースでデフォルトで有効です。すべてのプランタイプに適用され、無効にできません。

注意:セーフティガードはプランに関係なくすべてのFinワークスペースに適用されます。フラグ付きメッセージをFinに処理させる機能は現在Fin AI Agent for Serviceのみに適用されます。

セーフティガードが検出する内容

セーフティガードは9つのトピックカテゴリを検出します:

  • 自傷行為と自殺

  • 暴力と脅迫

  • ヘイトスピーチと差別

  • 違法行為

  • 成人向けおよび性的コンテンツ

  • 危険物質

  • 武器

  • プライバシーと個人データの悪用

  • 詐欺と欺瞞

常に拒否されるトピック

これらのトピックに関するメッセージに対するFinの応答は設定に関係なく常に拒否されます。Finに他のフラグ付きメッセージを独自の手順やナレッジコンテンツで処理させる設定をしていても、これらは常に拒否されます:

  • 自傷行為と自殺

  • 児童の安全

  • 脆弱な人々

  • 虐待およびFinの悪用の試み

重要:これらのトピックについては、どのオプションを有効にしてもFinは常に標準の返信を行い、チームメンバーを案内します。


セーフティガードの仕組み

セーフティガードは、顧客の安全と会話の継続性のバランスを取るために設計された二段階システムで動作します。セーフティガードがメッセージをフラグ付けし、Finに処理させるオプションがない場合(下記「Finにフラグ付きメッセージを処理させる」を参照)、Finは標準の返信を送り、チームメンバーを案内します:

注意:「そのトピックには対応できませんが、チームメンバーにおつなぎできます。よろしければおつなぎしましょうか?」

1回目の検出(ストライク1)

顧客のメッセージまたはFinの下書き応答が会話中に初めてフラグ付けされた場合、セーフティガードは:

  1. フラグ付けされた内容の送信やさらなる処理をブロックします。

  2. 代わりに設定された安全な応答を顧客に届けます。

  3. 検出を内部で記録します。

顧客はその後も通常通り会話を続けられます。セーフティガードはこの段階で会話を終了または閉鎖しません。

同じ会話内での2回目の検出(ストライク2)

同じ会話内で2回目のフラグが立った場合、セーフティガードは自動的に人間のサポートチームにエスカレーションします。会話はFinから切り離され、チームメンバーが直接対応します。2回目のストライク後にエスカレーションされた会話に対しては、Finは再度介入しません。

重要:二段階のカウントは新しい会話の開始時にリセットされます。以前の会話でストライクを受けた顧客も新たにカウントされます。


Finにフラグ付きメッセージを処理させる

これらのオプションを使う理由

一部のビジネスでは、敏感な質問が日常的なサポートの一部です。医療提供者は用量に関する質問を受けます。法律や税務製品は規則や期限に関する質問を受けます。すでに承認されたコンテンツや手順がある場合、2つのオプションでFinがそれを使い、顧客がチームメンバーを待たずに支援を受けられます。

2つのオプション

設定の2つのトグルで、Finがフラグ付きメッセージを拒否する代わりに、独自のナレッジコンテンツや手順を使えます。1つまたは両方をオンにできますが、デフォルトは両方オフです。

ナレッジからの回答:Finは根拠のある回答が見つかった場合に限り、ナレッジから選択された質問に回答します。そうでなければ標準の返信を行います。Finはコンテンツが回答をサポートする場合のみ回答し、カバーしていない質問には標準の返信を返します。

手順へのルーティング:フラグ付きの質問が手順のいずれかに一致した場合、Finは拒否せずにその手順を実行します。Finは通常の方法で質問に一致する場合にのみ手順を実行し、このオプションでFinが選ばない手順を選ぶことはありません。手順はその顧客に対して有効でなければなりません。

オプションをオンにする

  1. 設定 > AI & 自動化 > Fin AI Agentに移動し、Finのセーフティガードを展開します。

  2. ナレッジからの回答、手順へのルーティング、または両方をオンにします。

  3. 確認を読み、ワークスペースを代表して同意するチェックボックスを選択し、同意するを選択します。

  4. オプションが有効になると、Inboxでメッセージがフラグ付けされた会話にFinのセーフティガードが作動しましたというイベントが表示されます。展開するとトピックとFinの対応内容が確認できます。

オプションをオフにするには、トグルをオフにして確認します。Finは再びこれらのメッセージを拒否し、チームメンバーを案内します。オプションはいつでも変更可能です。

メッセージがフラグ付けされたときの動作

1つまたは両方のオプションがオンの場合、Finはフラグ付きメッセージについて以下の順で確認します:

  1. メッセージが常に拒否されるトピックに関する場合、Finは標準の返信を行います。

  2. 独自のエスカレーションルールやガイダンスで会話をチームメンバーに引き継ぐ場合、Finは引き継ぎます。オプションは設定済みの引き継ぎを妨げません。

  3. 手順へのルーティングがオンで、該当する手順が有効な場合、Finはその手順を実行します。

  4. ナレッジからの回答がオンで、コンテンツが回答をサポートする場合、Finは回答します。

  5. 上記のいずれにも該当しない場合、Finは標準の返信を行い、チームメンバーを案内します。

常に拒否されるトピックは会話のどの段階でも拒否され続けます。

敏感なトピックの手順を設定する

  • 手順が有効であることを確認してください。 一時停止中、下書き中、または対象者ルールで制限されている場合、Finは手順を使用できず、メッセージを拒否します。これが手順へのルーティングが機能しない最も一般的な理由です。

  • エスカレーションガイダンスを確認してください。 例えば、すべての症状報告をFinに引き継ぐよう指示している場合、それらのメッセージはチームメンバーに渡され、手順には送られません。

  • 特定のコンテンツに顧客を誘導してください。 フラグ付きメッセージだけに特定の記事を選ぶことはできません。代わりに、返信に目的の記事へのリンクを含む手順を作成し、例えば医療専門家に相談するよう案内するページなどを作成し、手順へのルーティングをオンにしてください。

注意:これらのオプションは現在Fin AI Agent for Serviceのみに適用されます。


よくある質問

Finワークスペースでセーフティガードを無効にできますか?

Finワークスペースでセーフティガードを無効にすることはできません。セーフティガードはすべてのFinワークスペースでデフォルトで有効で、すべてのプランタイプに適用され、無効にできません。これはIntercomのAI使用と行動認証(AIUC-1)の必須要件です。医療、法律、金融など日常的に扱う質問がセーフティガードで拒否される場合は、独自の手順やナレッジコンテンツを使ってFinに処理させてください。セーフティガードは有効のままですが、Finは拒否せずに回答またはルーティングします。

セーフティガードはすべての顧客との会話に影響しますか、それとも敏感な会話だけですか?

セーフティガードはすべての顧客との会話に影響するわけではありません。メッセージやFinの下書き応答が9つの検出トピックのいずれかに該当した場合にのみ作動します。検出トピックに触れない通常の会話はセーフティガードの影響を受けません。

セーフティガードがメッセージをフラグ付けした場合、顧客のメッセージはどうなりますか?

セーフティガードが顧客のメッセージをフラグ付けすると、その内容はブロックされ、さらに処理されません。手順へのルーティングやナレッジからの回答をオンにしていて該当する場合、Finは該当手順にルーティングするか、コンテンツから回答します。そうでなければ、顧客には標準の返信とチームメンバーの案内が送られます。Fin自身の下書き応答がフラグ付けされた場合、その応答は顧客に届く前にブロックされ、代わりに標準の返信が送られます。

セーフティガードを特定のトピックだけ無効にできますか?

セーフティガードを特定のトピックだけ無効にすることはできません。代わりに、上記のオプションを使ってFinにフラグ付きメッセージを手順やコンテンツで処理させてください。常に拒否されるトピックは常に拒否され続けます。

オプションをオンにするとセーフティガードは無効になりますか?

いいえ、オプションをオンにしてもセーフティガードは無効になりません。セーフティガードはすべてのメッセージをチェックし続けます。オプションはフラグ付け後のFinの対応を変えるだけで、常に拒否されるトピックには影響しません。

オプションの適用トピックを選べますか?

オプションの適用トピックを選ぶことはできません。各オプションは上書き可能なすべてのトピックに適用されます。常に拒否されるトピックはオプションの対象外です。

手順へのルーティングをオンにしたのにFinが拒否します。なぜですか?

手順へのルーティングをオンにしてもFinがフラグ付きメッセージを拒否する場合は、該当手順がその顧客に対して有効であり、対象者ルールで制限されていないか確認してください。また、エスカレーションガイダンスで会話が先にチームメンバーに引き継がれていないかも確認してください。オプションは既存の引き継ぎを上書きしません。

Finはフラグ付きメッセージに回答する前にコンテンツをチェックしますか?

Finはフラグ付きメッセージに回答する前にコンテンツの適切性をチェックしません。Finはコンテンツが回答をサポートする場合のみ回答しますが、敏感なトピックに対してコンテンツが適切かどうかの判断はワークスペースの責任です。

Finがオプションを使った時を確認できますか?

Inboxの会話でFinがオプションを使った時を確認できます。セーフティガードがメッセージをフラグ付けすると、会話に「Finのセーフティガードが作動しました」というイベントが表示されます。展開するとトピックとFinの対応内容(手順へのルーティング、ナレッジからの回答、拒否、エスカレーション(会話内の2回目のフラグ))が確認できます。独自のルールやガイダンスで先にチームメンバーに引き継いだ場合、このイベントは表示されず、これらのイベントの別レポートもありません。

こちらの回答で解決しましたか?