The Fin AI Engine™は、Fin AI Agentがすべてのクエリを洗練し、すべての応答を最適化し、各回答の品質を検証できるようにします。その結果、業界最高の解決率と業界最低の幻覚率を両立できる唯一のAIエージェントです。
多くのAIエージェントは高い解決率か低い幻覚率のいずれかに最適化できますが、両方を同時に達成するのは難しいです。これは、多くの場合、生成型大規模言語モデル(LLM)に単に「ラッパー」を適用しているだけで、上に構築していないためで、コストと手間が少ないからです。
しかし、このアプローチはLLMの幻覚傾向を無視し、顧客に誤ったまたは無関係な情報を提供してしまいます。IntercomのようにLMMの入力と出力を洗練するシステムがなければ、AIエージェントは正確性と信頼性の両方で効果的に最適化できません。
仕組み
フェーズ1 - クエリの洗練
LLMが生成する回答の正確性を最適化するには、LLMが受け取る入力を理解しやすく洗練する必要があります。クエリが明確で理解しやすいほど、出力は良くなります。
カスタマーサービスでは、顧客がクエリを十分に説明または文脈化せずにサポートに連絡することがよくあります。この問題を解決するために、The Fin AI Engine™はLLMに送られる入力を洗練するよう設計されています。これにより、各顧客メッセージの意味と文脈が最適化され、LLMが正確な回答を生成する可能性が最大化されます。
さらに、The Fin AI Engine™は、顧客のクエリのトピックと文脈に基づいてWorkflowsの自動化やカスタム回答をトリガーすべきかどうかをチェックし、Finが回答すべきでない内容をフィルタリングする安全性チェックも行います。
フェーズ2 - 応答の生成
クエリがチェックされ最適化された後、次の段階はLLMを使って応答を生成することです。このタスクのために、The Fin AI Engine™は特注の強化型検索拡張生成アーキテクチャ(略してRAG)を使用するよう設計されています。
RAGは、データソースから関連情報を取得し、ユーザーのプロンプトと組み合わせてLLMに渡すプロセスです。この追加の文脈はモデルの基礎知識を強化し、幻覚のような不正確さのリスクを減らします。
IntercomのRAGの応用は非常に独特です。IntercomのAIチームはRAGの独自の応用を最適化するために多大な投資を行い、LLMの正確性とRAGの各ステップを継続的にテストして全体のパフォーマンスを向上させています。
検索の最適化:
AIエンジンは利用可能な情報、アクション、データを検索し、クエリの性質に最も関連し、問題解決に必要なものを判断します。情報源には以下が含まれます:
コンテンツ - 過去のIntercomの会話、help centerの記事、PDF、正確かつ安全な情報源として承認されたHTML/URLなど。
データ - Intercomの内部または外部の動的情報で、Finが顧客体験をパーソナライズするために使用できます。
統合とアクション - 顧客のクエリの意図に基づき、サードパーティシステムで必要なアクションがあるかどうかを判断します。
統合と拡張
取得した情報は最適化されたクエリまたは「入力」と統合・拡張されます。このステップにより、生成モデルは最も関連性が高く最新の情報にアクセスできるようになり、応答を生成します。拡張された入力は、取得情報の文脈と関連性を維持する形で構造化され、モデルが理解しやすく利用しやすくなっています。
応答の生成
明確化と曖昧さの解消
モデルの出力がThe Fin AI Engine™の確実性パラメータを満たさない場合、顧客にクエリの明確化を求める応答が生成されます。この曖昧さ解消ステップは、生成された応答が会社の利用可能な知識資源やサポートコンテンツの事実に基づいて文脈的かつ根拠のあるものとなるため、幻覚のリスクを回避します。
アクションの実行
ユーザーのクエリと意図に基づきアクションが必要な場合、必要な情報、データ、統合、システムを使ってアクションが実行されます。
回答の生成
生成モデルは拡張された入力を使って回答を生成します。取得した情報を組み込むことで、より正確で文脈的に関連し、詳細な応答が可能になります。生成された回答は明確さ、一貫性、ユーザーのクエリとの整合性を確保するために後処理されることがあります。
フェーズ3 - 正確性の検証
プロセスの最終段階で、The Fin AI Engine™はLLMの出力が必要な応答の正確性と安全基準を満たしているかをチェックします。多くのチェックが行われ、応答に十分な自信があるか、正確であるか、現実に根ざしているかを評価し、質問に適切に対応できるかを判断します。
応答の検証
生成された応答を元の顧客クエリと比較します。
生成された応答がクエリに十分に答えているかを判断します。
生成された応答が知識資源やサポートコンテンツの知識に基づいているかを判断します。
顧客への応答
生成された応答をFinを通じて顧客に送信します。
エンジンの最適化
性能を調整・向上させるために、The Fin AI Engine™には回答生成、効率、精度、カバレッジを最適化する高度な統合ツールが備わっています。
Finのカスタマイズと制御 - Intercomは、usersがFinの応答方法、できること、使用できる情報などをカスタマイズ・制御できる機能とツールを組み込んでいます。これらはFinの性能に影響し、知識が増えるほど多くのことが可能になり、人間品質の顧客体験を自動化できます。
AI分析とレポート - The Fin AI Engine™は回答生成プロセスの各段階の効果を分析できるよう設計されています。これによりIntercomのAIチームは各段階と全体のパフォーマンスを改善できます。AIエンジンのアーキテクチャ変更前には厳密なテストが行われ、変更がエンジン全体に与える影響を考慮します。さらに、AIエンジンはIntercomのusersに対し、Finの効果的な部分や改善点を理解するための事前構築およびカスタマイズ可能なレポートを提供します。
AIの推奨 - AIエンジンはパフォーマンスを継続的に向上させるための推奨を提供します。これは、Finの知識のギャップを埋めるのに役立つコンテンツの特定、最適化が必要なパフォーマンスの低いコンテンツの強調、Finがより多くの顧客のクエリを解決できるように設定すべきアクションの提案などを含みます。
安全性とセキュリティ
LLMの生成能力だけに頼って顧客の問題を解決するのは信頼できる方法ではありません。適切な安全対策がなければ、LLMは操作や幻覚のリスクがあり、顧客に影響を与える可能性があります。安全性と信頼性を確保するため、The Fin AI Engine™は各段階で厳格な安全管理を設けています。安全基準を満たさない場合、Finは回答できないことを顧客に伝え、人間のサポートにエスカレーションします。
IntercomはOWASP LLM Top 10で特定された脅威を含む幅広いLLMの脅威からFinを守るため、最先端のセキュリティ対策を実施しています。高性能LLMの継続的なテストと厳格な内部管理、セキュリティプロトコル、安全対策の展開により、Finは最高レベルのセキュリティと信頼性を実現し、潜在的な制限や脅威を回避しています。
つまり、あなたとあなたの顧客は常にFinの回答を最も安全で正確かつ信頼できるAIエージェントとして信頼できます。
Finの安全対策の詳細はtrust.intercom.comでご覧ください。
Fin AI セキュリティ
IntercomのFin AI機能に実装されたセキュリティ対策とテストプロトコルの包括的な概要はこちらでご覧いただけます。
地域ホスティング
Fin AI Agentは米国、EUおよびAUホストワークスペースで利用可能です。
コンプライアンス
Intercomは最高水準の安全性とセキュリティを確保するために国際的な認証と管理体制を整えています。内容は以下の通りです:
ISO 27001、ISO27701、ISO 27018、ISO42001
HIPAA準拠。
SOC 2レポート - セキュリティ、可用性、機密性に特化したSOC 2、タイプII監査レポート。
HDS証明書 - HDSリファレンシャルバージョン1.1(英語およびフランス語版)準拠の認証。
ペネトレーションテスト概要 - 第三者セキュリティ専門家によるIntercomのアプリケーションとインフラの詳細なペネトレーションテストの概要。
クラウドセキュリティアライアンス評価 - Cloud Controls MatrixおよびGDPR準拠のCSA行動規範に基づくセキュリティとプライバシーの自己評価。
サードパーティLLMのデータ使用、転送および保存
顧客データはLLMプロバイダーによるモデル学習には使用されません。AI製品に送信されたデータは入力となり、出力を生成するために使用されます(これらの用語は追加製品利用規約で定義されています)。
詳細はAI製品/機能の法務およびセキュリティガイドでご確認ください(閲覧にはIntercomワークスペースへのログインが必要です)。
