AIが回答を作成する前に、Rasepiは見つかった情報源をすべてチェックします。最新ですか？検証済みですか？この目的のために公開されていますか？信頼できる情報のみが通過します。
自社知識にAIアシスタントを導入している企業なら、どこでも起こり得ることです。顧客がサポートボットにAPIの設定について問い合わせます。検索の結果、12件の該当文書が見つかりました。そのうち3件は古くなっています。1件は顧客向けのものではありませんでした。AIにはその違いがわかりません。AIはそれらすべてを組み合わせて、滑らかで説得力のある回答を作成します。
「適切」と「信頼できる」は同じではありません。まさにこのギャップを埋めるのが、Trust Gateです。
AI自体に変更を加える必要はありません。回答が生成される前に、たった1つの検証ステップを加えるだけです。Rasepiはプロンプトを読み取ったり、ユーザーとモデルの間に介入したりすることはありません。
人間、チャットボット、またはエージェントが知識を必要とします。AIはこれまで通り検索を行い、例えば20件の情報源を見つけます。
最新性、検証状況、所有権、出典、公開状況、そして問い合わせの文脈（誰が、何のために、どのチャネルを通じて問い合わせたか）を検証します。その結果、情報源ごとに「ALLOW（許可）」「WARN（警告）」「BLOCK（ブロック）」「ESCALATE（エスカレーション）」のいずれかの判断が下されます。常にその理由が明記されます。
ブロックされた情報源には、回答は決して届きません。警告は、引用義務や注意喚起を引き起こす可能性があります。回答は、信頼できる知識に基づいて生成されます。
どの情報源が検証され、どの情報源が承認され、どの情報源がブロックされたか、そしてその理由が記録されます。Provenance Ledgerは、監査やトラブルシューティングのために、これらを記録します。
その背後にある技術について：Trust Gateは、パイプラインの3つのポイントに組み込むことができます。
まず、アプリケーションが確認します：このユースケースにおいて、そもそもどのソースが許可されているのでしょうか？厳格な管理が求められる規制環境に適しています。
リトリーバーが候補を見つけ、Rasepiがそれらをフィルタリングします。最も簡単な導入方法であり、弊社が推奨するアプローチです。既存のパイプラインにAPI呼び出しを1回追加するだけです。
Rasepiは、引用された出典が許容範囲内であったかを確認します。第2の防衛ラインとして有用ですが、その前のゲート処理よりは効果が弱くなります。
信頼性は、文書が持つ特性ではありません。それは文脈における判断です。誰が、何のために、どのチャネルを通じて問い合わせているのか？スコアだけでは、それだけでは判断できません。
Trust Gateは移行を前提としていません。Rasepiは、現在お客様の知識が存在するシステムに接続し、コンテンツをカタログ化し、その信頼性を算出します。どのシステムであるかは問題ではありません。
どの情報源が検証されましたか？ どれが承認され、どれがブロックされ、その理由は何ですか？ 回答時点ではどのバージョンが有効でしたか？ プロヴェナンス・レジャーは、あらゆるインシデントや監査の後に必ず生じる疑問に答えます。
ブロックされた情報源については、自動的に所有者へのレビュー依頼が送信されます。このゲートは損害を防ぐだけでなく、知識のメンテナンスを促進します。
Trust GateはシンプルなHTTP APIを扱います：ソースを入力し、決定を出力します。APIキーまたはクライアント認証情報によるマシン認証。あらゆるRAGフレームワーク、チャットボットプラットフォーム、およびCI/CDパイプラインで動作します。 すべてのエンドポイント、リクエスト例、およびSDKについては、APIドキュメントをご覧ください。
Trust Gateは現在、プライベートベータ版として提供されています。登録して、ご自身のパイプラインについてお聞かせください。
チームを順次招待しております。