在任何将人工智能助手应用于自身知识库的企业中,这种情况都会发生。一位客户向支持机器人咨询 API 配置问题。搜索结果显示有十二份相关文档。其中三份已过时。有一份原本并非面向客户。人工智能无法分辨其中的差异。它会综合所有信息,生成流畅且令人信服的回答。
“相关”不等于“可靠”。“信任门”正是填补这一缺口的解决方案。
您无需对 AI 进行任何改动。只需在生成回答前增加一个简单的验证步骤。Rasepi 不会读取提示信息,也不会介入您与模型之间。
无论是人、聊天机器人还是代理,都需要知识。您的 AI 照常进行搜索,并找到了 20 个来源。
时效性、审核状态、所有权、来源、授权情况以及请求的背景:谁在提问?问什么?通过什么渠道?据此,针对每个来源做出决定:允许(ALLOW)、警告(WARN)、阻止(BLOCK)或升级(ESCALATE)。每次都会给出理由。
被封锁的来源永远无法获得回复。警告可能触发引用义务或提示。回复基于您可以信赖的知识。
哪些来源经过审核、哪些被批准、哪些被屏蔽以及原因。来源账本会记录这些信息,以供审计和故障排查之用。
关于背后的技术:Trust Gate 可在您的流程中三个位置接入。
您的应用程序首先会询问:对于此用例,究竟允许哪些来源?严格,适用于受监管的环境。
检索器找到候选数据,Rasepi 进行筛选。这是最简单的入门方式,也是我们的推荐方案。只需在您现有的管道中调用一次 API。
Rasepi 会检查引用的来源是否合规。作为第二道防线非常有用,但效力弱于之前的筛选机制。
可信度并非文档本身的属性。它取决于具体情境:谁在询问?询问什么?通过什么渠道?仅凭一个评分无法做到这一点。
Trust Gate 无需迁移。Rasepi 会连接您当前存储知识的系统,对内容进行分类,并据此计算可信度。具体使用哪些系统并不重要。
哪些来源经过了审查?哪些被批准,哪些被阻止,以及原因是什么?在给出答复时,哪一版本是有效的?来源账本(Provenance Ledger)回答了每次事件发生后和每次审计中都会出现的问题。
被屏蔽的来源会自动向所有者发送审核请求。该门禁不仅能防止损害,还能推动您对知识的维护。
Trust Gate 采用简单的 HTTP API:输入来源,输出决策。通过 API 密钥或客户端凭证进行机器认证。兼容所有 RAG 框架、所有聊天机器人平台,并可在 CI/CD 管道中运行。 所有端点、请求示例和 SDK 均可在 API 文档中找到。