Taxbit工程实践：在受监管行业构建可靠AI助手的检索与安全策略

Taxbit是一家成立于2018年的数字资产税务和会计合规平台，服务于交易所、支付服务和经纪商等企业客户。其新推出的AI助手Taxbit Assist嵌入在产品仪表板中，帮助合规团队在受监管环境中获取可靠答案。这一实践展示了在敏感领域构建AI助手时，如何通过特定的工程手段来确保答案的可信度与安全性。

在构建Taxbit Assist时，团队面临四个核心约束：回答必须有据可查且可引用；助手需具备角色和组织感知能力，避免引导用户进入无权访问的工作流；严格区分产品文档与税务建议；以及支持区域数据驻留要求。为满足这些要求，团队选择了Amazon Bedrock AgentCore作为底层平台，利用其托管代理运行时、内置记忆功能和会话隔离能力，从而将主要精力集中在检索和安全工作上。

检索质量的提升主要得益于两项关键工程实践。首先是上下文分块策略：团队采用语义分块，并通过自定义转换钩子在每个分块前添加其所属文档的标题和引导段落，确保每个分块都能携带其适用范围信息。这一改变被证明是影响最大的检索优化，有效避免了因分块脱离上下文而导致的误导。其次是检索流程优化：在查询时，系统先通过向量搜索获取大量候选段落，再使用重排模型进行精排，并限制每个源文档返回的分块数量，从而平衡了召回率与精确度。

在安全与数据保护方面，Taxbit采取了一系列严格措施。知识库中不包含任何租户特定内容，仅包含公开文档、代码生成的产品参考和人工整理文章。身份验证信息不经过模型，而是由可信服务直接绑定到工具调用中，防止提示注入攻击。此外，系统通过Amazon Bedrock Guardrails对输入消息进行PII脱敏处理，并采用地理感知推理配置文件确保数据在指定区域内处理，满足欧盟和美国的数据驻留要求。

为了持续保证回答质量，Taxbit在生产环境中部署了多层评估机制。系统采样10%的实时会话，使用LLM-as-a-judge评估器对回答的有用性、连贯性等六个维度进行评分。同时，使用基础模型分类器检测回答中是否出现税务建议漂移，其误报率接近于零，远低于传统主题过滤器的约25%。经过人工审核的修正内容会被写入知识库的精选前缀，并触发增量索引作业，使专家修正能在几分钟内生效。

Taxbit Assist自2026年5月起已在欧美市场投入生产，其内部分析显示，超过55%的用户会在提问后24小时内再次提问。模型平均每次对话成本低于20美分，其中提示缓存技术将约四分之三的输入token从缓存中提供，大幅降低了成本。这一实践为在受监管行业构建可靠AI助手提供了可借鉴的工程范式，特别是在检索增强、安全边界和持续质量监控方面。