← 返回 技术博客

技术文章

衡石 ChatBI 的端到端响应性能:从首个反馈到可验证答案

将首个进度反馈、首个可用数据与完整答案分开测量,结合指标语义、权限和数据路径复验 ChatBI 响应性能。

2026/10/28技术博客HENGSHI3 分钟阅读
ChatBIHQLData Agent

Article body

正文

业务人员评价 ChatBI 快不快,通常只记得从点击发送到看到结论的那段等待。对实施团队而言,这段等待至少包含三件不同的事:界面何时给出第一个可见反馈,数据何时以可用指标或图表返回,以及完整解释何时生成。把三者混成一个数字,会把数据查询、模型生成、前端呈现和数据更新的问题混在一起,也会让优化失去方向。

衡石 ChatBI 的价值不只在于把自然语言转换为一次查询。它让用户在角色权限允许的范围内,围绕数据集和业务指标提问,并把结果组织为数据与图表。企业若先把指标口径、维度和权限建好,ChatBI 就能把问数放进已有的语义和治理边界中。本文以区域销售分析为例,说明怎样设计一条既能尽早反馈、又能复验结果的端到端链路。

一条区域销售问题,先确认口径再追求速度

假设华东销售负责人提出:“本月华东实际销售额和目标完成率是多少?食品和非食品分别由哪些城市拉动?”这不是一个只要返回数字的问题。团队需要先确认“销售额”是否含税、退货如何处理、目标完成率的分子和分母是什么,以及该负责人是否只能看到华东的数据。

衡石的指标管理和 ChatBI 问数范围为这一步提供了落点。将“实际销售额”“销售目标”“目标完成率”配置为受治理的业务指标,并将大区、品类、城市定义为可用维度后,系统可以把用户语言优先对齐到指标和维度,而不是让模型从大量字段名中猜测含义。NL2Metrics 的意义正在这里:它收窄了语义选择空间,减少同一口径被误解后再次追问、改问或重跑查询的机会。它不替代指标治理,模型也不能替业务部门决定口径。

权限要在性能验收前就固定。ChatBI 文档明确说明,用户基于角色权限对数据集和业务指标进行问数。测试时不能用管理员角色跑出一份结果,再把它当作区域经理的体验。区域经理、销售总监和管理员应分别验证可见指标、可见维度、可下钻范围和返回内容。

把“响应时间”拆成三个用户可感知的时点

ChatBI 响应时间测量:发送问题、首个反馈、首个可用数据与完整答案,三项计时共用同一起点。

记录项起止定义它回答的问题
首个进度反馈用户发送问题,到界面出现首个可见状态用户是否知道任务已经开始处理
首个可用数据用户发送问题,到可核对的指标结果或图表出现数据链路和查询是否成为主要等待项
完整答案用户发送问题,到结论、解释和图表均可阅读生成、渲染和多步骤分析耗时是否需要继续排查

衡石的模型通用配置提供 ENABLE_STREAM,用于控制大模型流式返回,默认开启。企业通过 HTTP API 接入时,还需在接口请求中启用 stream=true;英文 Data Agent 手册列出了阶段状态、增量文本、图表和结束事件,接入团队可以据此呈现进度与逐段答案。模型侧开关与接口侧输出方式应分别核验。首个可用数据仍以完成权限约束和实际查询后的指标或图表为准,首个文本片段只代表交互已经开始。

结合数据路径定位查询瓶颈

区域销售问题经过口径确认后,可能先走业务指标查询,也可能进入 HQL 查询阶段。Data Agent HTTP API 公开的流式状态包括指标查询、HQL 查询和分析总结等环节,对接团队可据此记录当前处理阶段。对于“哪些城市拉动增长”这类分析问题,系统可能需要多步取数和汇总,验收应记录可观察到的查询条件与次数。

若查询基线本身慢,先在 ChatBI 之外用相同指标、时间范围、筛选条件和排序复现一次图表或数据集查询。衡石的性能与实时性指引给出清晰取舍:数据量不大、必须查看源端最新数据时优先直连;跨数据源或计算复杂时可考虑数仓或数据集成后按计划同步;访问量高且查询重复度高时,可结合图表缓存周期。加速引擎以导入和更新换取查询性能,因此数据新鲜度必须随测试一起记录。

稳定、重复的分析场景可以评估聚合数据集和加速路径,但先要写下最低下钻粒度。目标完成率、去重客户数、期末余额等指标不能简单把下层结果相加。团队应保留能够复算的分子、分母、日期或明细,并在加速前后用同一问题集比对口径。这样做会多花一点建模时间,却能避免用“更快的错误答案”换取演示效果。

在同一环境下测量 P50、P95 与结果质量

性能验收应使用目标部署环境的测试数据。模型供应商、数据源位置、数据量、权限规则、并发和更新任务都会影响结果。团队应选择两个脱敏样本:一个是“本月华东实际销售额”这类高频、筛选较少的问题,另一个是“按品类和城市解释目标完成率变化”这类维度更多的问题。对每个样本分别记录首个进度反馈、首个可用数据和完整答案的中位数与 P95。

每轮只改变一个条件,例如时间范围、并发数、缓存冷暖状态或更新窗口。保持问题原文、用户角色、指标版本、数据集版本和浏览器环境不变。除速度外,同步检查四项:返回指标是否与定义一致,区域用户是否看不到越权数据,图表的筛选与答案是否一致,结果所用数据的最近成功更新时间是否满足业务要求。出现失败或异常时,保留对话卡片中的执行日志以及浏览器请求响应,帮助定位模型、检索、权限、数据或前端交互中的问题。

把性能优化落在可治理的产品能力上

一条好的 ChatBI 链路从指标语义开始,在权限边界内发起查询,用真实执行状态减少空白等待,并让用户能复核结果。衡石提供了业务指标、ChatBI 问数、HQL 查询、数据集与加速能力,以及面向 Agent 的流式配置;企业仍需根据自身的数据时效、分析粒度和部署条件做取舍。先把首个反馈、首个可用数据和完整答案分开测量,再决定应优化语义、数据路径、模型配置还是页面呈现,性能改进才会留下可复验的证据。

HENGSHI SENSE

丰富的资源 完整的生态

邀您成为衡石伙伴

立即加入

企业级部署、产品集成与试用咨询均可快速响应