AI 对话指标回调
TRTC AI 对话提供了丰富的指标回调功能。这些状态回调通过 TRTC 的自定义消息发送,使得在客户端上可以方便监控对话运行情况,如 LLM、TTS 调用耗时以及性能数据通过 TRTC 自定义消息实时推送到终端,监控 AI 对话的耗时与质量等。
字段 | 类型 | 描述 |
type | Number | 消息类型,10020 表示AI服务的调用回调 |
sender | String | 发送者的 userid,这里是机器人的 id |
payload | Object | 消息负载,包含指标详细信息 |
payload 对象包含以下字段:
字段 | 类型 | 描述 |
metric | String | 调用指标名称如下: asr_latency llm_network_latency llm_first_token tts_network_latency tts_first_frame_latency tts_discontinuity interruption |
value | Number | 调用指标 |
tag | Object | 指标关联的 tag |
tag 对象包含以下字段:
字段 | 类型 | 描述 |
roundid | String | 对话轮次 ID |
指标名称说明:
状态代码 | 描述 |
asr_latency | asr 延迟。注意:指标包含启动 AI 对话时 VadSilenceTime 所设置的时间 |
llm_network_latency | llm 请求的网络耗时 |
llm_first_token | llm 首 token 耗时,指标包含网络耗时 |
tts_network_latency | tts 请求的网络耗时 |
tts_first_frame_latency | tts 首帧耗时,指标包含网络耗时 |
tts_discontinuity | tts 未连续的次数,代表 tts 流式请求播放完成之后,下一个请求还没有返回结果,通常是 tts 延迟比较高导致 |
interruption | 表示此轮对话被打断 |