AI 对话指标回调

TRTC AI 对话提供了丰富的指标回调功能。这些状态回调通过 TRTC 的自定义消息发送,使得在客户端上可以方便监控对话运行情况,如 LLM、TTS 调用耗时以及性能数据通过 TRTC 自定义消息实时推送到终端,监控 AI 对话的耗时与质量等。
通过 TRTC SDK 接收自定义消息功能,在客户端上监听回调来接收实 AI 对话指标的数据。cmdID 固定是1。
字段
类型
描述
type
Number
消息类型,10020 表示AI服务的调用回调
sender
String
发送者的 userid,这里是机器人的 id
payload
Object
消息负载,包含指标详细信息
payload 对象包含以下字段:
字段
类型
描述
metric
String
调用指标名称如下:
asr_latency
llm_network_latency
llm_first_token
tts_network_latency
tts_first_frame_latency
tts_discontinuity
interruption
value
Number
调用指标
tag
Object
指标关联的 tag
tag 对象包含以下字段:
字段
类型
描述
roundid
String
对话轮次 ID
指标名称说明:
状态代码
描述
asr_latency
asr 延迟。注意:指标包含启动 AI 对话时 VadSilenceTime 所设置的时间
llm_network_latency
llm 请求的网络耗时
llm_first_token
llm 首 token 耗时,指标包含网络耗时
tts_network_latency
tts 请求的网络耗时
tts_first_frame_latency
tts 首帧耗时,指标包含网络耗时
tts_discontinuity
tts 未连续的次数,代表 tts 流式请求播放完成之后,下一个请求还没有返回结果,通常是 tts 延迟比较高导致
interruption
表示此轮对话被打断