OpenTelemetry
-
Agent 慢在哪里:用 OpenTelemetry 追踪大模型多轮推理与工具调用
单次大模型调用可以用日志记录,但 Agent 涉及多轮推理、工具调用和外部依赖,需要更结构化的观测方式。OpenTelemetry 通过 Trace / Span 树记录层级、因果和耗时,并结合 Metric 与日志形成排障链路。
单次大模型调用可以用日志记录,但 Agent 涉及多轮推理、工具调用和外部依赖,需要更结构化的观测方式。OpenTelemetry 通过 Trace / Span 树记录层级、因果和耗时,并结合 Metric 与日志形成排障链路。