可观测性
LLM 与智能体可观测性
深入洞察智能体或 LLM 应用的逻辑,从而 调试问题, 提升质量 以及 理解用户行为.
为每个请求提供丰富、详细的追踪记录

端到端可观测性

捕获智能体或 LLM 应用的输入、输出及逐步执行过程:提示词 (prompts)、检索、工具调用等。

End to end observability screenshot

可视化执行流程

通过全面直观的 UI 深入分析智能体或 LLM 应用的逻辑和延迟,实现高效调试。

Visualize execution flow screenshot

质量监控

持续追踪并分析智能体或 LLM 应用的质量,在问题扩散前采取行动进行修复。

Quality monitoring screenshot

大规模识别趋势和模式

通过简化的摘要 UI 进行全局预览,快速查看大量追踪记录,了解智能体或 LLM 应用的整体表现。

Spot trends and patterns at scale screenshot
针对整个技术栈的自动追踪
自动追踪 50 多种 LLM 提供商和智能体框架,只需一行代码。 LLM 追踪 可捕获每一个执行步骤,且 MLflow 兼容 OpenTelemetry,支持任何编程语言、智能体或 LLM。
三步轻松上手
几分钟内即可实现从零到全方位的可观测性。无需复杂的配置或大量的代码更改。开始使用 →
1

启动 MLflow 服务器

一条命令即可开始。同时也提供 Docker 设置方案。

bash
uvx mlflow server
~30 秒
2

启用日志记录

添加少量代码即可开始捕获追踪记录、指标和参数

python
import mlflow
mlflow.set_tracking_uri(
"https://:5000"
)
mlflow.openai.autolog()
~30 秒
3

运行您的代码

像往常一样运行您的代码。在 MLflow UI 中探索链路和指标。

python
from openai import OpenAI
client = OpenAI()
client.responses.create(
model="gpt-5-mini",
input="Hello!",
)
~1 分钟