跟踪 Quarkus LangChain4j
通过 OpenTelemetry 进行集成
Quarkus LangChain4j可以通过 OpenTelemetry 与 MLflow 集成。配置Quarkus LangChain4j's OpenTelemetry 导出器,将跟踪发送到 MLflow 的 OTLP 端点。
信息
MLflow 3.6.0 及更高版本支持 OpenTelemetry 跟踪摄取。
OpenTelemetry 端点 (OTLP)
MLflow 服务器在 /v1/traces 暴露一个 OTLP 端点(OTLP)。此端点接受来自任何原生 OpenTelemetry 检测的追踪,允许您追踪用其他语言(如 Java、Go、Rust 等)编写的应用程序。
要使用此端点,请使用基于 SQL 的后端存储启动 MLflow Server。以下命令启动 MLflow Server 及其 SQLite 后端存储
bash
mlflow server
要使用其他类型的 SQL 数据库(如 PostgreSQL、MySQL 和 MSSQL),请按照后端存储文档中所述更改存储 URI。
在您的应用程序中,配置服务器端点并在 OTLP 标头 x-mlflow-experiment-id 中设置 MLflow 实验 ID。
bash
export OTEL_EXPORTER_OTLP_TRACES_ENDPOINT=https://:5000/v1/traces
export OTEL_EXPORTER_OTLP_TRACES_HEADERS=x-mlflow-experiment-id=123
注意
目前,MLflow Server 只支持 OTLP/HTTP 端点,尚不支持 OTLP/gRPC 端点。
在 Quarkus LangChain4j 中启用 OpenTelemetry
请参阅 Quarkus LangChain4j 可观测性文档,了解如何在 Quarkus LangChain4j 中设置跟踪,并使用上述环境变量指定 OTLP HTTP 导出器。
参考
有关将跟踪从与 OpenTelemetry 兼容的框架发送到 MLflow 的完整分步说明,请参阅将 OpenTelemetry 跟踪收集到 MLflow 中。