跳到主要内容

MLflow 3.13.0 亮点:基于角色的访问控制、追踪归档、编码智能体以及 Hermes 智能体支持

·阅读时长 6 分钟
MLflow maintainers
MLflow 维护者

MLflow 3.13.0 是一个用于大规模运行 AI 可观测性的重大版本,重点关注访问控制、追踪数据的生命周期以及对智能体更丰富的支持。亮点包括:完整的基于角色的访问控制(RBAC)系统及新的管理 UI、自动追踪归档、编码智能体一键式接入、MLflow Assistant 的新引擎、追踪跨度(Span)日志级别、官方 Kubernetes Helm Chart 以及对 Hermes 智能体的支持。

1. 基于角色的访问控制与管理 UI

过去,在团队中共享自托管的 MLflow 服务器意味着必须逐个资源地授予权限,且缺乏统一的管理中心。全新的基于角色的访问控制 (RBAC) 系统取代了这种方式:您可以将角色定义为可重用的权限包,将其分配给用户,并通过工作区级别的授权来体现成员身份和管理权限。用户的实际有效访问权限是其所拥有的各角色权限的并集,涵盖实验、模型、提示词(prompts)、评分器及 AI 网关端点。

全新的网页版管理 UI 让这一切变得易于管理,无需再操作 REST 端点。它提供了一个自助式的 /account 页面用于查看角色和更改密码,以及供平台管理员使用的页面来管理用户、角色和权限授予。只需在启用身份验证的情况下启动 mlflow server 即可。

了解更多关于基于角色的访问控制的信息

2. 追踪保留策略与自动归档

在长期运行的追踪服务器上,追踪跨度(Trace span)数据会堆积在 SQL 后端并最终导致性能下降。追踪归档功能解决了这一问题:后台进程会自动将超过保留期限的追踪记录从 SQL 数据库移动到廉价的对象存储(如 S3)中,同时确保所有追踪记录在 UI 和 API 中依然完全可读。保留策略由策略驱动,支持从服务器到工作区再到实验的多级定义。

通过将服务器指向一个 YAML 配置文件来启用此功能

trace_archival:
enabled: true
location: s3://my-bucket/trace-archive
retention: 7d
interval_seconds: 60

工作区管理员和实验负责人随后可以通过 UI 或 CLI 收紧保留策略,有效的截止日期会以“归档时间 (Archive after)”徽章的形式显示在每个追踪记录上。

了解更多关于追踪归档的信息

3. 编码智能体的一键式可观测性与治理

以往要将 Claude Code、OpenAI Codex 或 Gemini CLI 等编码智能体纳入可观测性和治理范围,通常需要手动配置网关端点。现在的 AI 网关快速入门(QuickStart)只需一键即可完成:选择您的智能体,MLflow 将为您配置好端点(无需 API 密钥,因为智能体自带凭证),并提供一段可直接粘贴的入门代码片段。从那以后,智能体发出的每一项请求都会被捕获为追踪记录,并受到使用情况跟踪、预算和护栏机制的约束。

export ANTHROPIC_BASE_URL="https://:5000/gateway/proxy/my-claude-endpoint" && claude

了解更多关于 AI 网关中编码智能体的信息

4. MLflow Assistant 的新引擎

MLflow Assistant 在 3.9.0 版本发布时绑定了 Claude Code。现在,您可以自行选择驱动它的引擎:在设置向导中选择运行本地 Ollama 模型、OpenAI Codex CLI 或任何 MLflow AI 网关端点。这意味着您可以利用 Ollama 将一切保留在本地机器上,或者重用您已通过网关路由的现有服务商。

感谢社区贡献者 @SuperSonnix71 为此贡献了 Ollama 和 OpenAI Codex 引擎!

了解更多关于 MLflow 助手的信息

5. Kubernetes 部署的 Helm Chart

过去在 Kubernetes 上部署 MLflow 需要编写并维护自己的清单文件。现在,官方提供了一个生产就绪的 Helm chart,内置了 TLS、持久化存储、Ingress、Prometheus 指标、限制性 NetworkPolicy、RBAC 以及可选的 mlflow gc 垃圾回收功能。下载 Chart 即可安装(要求 Kubernetes 1.23+ 和 Helm 3.8+)

helm install mlflow ./charts \
--namespace mlflow \
--create-namespace \
--set storage.enabled=true \
--set mlflow.backendStoreUri="sqlite:////mlflow/mlflow.db" \
--set mlflow.artifactsDestination="/mlflow/artifacts"

了解更多关于 Kubernetes Helm 部署的信息

6. Hermes 智能体支持

智能体可观测性现已扩展到长周期自主运行时。来自 Nous Research 的 Hermes Agent 在两个层面进行了集成:通过 AI 网关路由其模型调用,以实现集中的使用情况跟踪、预算和护栏控制;并通过 MLflow Tracing(基于 OpenTelemetry)捕获端到端的完整追踪,包括 LLM 调用、工具调用以及长期会话。

要通过网关路由 Hermes,请创建一个端点并运行 hermes setup model;对于追踪功能,请安装社区提供的 hermes-otel 插件,将 OTLP 追踪导出到您的 MLflow 服务器。

了解更多关于 Hermes 智能体和 AI 网关的信息

7. 追踪跨度的日志级别

繁忙的追踪记录可能会将您关注的跨度淹没在链式调用和解析器调用中。现在的跨度携带了 Python logging 风格的严重性级别(从 DEBUGCRITICAL),并根据跨度类型自动分配。因此,LLM、工具和检索器调用将以 INFO 级别显示,内部步骤保持 DEBUG,而任何引发异常的跨度会自动提升为 ERROR。在追踪浏览器中,一个新的最低日志级别滑块可以在无需更改代码的情况下隐藏低于阈值的条目。您也可以显式设置级别。

import mlflow

with mlflow.start_span("plumbing", log_level="DEBUG") as span:
...

感谢社区贡献者 @rrtheonlyone 为此贡献了该功能!

了解更多关于跨度日志级别的信息

完整更新日志

有关更改的完整列表,请参阅 发布更新日志

后续规划

快速开始

升级以尝试这些新功能

pip install mlflow==3.13.0

分享你的反馈

我们非常期待听到你对这些新功能的体验

了解更多