跳到主要内容

MLflow 3.11.1 亮点:自动问题检测、网关预算管理以及无需 Pickle 的模型序列化!

·5分钟阅读
MLflow maintainers
MLflow 维护者

MLflow 3.11.1 是一个重要的版本更新,在 MLflow 的 AI 可观测性、安全性和治理能力方面取得了重大进展。此版本带来了代理(Agent)的自动质量问题检测、AI 网关的精细化支出控制、交互式跟踪图可视化、对 OpenTelemetry GenAI 语义约定的原生支持,以及更安全的无 Pickle 模型序列化——同时在跟踪集成、评估流水线和 MLflow UI 方面进行了广泛改进。

1. 自动问题识别

无需人工检查,即可自动发现代理中的质量问题!使用跟踪表格中新增的检测问题(Detect Issues)按钮,通过 AI 分析选定的跟踪记录,识别涵盖正确性、安全性和性能等类别的潜在问题。检测到的问题直接链接到相关的跟踪记录,使您能够轻松调查根本原因并大规模调试您的代理。

了解更多关于自动问题检测的信息

2. 网关预算警报与限额

Gateway Budget Alerts & Limits

通过可配置的预算策略掌控您的 AI 网关支出。按时间窗口(每日、每周或每月)设置支出限额,在达到限额前接收警报,并在超过阈值时自动拦截失控成本。全新的预算管理 UI 让您无需编写任何代码,即可跟踪当前支出、配置 Webhook 通知并监控所有网关端点的违规情况。

了解更多关于网关预算警报与限额的信息

3. 跟踪图视图

Trace Graph View

使用全新的交互式跟踪图视图导航复杂的代理交互。可视化多级跟踪层级,一目了然地理解父子跨度(span)关系,并通过跟踪拓扑的直观表示,更有效地调试复杂的多代理系统。

了解更多关于跟踪图视图的信息

4. 原生支持 OpenTelemetry GenAI 约定

Native OpenTelemetry GenAI Convention Support

MLflow 现在原生支持用于跟踪导出的 OpenTelemetry GenAI 语义约定。当在启用 MLFLOW_ENABLE_OTEL_GENAI_SEMCONV 的情况下通过 OTLP 导出跟踪时,MLflow 会自动转换跨度以遵循 OTel GenAI 语义约定,从而在保留所有 GenAI 特定元数据的情况下,实现与兼容 OTel 的可观测性平台的无缝集成。

了解更多关于 OTel GenAI 语义约定支持的信息

5. OpenCode 跟踪集成

通过全新的 OpenCode CLI 跟踪集成,实现更智能的调试。OpenCode 是一款开源的、基于终端的 AI 编码助手。直接从您的开发工作流中跟踪和分析代码执行流程,让您无需离开终端即可更轻松地识别性能瓶颈并将问题回溯至特定的代码路径。

了解更多关于 OpenCode 跟踪的信息

6. 模型依赖项的原生 UV 支持

自动依赖项推断现在支持 UV。MLflow 在记录模型时会检测 UV 项目并捕获精确的、锁定的依赖项(包括每个包的 SHA-256 哈希值),从而确保在服务或共享使用 UV 构建的模型时实现完全可重现的环境。这提供了一种应对供应链攻击的更安全方法:如果攻击者在现有版本号下发布了被篡改的软件包,哈希检查将会失败并阻止安装。

了解更多关于 UV 依赖项管理的信息

7. 无需 Pickle 的模型序列化

使用无需 Pickle 的模型格式增强 ML 流水线的安全性。MLflow 现在支持使用 torch.exportskops 格式进行更安全的模型序列化,并在 MLFLOW_ALLOW_PICKLE_DESERIALIZATION=False 时提供改进的控制。完整的文档将指导您如何将现有模型迁移到用于生产部署的无 Pickle 格式。

了解更多关于无 Pickle 模型格式的信息

重大变更

  • TypeScript SDK 包重命名:MLflow TypeScript SDK 包已重命名以使用 npm 组织作用域。请更新您的 package.json 依赖项:mlflow-tracing@mlflow/coremlflow-openai@mlflow/openaimlflow-anthropic@mlflow/anthropicmlflow-gemini@mlflow/gemini。所有包现在的版本均为 0.2.0
  • 环境变量 MLFLOW_ENABLE_INCREMENTAL_SPAN_EXPORT 已被移除。
  • litellmgepa 已从 genai 额外功能中移除。
  • 现在已禁止在注册模型名称中使用 /:

完整更新日志

有关变更的完整列表,请参阅 版本变更日志,并查看 mlflow.org 上的最新文档。

后续规划

快速开始

安装 MLflow 3.11.1 以体验这些新功能

pip install mlflow==3.11.1

分享你的反馈

我们非常期待听到你对这些新功能的体验

了解更多