跳到主要内容

MLflow 3

·4 分钟阅读
MLflow maintainers
MLflow 维护者

MLflow 开源社区取得了重要的里程碑。今天,我们发布了 MLflow 3,它为数百万开发人员信赖的 ML 运维平台带来了生产就绪的生成式 AI 功能。

这不仅仅是又一次功能更新。MLflow 3 从根本上扩展了开源机器学习工具的可能性,解决了生成式AI部署中可观测性和质量方面的挑战,这些挑战曾让部署感觉像是一次冒险。

主要更新

🎯 MLflow LoggedModel

MLflow 3 引入了精炼的架构,将新的 LoggedModel 实体作为一级公民,超越了传统的以运行为中心的方法。这使得 GenAI 代理、深度学习检查点和模型变体在实验中能够更好地组织和比较。

在文档中了解更多关于 MLflow LoggedModel 的信息。

🔗 强大的血缘支持

增强的模型跟踪提供了模型、运行、跟踪、提示和评估指标之间的全面血缘关系。新的以模型为中心的设计允许您将交互式查询和自动化评估作业的跟踪和指标进行分组,从而实现不同模型版本之间的丰富比较。

新 GenAI 评估套件

MLflow 的评估和监控功能可帮助您在整个生命周期中系统地衡量、改进和维护 GenAI 应用程序的质量。从开发到生产,使用相同的质量评分器可确保您的应用程序提供准确、可靠的响应,同时管理成本和延迟。

在文档中了解更多关于新的 GenAI 评估套件 的信息。

信息

新的评估套件仅在 Databricks 上的托管 MLflow 中可用,开源支持即将推出。有兴趣试用吗?立即开始免费的 Databricks 试用,探索这些功能。

⚡ 提示优化

MLflow 提示注册表现在包含提示优化功能,允许您使用评估反馈和带标签数据集自动改进提示。这包括版本控制、跟踪和系统化的提示工程工作流。

在文档中了解更多关于 提示优化 的信息。

📚 文档重构

MLflow 文档已全面重新设计,以支持两个主要用户旅程:GenAI 开发和经典机器学习工作流。新结构为 GenAI 功能(包括 LLM、提示工程和跟踪)和传统 ML 功能(如实验跟踪、模型注册表、部署和评估)提供了专门的章节。

访问新的 MLflow 3 文档,探索更新的内容和指南。

其他功能

ResponsesAgent 的流式 API:通过 ResponsesAgent 类的 predict_stream 方法提供新的流式响应功能,为 GenAI 应用程序实现实时流式传输(文档

PydanticAIsmolagents 的自动跟踪支持:增强了对新兴 GenAI 框架的自动跟踪集成,开箱即用地提供无缝可观察性(PydanticAI 文档smolagents 文档)。

为提示注册表添加 search_prompts API:用于在注册表中搜索和发现提示的新 API 功能,使提示管理更高效(API 文档:search_prompts)。

支持 OpenAI/LangChain 自动跟踪的令牌跟踪:增强的跟踪现在捕获详细的令牌使用和成本信息,以实现更好的可观察性和成本管理。

在跟踪中记录环境元数据:MLflow 自动捕获标准环境元数据,如源名称、Git 提交哈希和执行类型,并将其作为标签附加到跟踪中(文档)。

UI 支持视频工件:MLflow UI 现在支持在工件查看器中直接查看视频文件,扩展到传统 ML 工件之外。

以及更多:跟踪、模型注册表和 UI 组件方面的许多其他增强功能,以提高可用性、性能和开发人员体验。

重大变更

MLflow 3 包含多项重大变更,作为改进框架一致性和性能的一部分。主要变更包括删除 MLflow Recipes、fastai 和 mleap 风格,以及各种已弃用的 API 参数。

有关重大变更的完整列表,请访问 MLflow 3 重大变更文档

升级建议

我们建议在升级生产工作流之前在单独的环境中测试 MLflow 3,以确保与您现有设置的兼容性。

开始使用

pip install 'mlflow>=3.1'

探索新的 MLflow 3 文档,并通过我们更新的快速入门指南试用增强的 GenAI 功能。以模型为中心的架构和改进的跟踪使构建、评估和部署生产就绪的 AI 应用程序比以往任何时候都更容易。探索 MLflow 3 文档,了解更多新功能以及如何开始使用。

完整变更日志

有关 MLflow 3 中所有变更、错误修复和改进的完整列表,请访问 GitHub 上的完整变更日志