跳到主要内容

MLflow 3

·4 分钟阅读
MLflow maintainers
MLflow 维护者

开源 MLflow 社区已达到一个重要的里程碑。今天,我们发布 MLflow 3,它为数百万开发人员信赖的 MLops 平台带来了生产级的生成式 AI 功能。

这不仅仅是又一次功能更新。MLflow 3 从根本上扩展了开源机器学习工具的可能性,解决了生成式AI部署中可观测性和质量方面的挑战,这些挑战曾让部署感觉像是一次冒险。

主要更新

🎯 MLflow LoggedModel

MLflow 3 引入了改进的架构,将新的 LoggedModel 实体作为一流公民,超越了传统的以运行为中心的方法。这使得在实验中能够更好地组织和比较 GenAI 代理、深度学习检查点和模型变体。

在文档中了解更多关于 MLflow LoggedModel 的信息。

🔗 强大的 lineage 支持

增强的模型跟踪提供了模型、运行、trace、prompt 和评估指标之间的全面 lineage。新的以模型为中心的设计允许您将来自交互式查询和自动化评估作业的 trace 和指标分组,从而实现跨模型版本的丰富比较。

新的 GenAI 评估套件

MLflow 的评估和监控功能可帮助您在 GenAI 应用程序的整个生命周期中系统地衡量、改进和维护其质量。从开发到生产,使用相同的质量评分器来确保您的应用程序能够提供准确、可靠的响应,同时管理成本和延迟。

在文档中了解更多关于新的 GenAI 评估套件 的信息。

信息

新的评估套件仅在 Databricks 上的托管 MLflow 中可用,开源支持即将推出。有兴趣尝试吗?开始免费 Databricks 试用,立即探索这些功能。

⚡ Prompt 优化

MLflow Prompt Registry 现在包含 prompt 优化功能,允许您使用评估反馈和带标签的数据集自动改进 prompt。这包括版本管理、跟踪和系统的 prompt 工程工作流。

在文档中了解更多关于 prompt 优化 的信息。

📚 重新设计的文档

MLflow 文档已完全重新设计,以支持两个主要用户旅程:GenAI 开发和经典机器学习工作流。新结构为 GenAI 功能(包括 LLMs、prompt 工程和 tracing)以及传统的 ML 功能(如实验跟踪、模型注册表、部署和评估)提供了专门的部分。

访问新的MLflow 3 文档,探索更新的内容和指南。

其他功能

ResponsesAgent 的流式 API:通过 ResponsesAgent 类和 predict_stream 方法实现新的流式响应功能,为 GenAI 应用程序启用实时流式传输(文档)。

PydanticAIsmolagents 的自动 tracing 支持:为新兴的 GenAI 框架增强了自动 tracing 集成,开箱即用地提供无缝的可观测性(PydanticAI 文档smolagents 文档)。

为 prompt 注册表添加 search_prompts API:用于在注册表中搜索和发现 prompt 的新 API 功能,使 prompt 管理更有效率(API 文档:search_prompts)。

支持 OpenAI/LangChain 自动 tracing 的 token 跟踪:增强的 tracing 现在可以捕获详细的 token 使用情况和成本信息,以实现更好的可观测性和成本管理。

在 tracing 中记录环境元数据:MLflow 会自动将标准环境元数据(如源名称、Git commit hash 和执行类型)作为标签记录到 trace 中(文档)。

UI 支持视频 artifact:MLflow UI 现在支持在 artifact 查看器中直接查看视频文件,超出了传统的 ML artifact。

以及更多:在跟踪、模型注册表和 UI 组件方面进行了许多其他增强,以提高可用性、性能和开发人员体验。

破坏性更改

MLflow 3 包含多项破坏性更改,以提高框架一致性和性能。主要更改包括移除 MLflow Recipes、fastai 和 mleap flavor,以及各种已弃用的 API 参数。

有关破坏性更改的完整列表,请访问MLflow 3 破坏性更改文档

升级建议

我们建议在升级生产工作流之前,在单独的环境中测试 MLflow 3,以确保与现有设置兼容。

开始使用

pip install 'mlflow>=3.1'

探索新的 MLflow 3 文档,并使用我们更新的快速入门指南试用增强的 GenAI 功能。以模型为中心的架构和改进的 tracing 使构建、评估和部署生产就绪的 AI 应用程序比以往任何时候都更容易。访问MLflow 3 文档,了解有关新功能以及如何开始使用的更多信息。

完整变更日志

有关 MLflow 3 中所有更改、错误修复和改进的完整列表,请访问GitHub 上的完整变更日志