MLflow 3
开源 MLflow 社区达到了一个重要的里程碑。今天,我们发布了 MLflow 3,它将生产就绪的生成式 AI 功能带到了数百万开发人员信赖的机器学习操作平台。
这不仅仅是又一次功能更新。MLflow 3 从根本上扩展了开源机器学习工具的可能性,解决了生成式AI部署中可观测性和质量方面的挑战,这些挑战曾让部署感觉像是一次冒险。
主要更新
🎯 MLflow LoggedModel
MLflow 3 引入了经过优化的架构,将新的 LoggedModel
实体作为一等公民,超越了传统的以运行为中心的方法。这使得 GenAI 代理、深度学习检查点和模型变体在不同实验中的组织和比较更加出色。
在文档中了解有关 MLflow LoggedModel
的更多信息。
🔗 强大的血缘支持
增强的模型跟踪提供了模型、运行、跟踪、提示和评估指标之间的全面血缘关系。新的以模型为中心的设计允许您将交互式查询和自动化评估作业中的跟踪和指标进行分组,从而实现模型版本之间的丰富比较。
新的 GenAI 评估套件
MLflow 的评估和监控功能可帮助您在整个生命周期中系统地衡量、改进和维护 GenAI 应用程序的质量。从开发到生产,使用相同的质量评分器可确保您的应用程序提供准确、可靠的响应,同时管理成本和延迟。
在文档中了解有关新的 GenAI 评估套件的更多信息。
新的评估套件目前仅在 Databricks 上的托管 MLflow 中可用,开源支持即将推出。有兴趣试用吗?立即开始免费的 Databricks 试用版,探索这些功能。
⚡ 提示词优化
MLflow 提示词注册表现在包含提示词优化功能,允许您使用评估反馈和标注数据集自动改进提示词。这包括版本控制、跟踪和系统的提示词工程工作流。
在文档中了解有关 提示词优化的更多信息。
📚 全新文档
MLflow 文档已全面重新设计,以支持两个主要用户旅程:GenAI 开发和经典机器学习工作流。新结构为 GenAI 功能(包括 LLM、提示词工程和跟踪)以及传统 ML 功能(例如实验跟踪、模型注册表、部署和评估)提供了专门的部分。
访问新的 MLflow 3 文档,探索更新的内容和指南。
其他功能
ResponsesAgent 的流式 API:通过 ResponsesAgent 类及其 predict_stream 方法提供新的流式响应功能,为 GenAI 应用程序实现实时流式传输(文档)
PydanticAI 和 smolagents 的自动跟踪支持:增强了对新兴 GenAI 框架的自动跟踪集成,开箱即用地提供无缝可观测性(PydanticAI
文档和 smolagents
文档)。
为提示词注册表添加 search_prompts API:新的 API 功能,用于在注册表中搜索和发现提示词,使提示词管理更高效(API 文档:search_prompts)。
支持 OpenAI/LangChain 自动跟踪的令牌跟踪:增强的跟踪现在捕获详细的令牌使用和成本信息,以实现更好的可观测性和成本管理。
在跟踪中记录环境元数据:MLflow 自动捕获标准环境元数据,例如源名称、Git 提交哈希和执行类型,作为跟踪上的标签(文档)。
UI 支持视频工件:MLflow UI 现在支持直接在工件查看器中查看视频文件,超越了传统的 ML 工件。
及更多:跟踪、模型注册表和 UI 组件方面的众多其他增强功能,旨在提高可用性、性能和开发人员体验。
重大更改
MLflow 3 包含多项重大更改,作为改进框架一致性和性能的一部分。主要更改包括移除 MLflow Recipes、fastai 和 mleap flavor,以及各种已弃用的 API 参数。
有关重大更改的完整列表,请访问 MLflow 3 重大更改文档。
升级建议
我们建议在将生产工作流升级到 MLflow 3 之前,在单独的环境中对其进行测试,以确保与您现有设置的兼容性。
开始使用
pip install 'mlflow>=3.1'
探索新的 MLflow 3 文档,并通过我们更新的快速入门指南试用增强的 GenAI 功能。以模型为中心的架构和改进的跟踪使构建、评估和部署生产就绪的 AI 应用程序比以往任何时候都更容易。探索 MLflow 3 文档以了解有关新功能以及如何入门的更多信息。
完整更新日志
有关 MLflow 3 中所有更改、错误修复和改进的完整列表,请访问 GitHub 上的完整更新日志。