我们很高兴宣布 MLflow 2.16.0 版本发布。此版本包含许多主要新特性和改进!
主要新特性:
-
LlamaIndex 增强功能🦙 - 为了给 LlamaIndex 集成提供额外的灵活性,我们现在支持用于日志记录的 models-from-code 功能、扩展的基于引擎的日志记录以及对外部向量存储的更广泛支持。
-
LangGraph 支持 - 我们扩展了 LangChain 集成,以支持代理框架 LangGraph。通过使用 models-from-code 功能进行跟踪和日志记录,创建和存储代理应用程序变得前所未有的简单!
-
AutoGen 跟踪 - MLflow 现在完全自动支持使用 Microsoft 的 AutoGen 框架构建的多轮代理应用程序的跟踪。通过
mlflow.autogen.autolog()
启用自动日志记录将检测您使用 AutoGen 构建的代理。 -
AI Gateway 插件支持 - 您现在可以定义自己的提供商接口,以便与 MLflow 的 AI Gateway(也称为 MLflow 部署服务器)一起使用。创建可安装的提供商定义将允许您将 Gateway 服务器连接到您选择的任何 GenAI 服务。
新特性
- [UI] 在 MLflow 工件查看器中添加更新的部署使用示例 (#13024, @serena-ruan, @daniellok-db)
- [模型] 通过 models-from-code 功能支持日志记录 LangGraph 应用程序 (#12996, @B-Step62)
- [模型] 扩展对 Langgraph 代理的自动授权直通支持 (#13001, @aravind-segu)
- [模型] 扩展对 LangChain 应用程序日志记录的支持,以包含 UCFunctionToolkit 依赖项 (#12966, @aravind-segu)
- [模型] 通过 models-from-code 功能直接支持保存 LlamaIndex 引擎 (#12978, @B-Step62)
- [模型] 在 LlamaIndex 风味中支持 models-from-code (#12944, @B-Step62)
- [模型] 移除输入示例的数据结构转换,以确保与推理签名的增强兼容性 (#12782, @serena-ruan)
- [模型] 添加从
pyfunc
模型包装器中检索底层模型对象的能力 (#12814, @serena-ruan) - [模型] 为模型签名添加 spark 向量 UDT 类型支持 (#12758, @WeichenXu123)
- [跟踪] 添加对 AutoGen 的跟踪支持 (#12913, @B-Step62)
- [跟踪] 减少跟踪的延迟开销 (#12885, @B-Step62)
- [跟踪] 添加对跟踪装饰器的 Async 支持 (#12877, @MPKonst)
- [部署] 向 AI Gateway (部署服务器) 引入插件提供商系统 (#12611, @gabrielfu)
- [项目] 添加对在 Databricks 中运行的 MLflow 项目参数提交的支持 (#12854, @WeichenXu123)
- [模型注册表] 引入支持将开源 Unity Catalog 作为模型注册表服务 (#12888, @artjen)
问题修复
- [跟踪] 减少
model-history
标签的内容,仅保留必要字段 (#12983, @harshilprajapati96) - [模型] 修复加载 transformers 模型时定义所用设备的行为 (#12977, @serena-ruan)
- [模型] 修复 LlamaIndex 的评估行为 (#12976, @B-Step62)
- [模型] 由于包弃用,将
pkg_resources
替换为importlib.metadata
(#12853, @harupy) - [跟踪] 修复 OpenAI 自动日志跟踪的错误处理 (#12841, @B-Step62)
- [跟踪] 修复连接到 SFTP 工件存储时可能发生死锁的条件 (#12938, @WeichenXu123)
- [跟踪] 修复 LangChain 模型在系统路径中未正确初始化 code_paths 依赖项的问题 (#12923, @harshilprajapati96)
- [跟踪] 修复指标值日志记录的类型错误 (#12876, @beomsun0829)
- [跟踪] 在收集 GPU 指标时正确捕获 NVML 错误 (#12903, @chenmoneygithub)
- [部署] 改进 OpenAI 提供商的 Gateway schema 支持 (#12781, @danilopeixoto)
- [模型注册表] 修复在 UC 模型注册期间从非标准 DBFS 位置下载工件时删除工件的问题 (#12821, @smurching)
文档更新
- [文档] 添加 LangGraph 支持的文档指南 (#13025, @BenWilson2)
- [文档] 添加有关 models from code 功能的额外文档 (#12936, @BenWilson2)
- [文档] 添加模型服务输入负载的文档 (#12848, @serena-ruan)
有关更改的完整列表,请参阅发布更改日志,并在mlflow.org上查看最新文档。