MLflow 2.16.0
·3 分钟阅读
我们很高兴地宣布 MLflow 2.16.0 的发布。此版本包含许多主要功能和改进!
主要功能:
-
LlamaIndex 增强功能🦙 - 为了在 LlamaIndex 集成中提供更大的灵活性,我们现在支持用于日志记录的 models-from-code 功能,扩展了基于引擎的日志记录,并拓宽了对外部向量存储的支持。
-
LangGraph 支持 - 我们已扩展 LangChain 集成,以支持代理框架 LangGraph。通过跟踪和使用 models-from-code 功能进行日志记录的支持,创建和存储代理应用程序从未如此简单!
-
AutoGen 跟踪 - MLflow 现在提供对使用 Microsoft AutoGen 框架构建的多轮代理应用程序进行跟踪的全面自动支持。通过
mlflow.autogen.autolog()启用自动日志记录将为您使用 AutoGen 构建的代理进行仪器化。 -
AI Gateway 的插件支持 - 您现在可以定义自己的提供程序接口,这些接口将与 MLflow 的 AI Gateway(也称为 MLflow 部署服务器)配合使用。创建可安装的提供程序定义将允许您将 Gateway 服务器连接到您选择的任何 GenAI 服务。
功能
- [UI] 为 MLflow artifact viewer 添加更新的部署使用示例(#13024,@serena-ruan,@daniellok-db)
- [Models] 支持通过 models-from-code 功能记录 LangGraph 应用程序(#12996,@B-Step62)
- [Models] 扩展 Langgraph 代理的自动授权直通支持(#13001,@aravind-segu)
- [Models] 扩展 LangChain 应用程序日志记录支持,以包含 UCFunctionToolkit 依赖项(#12966,@aravind-segu)
- [Models] 支持通过 models-from-code 功能直接保存 LlamaIndex 引擎(#12978,@B-Step62)
- [Models] 在 LlamaIndex flavor 中支持 models-from-code(#12944,@B-Step62)
- [Models] 移除输入示例的数据结构转换,以确保与推理签名增强兼容性(#12782,@serena-ruan)
- [Models] 添加从
pyfunc模型包装器内部检索底层模型对象的功能(#12814,@serena-ruan) - [Models] 为模型签名添加 spark vector UDT 类型支持(#12758,@WeichenXu123)
- [Tracing] 添加 AutoGen 的跟踪支持(#12913,@B-Step62)
- [Tracing] 降低跟踪的延迟开销(#12885,@B-Step62)
- [Tracing] 为 trace 装饰器添加 Async 支持(#12877,@MPKonst)
- [Deployments] 在 AI Gateway(部署服务器)中引入插件提供程序系统(#12611,@gabrielfu)
- [Projects] 添加对 Databricks 中 MLflow Projects run 的参数提交支持(#12854,@WeichenXu123)
- [Model Registry] 引入对开源 Unity Catalog 作为模型注册表服务的支持(#12888,@artjen)
错误修复
- [Tracking] 减少
model-historytag 的内容,仅保留必要字段(#12983,@harshilprajapati96) - [Models] 修复定义加载 transformers 模型时使用的设备的行为(#12977,@serena-ruan)
- [Models] 修复 LlamaIndex 的 evaluate 行为(#12976,@B-Step62)
- [Models] 由于包弃用,将
pkg_resources替换为importlib.metadata(#12853,@harupy) - [Tracking] 修复 OpenAI autolog 跟踪的错误处理(#12841,@B-Step62)
- [Tracking] 修复连接 SFTP artifact store 时可能发生的死锁情况(#12938,@WeichenXu123)
- [Tracking] 修复 LangChain 模型系统中 code_paths 依赖项未正确初始化的_问题(#12923,@harshilprajapati96)
- [Tracking] 修复记录指标值时的类型错误(#12876,@beomsun0829)
- [Tracking] 在收集 GPU 指标时正确捕获 NVML 错误(#12903,@chenmoneygithub)
- [Deployments] 改进 OpenAI 提供程序的 Gateway 模式支持(#12781,@danilopeixoto)
- [Model Registry] 修复在 UC 模型注册期间从非标准 DBFS 位置下载时删除 artifact 的问题(#12821,@smurching)
文档更新
- [Docs] 为 LangGraph 支持添加文档指南(#13025,@BenWilson2)
- [Docs] 为 models from code 功能添加其他文档(#12936,@BenWilson2)
- [Docs] 为模型服务输入 payload 添加文档(#12848,@serena-ruan)
有关更改的完整列表,请参阅 发布更改日志,并查看 mlflow.org 上的最新文档。
