跳到主要内容

MLflow 2.13.0

·3 分钟阅读
MLflow maintainers
MLflow 维护者

MLflow 2.13.0 包含多项重大功能和改进

在此版本中,我们很高兴推出多项功能,这些功能将广泛提升 MLflow 在各种用例中的可用性。

主要功能和改进:

  • 可流式传输的 Python 模型:新推出的 Python Models 的 predict_stream API 允许自定义模型实现支持返回生成器对象,从而为 GenAI 应用提供完全的定制化。

  • 增强的代码依赖项推断:一项新功能,可根据模型实现中检测到的依赖项自动推断代码依赖项。作为 code_paths 参数的补充,在记录模型时引入的 infer_model_code_paths 选项将确定需要哪些额外的代码模块,以确保模型能够独立加载、部署和可靠存储。

  • MLflow 部署服务器标准化:部署服务器端点的输出现在符合 OpenAI 的接口,以便与常用服务进行更简单的集成。

功能

  • [部署] 更新 MLflow 部署服务器接口以兼容 OpenAI (#12003, @harupy)
  • [部署] 将 Togetherai 添加为 MLflow 部署服务器的支持提供商 (#11557, @FotiosBistas)
  • [模型] 为 Python Models 添加 predict_stream API 支持 (#11791, @WeichenXu123)
  • [模型] 增强 MLFlow 模型代码依赖项记录功能 (#11806, @WeichenXu123)
  • [模型] 为 LangChain 中的 RunnableBinding 模型添加支持 (#11980, @serena-ruan)
  • [模型注册表 / Databricks] 添加对重命名已注册到 Unity Catalog 的模型的支持 (#11988, @artjen)
  • [模型注册表 / Databricks] 改进对 Unity Catalog 注册模型中无效组件的搜索处理 (#11961, @artjen)
  • [模型注册表] 增强重试逻辑和凭据刷新,以减轻在上传或下载工件时云提供商令牌过期的失败 (#11614, @artjen)
  • [工件 / Databricks] 为从 Unity Catalog 加载的模型添加增强的血缘跟踪 (#11305, @shichengzhou-db)
  • [跟踪] 为 Pyfunc 模型添加资源元数据,以帮助配置模型服务环境 (#11832, @sunishsheth2009)
  • [跟踪] 增强 LangChain 的代码模型签名推断 (#11855, @sunishsheth2009)

错误修复

  • [工件] 禁止 AWS 上多部分上传的无效配置选项 (#11975, @ian-ack-db)
  • [模型注册表] 强制执行已注册模型的元数据相等性 (#12013, @artjen)
  • [模型] 纠正 AttrDict 用法中 hasattr 引用的问题 (#11999, @BenWilson2)

文档更新

有关更改的完整列表,请参阅 发布更改日志,并查看 mlflow.org 上的最新文档。