跳到主要内容

MLflow 2.7.0

·阅读时长 2 分钟
MLflow maintainers

MLflow 2.7.0 包含多项主要功能和改进

  • [UI / Gateway] 我们很高兴地宣布推出 Prompt Engineering UI。这一新功能提供了一套为 LLM 用例量身定制的高效 Prompt 开发、测试和评估工具。它直接集成到 MLflow AI Gateway 中，提供了设计、跟踪和部署 Prompt 模板的无缝体验。要了解此新功能，请参阅文档：https://mlflow.org.cn/docs/latest/llms/prompt-engineering.html (#9503, @prithvikannan)

功能

  • [Gateway] 将 `MosaicML` 作为 MLflow `AI Gateway` 的受支持提供商引入 (#9459, @arpitjasa-db)
  • [模型] 添加支持，在使用 `pyfunc` 加载 `transformers` 模型时使用快照下载位置 (#9362, @serena-ruan)
  • [服务器基础设施] 为 MLflow `Tracking Server` 身份验证引入插件支持 (#9191, @barrywhart)
  • [Artifacts / 模型注册表] 添加支持使用 `R2` 后端存储 Artifacts (#9490, @shichengzhou-db)
  • [Artifacts] 改进基于 Azure 的 Artifact 存储的上传和下载性能 (#9444, @jerrylian-db)
  • [Sagemaker] 添加支持将模型部署到 Sagemaker Serverless 推理端点 (#9085, @dogeplusplus)

错误修复

  • [Gateway] 通过在每次请求前重新解析 `AI Gateway` 凭据来修复凭据过期错误 (#9518, @dbczumar)
  • [Gateway] 修复了当 `AI Gateway` 服务器上未定义任何路由时，`search_routes` 会引发异常的错误 (#9387, @QuentinAmbard)
  • [Gateway] 修复 `AI gateway` 与 `pydantic` 2.x 的兼容性问题 (#9339, @harupy)
  • [Gateway] 修复 `AI Gateway` 中的一个初始化问题，该问题可能在依赖冲突时导致 MLflow 在导入时无法正常工作。(#9337, @BenWilson2)
  • [Artifacts] 修复在 `Databricks` 上将大型 Artifact 下载到 `fuse mount` 路径时的正确性问题 (#9545, @BenWilson2)

文档更新

  • [文档] 添加关于 `Giskard` 社区插件用于 `mlflow.evaluate` 的文档 (#9183, @rabah-khalek)

有关更改的完整列表，请参阅版本更改日志，并查看 mlflow.org 上的最新文档。