MLflow 2.7.0 包含多项重要功能和改进

• [UI / Gateway] 我们很高兴地推出提示工程 UI。这一新功能提供了一套专门用于 LLM 用例的高效提示开发、测试和评估工具。该 UI 直接集成到 MLflow AI Gateway 中，可提供设计、跟踪和部署提示模板的无缝体验。要了解此新功能，请参阅文档：https://mlflow.org.cn/docs/latest/llms/prompt-engineering.html (#9503, @prithvikannan)

功能

• [Gateway] 引入 MosaicML 作为 MLflow AI Gateway 的支持提供商 (#9459, @arpitjasa-db)
• [Models] 添加支持，在将 transformers 模型加载为 pyfunc 时使用快照下载位置 (#9362, @serena-ruan)
• [Server-infra] 为 MLflow Tracking Server 身份验证引入插件支持 (#9191, @barrywhart)
• [Artifacts / Model Registry] 添加支持，使用 R2 后端存储构件 (#9490, @shichengzhou-db)
• [Artifacts] 改进基于 Azure 的构件存储的上传和下载性能 (#9444, @jerrylian-db)
• [Sagemaker] 添加支持，将模型部署到 Sagemaker Serverless 推理端点 (#9085, @dogeplusplus)

错误修复

• [Gateway] 通过在每次请求前重新解析 AI Gateway 凭据，修复了凭据过期错误 (#9518, @dbczumar)
• [Gateway] 修复了当 AI Gateway 服务器上未定义任何路由时，search_routes 会引发异常的错误 (#9387, @QuentinAmbard)
• [Gateway] 修复了 AI gateway 与 pydantic 2.x 的兼容性问题 (#9339, @harupy)
• [Gateway] 修复了 AI Gateway 中的一个初始化问题，该问题在依赖项冲突时可能导致 MLflow 在导入时无法正常工作。（#9337, @BenWilson2)
• [Artifacts] 修复了在 Databricks 上将大型构件下载到 fuse mount 路径时的正确性问题 (#9545, @BenWilson2)

文档更新

• [Docs] 为 mlflow.evaluate 的 Giskard 社区插件添加了文档 (#9183, @rabah-khalek)

如需了解完整的更改列表，请参阅 发布更改日志，并查看 mlflow.org 上的最新文档。