MLflow 2.20.0
主要新特性
-
💡基于类型提示的模型签名:以最Pythonic的方式定义模型的签名。MLflow现在支持根据
PythonModel的predict函数中的类型提示来定义模型签名,并对其进行输入数据负载验证。( #14182, #14168, #14130, #14100, #14099, @serena-ruan) -
🧠 Bedrock / Groq 跟踪支持:MLflow Tracing 现在为Amazon Bedrock 和 Groq LLMs 提供了一行式自动跟踪体验。只需在代码中添加
mlflow.bedrock.tracing或mlflow.groq.tracing调用,即可跟踪模型内的 LLM 调用。( #14018, @B-Step62, #14006, @anumita0203) -
🗒️ Jupyter Notebook 内联跟踪渲染:MLflow 现在支持在运行模型的 Notebook 中渲染跟踪 UI。这消除了在 Notebook 和浏览器之间频繁切换的需要,从而提供了无缝的本地模型调试体验。( #13955, @daniellok-db)
-
⚡️使用
uv包管理器更快地进行模型验证:MLflow 已采用 uv,这是一个新的基于 Rust 的超快速 Python 包管理器。此版本在 mlflow.models.predict API 中增加了对新包管理器的支持,从而实现了更快的模型环境验证。敬请关注更多更新!( #13824, @serena-ruan) -
🖥️ 跟踪 UI 中的新聊天面板:MLflow 跟踪 UI 现在为 LLM 调用显示一个统一的
chat面板。此更新允许您在跨 LLM 提供商的丰富且一致的 UI 中查看聊天消息和函数调用,并检查原始输入和输出负载。( #14211, @TomuHirata)
其他特性
- 引入了
ChatAgent基类,用于定义自定义 Python agent ( #13797, @bbqiu) - 在 DSPy 跟踪中支持工具调用 ( #14196, @B-Step62)
- 为 Spark UDF 推理的请求内本地评分服务器应用了超时覆盖 ( #14202, @BenWilson2)
- 支持字典类型用于推理参数 ( #14091, @serena-ruan)
- 使调用
PythonModel实例的context参数可选 ( #14059, @serena-ruan) - 为
ChatModel设置默认任务 ( #14068, @stevenchen-db)
有关更改的全面列表,请参阅发布变更日志,并查看 mlflow.org 上的最新文档。
