主要新特性
-
💡基于类型提示的模型签名:以最 Pythonic 的方式定义模型的签名。MLflow 现在支持根据您的
PythonModel
中predict
函数的类型提示定义模型签名,并根据其验证输入数据负载。(#14182, #14168, #14130, #14100, #14099, @serena-ruan) -
🧠 支持 Bedrock / Groq 跟踪:MLflow 跟踪现在为 Amazon Bedrock 和 Groq LLM 提供了单行自动跟踪体验。只需在代码中添加
mlflow.bedrock.tracing
或mlflow.groq.tracing
调用,即可在模型内跟踪 LLM 调用。(#14018, @B-Step62, #14006, @anumita0203) -
🗒️ 在 Jupyter Notebook 中内联渲染跟踪:MLflow 现在支持在您运行模型的 Notebook 内渲染跟踪 UI。这消除了在 Notebook 和浏览器之间频繁切换的需要,创建了无缝的本地模型调试体验。(#13955, @daniellok-db)
-
⚡️使用
uv
包管理器加快模型验证:MLflow 已采用 uv,这是一种新的基于 Rust 的超快速 Python 包管理器。此版本在 mlflow.models.predict API 中添加了对新包管理器的支持,从而实现更快的模型环境验证。敬请期待更多更新!(#13824, @serena-ruan) -
🖥️ Trace UI 中的新聊天面板:MLflow 跟踪 UI 现在为 LLM 调用显示一个统一的
chat
面板。此更新允许您在跨 LLM 提供商的丰富且一致的 UI 中查看聊天消息和函数调用,并检查原始输入和输出负载。(#14211, @TomuHirata)
其他特性
- 引入
ChatAgent
基类用于定义自定义 Python 代理 (#13797, @bbqiu) - 在 DSPy 跟踪中支持工具调用 (#14196, @B-Step62)
- 对 Spark UDF 推理的请求内本地评分服务器应用了超时覆盖 (#14202, @BenWilson2)
- 支持推理参数的字典类型 (#14091, @serena-ruan)
- 使调用
PythonModel
实例时的context
参数可选 (#14059, @serena-ruan) - 设置
ChatModel
的默认任务 (#14068, @stevenchen-db)
有关完整的更改列表,请参阅版本更改日志,并在mlflow.org上查看最新文档。