新特性
MLflow AI Gateway 中的 Unity Catalog 集成

MLflow AI Gateway 现在 与 Unity Catalog 集成,允许您利用注册函数作为增强聊天应用程序的工具。
LangChain 和 Python 模型支持流式输出

LangChain 模型和自定义 Python 模型现在支持 predict_stream API,允许使用生成器返回类型进行流式输出。
异步 Artifact 日志记录
MLflow 现在支持异步 artifact 日志记录,可以更快、更有效地记录包含许多 artifact 的模型。
MLflow Transformers Embedding 模型标准化
transformers 风格 已获得对 embedding 模型的标准化支持。
Embedding 模型现在返回标准的 llm/v1/embeddings 输出格式,以符合 OpenAI embedding 响应结构。
MLflow Transformers 功能增强
MLflow 中的 transformers 风格 进行了重大功能改进。
- 所有支持的 pipeline 类型现在都可以无限制地进行日志记录
- 使用基础模型的 pipelines 现在可以在不复制大型模型权重的情况下进行日志记录
支持 PEFT (Parameter-Efficient Fine-Tuning)
MLflow 现在在 Transformers 风格中原生支持 PEFT (Parameter-Efficient Fine-Tuning) 模型。PEFT 显著提高了模型微调过程的效率,例如 LoRA、QLoRA 和 Prompt Tuning。查看 新的 QLoRA 微调教程,了解如何使用 MLflow 和 PEFT 构建您自己的前沿模型!
MLflow 跟踪 UI 针对深度学习工作流的重大改进
我们听取了您的反馈,并添加了大量新的 UI 功能,旨在增强和简化评估 DL 模型训练运行的过程。请务必立即升级您的跟踪服务器,并从所有新的 UI 增强功能中受益!
深度学习模型训练的自动化模型检查点
使用 PyTorch Lightning 或 Tensorflow with Keras 进行深度学习模型训练时,已启用模型检查点保存功能,允许在长时间运行的训练事件期间存储状态,并在训练期间遇到问题时能够恢复。
MLflow 现在支持 OpenAI SDK 1.x
我们更新了与 OpenAI SDK 交互的风格,完全支持 1.x 版本带来的 API 更改。