跳到主要内容

新特性

支持 LangGraph

LangGraph

来自 LangChain 的 GenAI Agent 编写框架 LangGraph 现在通过 从代码生成模型 功能在 MLflow 中得到原生支持。


AutoGen 跟踪集成

AutoGen

来自微软的多轮 Agent 框架 AutoGen 现在集成了 MLflow 自动跟踪功能。


支持 LlamaIndex

LlamaIndex

流行的 RAG 和 Agent 编写框架 LlamaIndex 现在在 MLflow 中得到了原生支持,可用于应用程序日志记录和完整的跟踪功能。


MLflow 跟踪

MLflow Tracing

MLflow 跟踪 是一种强大的工具,旨在通过允许您检查应用程序处理请求时生成的中间输出来增强监控、分析和调试 GenAI 应用程序的能力。


MLflow AI Gateway 中的 Unity Catalog 集成

Unity Catalog

MLflow AI Gateway 现在 与 Unity Catalog 集成,允许您利用注册函数作为增强聊天应用程序的工具。


OpenAI 自动日志记录

OpenAI

现在已为 OpenAI 模型风格 添加了自动日志记录支持。通过此功能,MLflow 将在调用 OpenAI API 时自动记录模型。


增强的代码依赖管理

MLflow

记录模型时使用的 infer_code_path 选项将确定需要哪些额外的代码模块,从而确保训练环境和生产环境之间的一致性。


完全可定制的 GenAI 指标

MLflow

MLflow evaluate API 现在支持完全可定制的系统提示,以便为 GenAI 用例创建全新的评估指标。


MLflow AI Gateway 添加 Together.ai 支持

Together.ai

MLflow AI Gateway 现在可以接受 together.ai 端点。


LangChain 和 Python 模型支持流式输出

LangChain

LangChain 模型和自定义 Python 模型现在支持 predict_stream API,允许使用生成器返回类型进行流式输出。


作为代码的 LangChain 模型

LangChain

MLflow 中的 LangChain 风格 现在支持将模型定义为代码文件,以简化 LangChain 模型的日志记录和加载。


异步 Artifact 日志记录

MLflow

MLflow 现在支持异步 artifact 日志记录,可以更快、更有效地记录包含许多 artifact 的模型。


MLflow Transformers Embedding 模型标准化

HuggingFace transformers

transformers 风格 已获得对 embedding 模型的标准化支持。

Embedding 模型现在返回标准的 llm/v1/embeddings 输出格式,以符合 OpenAI embedding 响应结构。


MLflow Transformers 功能增强

HuggingFace transformers

MLflow 中的 transformers 风格 进行了重大功能改进。

  • 所有支持的 pipeline 类型现在都可以无限制地进行日志记录
  • 使用基础模型的 pipelines 现在可以在不复制大型模型权重的情况下进行日志记录


支持 PEFT (Parameter-Efficient Fine-Tuning)

HuggingFace Logo

MLflow 现在在 Transformers 风格中原生支持 PEFT (Parameter-Efficient Fine-Tuning) 模型。PEFT 显著提高了模型微调过程的效率,例如 LoRA、QLoRA 和 Prompt Tuning。查看 新的 QLoRA 微调教程,了解如何使用 MLflow 和 PEFT 构建您自己的前沿模型!


添加了 ChatModel Pyfunc 子类

MLflow

现在在 MLflow 中构建与 OpenAI 兼容的聊天模型比以往任何时候都更容易!ChatModel 是一个新的 Pyfunc 子类,可以轻松使用 MLflow 部署和提供聊天模型服务。

查看 新教程,了解如何使用 TinyLlama-1.1B-Chat 构建与 OpenAI 兼容的聊天模型!


MLflow 跟踪 UI 针对深度学习工作流的重大改进

MLflow

我们听取了您的反馈,并添加了大量新的 UI 功能,旨在增强和简化评估 DL 模型训练运行的过程。请务必立即升级您的跟踪服务器,并从所有新的 UI 增强功能中受益!


深度学习模型训练的自动化模型检查点

MLflow

使用 PyTorch LightningTensorflow with Keras 进行深度学习模型训练时,已启用模型检查点保存功能,允许在长时间运行的训练事件期间存储状态,并在训练期间遇到问题时能够恢复。


将 Mistral AI 添加为 MLflow Deployments 提供商

Mistral AI

MLflow AI Gateway 现在可以接受 Mistral AI 端点。立即试用他们的模型吧!


MLflow 现在支持 Keras 3

Keras

您现在可以使用新的 Keras 3 格式 记录和部署模型,通过一套新的高级易用 API 来使用 TensorFlow、Torch 或 JAX 模型。


MLflow 现在支持 OpenAI SDK 1.x

OpenAI

我们更新了与 OpenAI SDK 交互的风格,完全支持 1.x 版本带来的 API 更改。


MLflow 网站改版

MLflow

MLflow 有了一个全新的 主页,完全现代化。今天就来看看吧!


支持 LangChain 自动日志记录

LangChain

现在支持 LangChain 自动日志记录。下次使用 Langchain 构建生成式 AI 应用程序时可以试试!


对复杂模型签名的对象和数组支持

MLflow

模型签名 的复杂输入类型现在得到了支持,原生支持 Array 和 Object 类型。