mlflow.paddle

The mlflow.paddle 模块提供了一个用于记录和加载 Paddle 模型的 API。此模块导出具有以下风格的 Paddle 模型：

Paddle（原生）格式

这是可以加载回 Paddle 的主要风格。

mlflow.pyfunc

为通用的基于 pyfunc 的部署工具和批量推理而生成。注意：仅为定义了 predict() 的 Paddle 模型添加 mlflow.pyfunc 风格，因为 pyfunc 模型推理需要 predict()。

mlflow.paddle.autolog(log_every_n_epoch=1, log_models=True, disable=False, exclusive=False, silent=False, registered_model_name=None, extra_tags=None)

注意

自动日志记录已知与以下包版本兼容： 2.6.2 <= paddlepaddle <= 3.3.0。在超出此范围的包版本中使用时，自动日志记录可能不会成功。

启用（或禁用）并配置从 PaddlePaddle 到 MLflow 的自动日志记录。

当调用 paddle.Model 的 fit 方法时，执行自动日志记录。

参数

• log_every_n_epoch – 如果指定，每 n 个 epoch 日志记录一次指标。默认情况下，指标在每个 epoch 后记录。

• log_models – If True, trained models are logged as MLflow model artifacts. If False, trained models are not logged.

• disable – 如果为 True，则禁用 PaddlePaddle 自动日志记录集成。如果为 False，则启用 PaddlePaddle 自动日志记录集成。

• exclusive – 如果为 True，则自动记录的内容不会记录到用户创建的流畅运行中。如果为 False，则自动记录的内容将记录到活动的流畅运行中，该运行可能是用户创建的。

• silent – 如果为 True，则在 PyTorch Lightning 自动日志记录期间抑制来自 MLflow 的所有事件日志和警告。如果为 False，则在 PaddlePaddle 自动日志记录期间显示所有事件和警告。

• registered_model_name – If given, each time a model is trained, it is registered as a new model version of the registered model with this name. The registered model is created if it does not already exist.

• extra_tags – 要为自动日志记录创建的每个托管运行设置的额外标签的字典。

Example

import paddle
import mlflow
from mlflow import MlflowClient


def show_run_data(run_id):
    run = mlflow.get_run(run_id)
    print(f"params: {run.data.params}")
    print(f"metrics: {run.data.metrics}")
    client = MlflowClient()
    artifacts = [f.path for f in client.list_artifacts(run.info.run_id, "model")]
    print(f"artifacts: {artifacts}")


class LinearRegression(paddle.nn.Layer):
    def __init__(self):
        super().__init__()
        self.fc = paddle.nn.Linear(13, 1)

    def forward(self, feature):
        return self.fc(feature)


train_dataset = paddle.text.datasets.UCIHousing(mode="train")
eval_dataset = paddle.text.datasets.UCIHousing(mode="test")
model = paddle.Model(LinearRegression())
optim = paddle.optimizer.SGD(learning_rate=1e-2, parameters=model.parameters())
model.prepare(optim, paddle.nn.MSELoss(), paddle.metric.Accuracy())
mlflow.paddle.autolog()
with mlflow.start_run() as run:
    model.fit(train_dataset, eval_dataset, batch_size=16, epochs=10)
show_run_data(run.info.run_id)

Output

params: {
    "learning_rate": "0.01",
    "optimizer_name": "SGD",
}
metrics: {
    "loss": 17.482044,
    "step": 25.0,
    "acc": 0.0,
    "eval_step": 6.0,
    "eval_acc": 0.0,
    "eval_batch_size": 6.0,
    "batch_size": 4.0,
    "eval_loss": 24.717455,
}
artifacts: [
    "model/MLmodel",
    "model/conda.yaml",
    "model/model.pdiparams",
    "model/model.pdiparams.info",
    "model/model.pdmodel",
    "model/requirements.txt",
]

mlflow.paddle.get_default_conda_env()

返回

调用 save_model() 和 log_model() 生成的 MLflow 模型的默认 Conda 环境。

mlflow.paddle.get_default_pip_requirements()

返回

此风格生成的 MLflow 模型的默认 pip 要求列表。调用 save_model() 和 log_model() 会生成一个至少包含这些要求的 pip 环境。

mlflow.paddle.load_model(model_uri, model=None, dst_path=None, **kwargs)

从本地文件或运行中加载一个 paddle 模型。

参数

• model_uri – MLflow 模型的 URI 格式位置，例如： - /Users/me/path/to/local/model - relative/path/to/local/model - s3://my_bucket/path/to/model - runs:/<mlflow_run_id>/run-relative/path/to/model - models:/<model_name>/<model_version> - models:/<model_name>/<stage>

• model – 在加载使用 training=True 保存的 paddle.Model 模型时需要。

• dst_path – The local filesystem path to which to download the model artifact. This directory must already exist. If unspecified, a local output path will be created.

• kwargs – 要传递给 paddle.jit.load 或 model.load 的关键字参数。

For more information about supported URI schemes, see Referencing Artifacts.

返回

一个 paddle 模型。

Example

import mlflow.paddle

pd_model = mlflow.paddle.load_model("runs:/96771d893a5e46159d9f3b49bf9013e2/pd_models")
# use Pandas DataFrame to make predictions
np_array = ...
predictions = pd_model(np_array)

mlflow.paddle.log_model(pd_model, artifact_path: str | None = None, training=False, conda_env=None, code_paths=None, registered_model_name=None, signature: mlflow.models.signature.ModelSignature = None, input_example: Union[pandas.core.frame.DataFrame, numpy.ndarray, dict, list, csr_matrix, csc_matrix, str, bytes, tuple] = None, await_registration_for=300, pip_requirements=None, extra_pip_requirements=None, metadata=None, name: str | None = None, params: dict[str, typing.Any] | None = None, tags: dict[str, typing.Any] | None = None, model_type: str | None = None, step: int = 0, model_id: str | None = None)

将 paddle 模型记录为当前运行的 MLflow artifact。生成包含以下风格的 MLflow 模型：

• mlflow.paddle

• mlflow.pyfunc。注意：仅为定义了 predict() 的 paddle 模型包含此风格，因为 pyfunc 模型推理需要 predict()。

参数

• pd_model – 要保存的 paddle 模型。

• artifact_path – Deprecated. Use name instead.

• training – 仅在保存使用 PaddlePaddle 高级 API 训练的模型时有效。如果设置为 True，则保存的模型支持重新训练和推理。如果设置为 False，则仅支持推理。

• conda_env –

  Conda 环境的字典表示形式或 conda 环境 yaml 文件的路径。如果提供，这描述了模型应运行的环境。它至少应指定 get_default_conda_env() 中包含的依赖项。如果为 None，则向模型添加由 mlflow.models.infer_pip_requirements() 从当前软件环境中推断的 pip 要求。如果要求推断失败，它将回退到使用 get_default_pip_requirements。从 conda_env 中获得的 pip 要求将被写入 pip requirements.txt 文件，完整的 conda 环境将被写入 conda.yaml。以下是 conda 环境的*示例*字典表示形式

  {
      "name": "mlflow-env",
      "channels": ["conda-forge"],
      "dependencies": [
          "python=3.8.15",
          {
              "pip": [
                  "paddle==x.y.z"
              ],
          },
      ],
  }
  

• code_paths –

  A list of local filesystem paths to Python file dependencies (or directories containing file dependencies). These files are prepended to the system path when the model is loaded. Files declared as dependencies for a given model should have relative imports declared from a common root path if multiple files are defined with import dependencies between them to avoid import errors when loading the model.

  For a detailed explanation of code_paths functionality, recommended usage patterns and limitations, see the code_paths usage guide.

• registered_model_name – 如果提供，则在 registered_model_name 下创建一个模型版本，如果给定名称的注册模型不存在，也会创建该注册模型。

• signature –

  ModelSignature 类的实例，描述模型的输入和输出。如果未指定但提供了 input_example，则将根据提供的输入示例和模型自动推断签名。要禁用在提供输入示例时自动推断签名，请将 signature 设置为 False。要手动推断模型签名，请在具有有效模型输入的​​数据集上调用 infer_signature()（例如，省略目标列的训练数据集）和有效的模型输出（例如，在训练数据集上进行的模型预测）上进行，例如

  from mlflow.models import infer_signature
  
  train = df.drop_column("target_label")
  predictions = ...  # compute model predictions
  signature = infer_signature(train, predictions)
  

• input_example – 一个或多个有效的模型输入实例。输入示例用作要馈送给模型的数据的提示。它将被转换为 Pandas DataFrame，然后使用 Pandas 的面向拆分（split-oriented）格式序列化为 json，或者转换为 numpy 数组，其中示例将通过转换为列表来序列化为 json。字节将进行 base64 编码。当 signature 参数为 None 时，输入示例用于推断模型签名。

• await_registration_for – 等待模型版本完成创建并处于 READY 状态的秒数。默认情况下，函数等待五分钟。指定 0 或 None 可跳过等待。

• pip_requirements – 可能是 pip 要求字符串的可迭代对象（例如 ["paddle", "-r requirements.txt", "-c constraints.txt"]）或本地文件系统上 pip 要求文件的字符串路径（例如 "requirements.txt"）。如果提供，这描述了模型应运行的环境。如果为 None，则通过 mlflow.models.infer_pip_requirements() 从当前软件环境中推断默认要求列表。如果要求推断失败，它将回退到使用 get_default_pip_requirements。要求和约束都会被自动解析并分别写入 requirements.txt 和 constraints.txt 文件，并作为模型的一部分存储。要求也会被写入模型 conda 环境（conda.yaml）文件的 pip 部分。

• extra_pip_requirements –

  可以是 pip 要求字符串的可迭代对象（例如 ["pandas", "-r requirements.txt", "-c constraints.txt"]）或本地文件系统上 pip 要求文件的字符串路径（例如 "requirements.txt"）。如果提供，这描述了附加到根据用户的当前软件环境自动生成的默认 pip 要求列表的额外 pip 要求。要求和约束都会被自动解析并分别写入 requirements.txt 和 constraints.txt 文件，并作为模型的一部分存储。要求也会被写入模型 conda 环境（conda.yaml）文件的 pip 部分。

  警告

  以下参数不能同时指定

  • conda_env

  • pip_requirements

  • extra_pip_requirements

  此示例演示了如何使用 pip_requirements 和 extra_pip_requirements 指定 pip requirements。

• metadata – 传递给模型并存储在 MLmodel 文件中的自定义元数据字典。

• name – 模型名称。

• params – 要与模型一起记录的参数字典。

• tags – 要与模型一起记录的标签字典。

• model_type – 模型的类型。

• step – 记录模型输出和指标的步骤

• model_id – 模型的 ID。

返回

一个 ModelInfo 实例，其中包含已记录模型的元数据。

示例

import mlflow.paddle


def load_data(): ...


class Regressor: ...


model = Regressor()
model.train()
training_data, test_data = load_data()
opt = paddle.optimizer.SGD(learning_rate=0.01, parameters=model.parameters())
EPOCH_NUM = 10
BATCH_SIZE = 10
for epoch_id in range(EPOCH_NUM):
    ...
mlflow.log_param("learning_rate", 0.01)
mlflow.paddle.log_model(model, name="model")
sk_path_dir = ...
mlflow.paddle.save_model(model, sk_path_dir)

mlflow.paddle.save_model(pd_model, path, training=False, conda_env=None, code_paths=None, mlflow_model=None, signature: mlflow.models.signature.ModelSignature = None, input_example: Union[pandas.core.frame.DataFrame, numpy.ndarray, dict, list, csr_matrix, csc_matrix, str, bytes, tuple] = None, pip_requirements=None, extra_pip_requirements=None, metadata=None)

将 paddle 模型保存到本地文件系统的路径。生成包含以下风格的 MLflow 模型：

• mlflow.paddle

• mlflow.pyfunc。注意：仅为定义了 predict() 的 paddle 模型包含此风格，因为 pyfunc 模型推理需要 predict()。

参数

• pd_model – 要保存的 paddle 模型。

• path – 要保存模型的本地路径。

• training – 仅在保存使用 PaddlePaddle 高级 API 训练的模型时有效。如果设置为 True，则保存的模型支持重新训练和推理。如果设置为 False，则仅支持推理。

• conda_env –

  Conda 环境的字典表示形式或 conda 环境 yaml 文件的路径。如果提供，这描述了模型应运行的环境。它至少应指定 get_default_conda_env() 中包含的依赖项。如果为 None，则向模型添加由 mlflow.models.infer_pip_requirements() 从当前软件环境中推断的 pip 要求。如果要求推断失败，它将回退到使用 get_default_pip_requirements。从 conda_env 中获得的 pip 要求将被写入 pip requirements.txt 文件，完整的 conda 环境将被写入 conda.yaml。以下是 conda 环境的*示例*字典表示形式

  {
      "name": "mlflow-env",
      "channels": ["conda-forge"],
      "dependencies": [
          "python=3.8.15",
          {
              "pip": [
                  "paddle==x.y.z"
              ],
          },
      ],
  }
  

• code_paths –

  A list of local filesystem paths to Python file dependencies (or directories containing file dependencies). These files are prepended to the system path when the model is loaded. Files declared as dependencies for a given model should have relative imports declared from a common root path if multiple files are defined with import dependencies between them to avoid import errors when loading the model.

  For a detailed explanation of code_paths functionality, recommended usage patterns and limitations, see the code_paths usage guide.

• mlflow_model – 要添加此 flavor 的 mlflow.models.Model。

• signature –

  ModelSignature 类的实例，描述模型的输入和输出。如果未指定但提供了 input_example，则将根据提供的输入示例和模型自动推断签名。要禁用在提供输入示例时自动推断签名，请将 signature 设置为 False。要手动推断模型签名，请在具有有效模型输入的​​数据集上调用 infer_signature()（例如，省略目标列的训练数据集）和有效的模型输出（例如，在训练数据集上进行的模型预测）上进行，例如

  from mlflow.models import infer_signature
  
  train = df.drop_column("target_label")
  predictions = ...  # compute model predictions
  signature = infer_signature(train, predictions)
  

• input_example – 一个或多个有效的模型输入实例。输入示例用作要馈送给模型的数据的提示。它将被转换为 Pandas DataFrame，然后使用 Pandas 的面向拆分（split-oriented）格式序列化为 json，或者转换为 numpy 数组，其中示例将通过转换为列表来序列化为 json。字节将进行 base64 编码。当 signature 参数为 None 时，输入示例用于推断模型签名。

• pip_requirements – 可能是 pip 要求字符串的可迭代对象（例如 ["paddle", "-r requirements.txt", "-c constraints.txt"]）或本地文件系统上 pip 要求文件的字符串路径（例如 "requirements.txt"）。如果提供，这描述了模型应运行的环境。如果为 None，则通过 mlflow.models.infer_pip_requirements() 从当前软件环境中推断默认要求列表。如果要求推断失败，它将回退到使用 get_default_pip_requirements。要求和约束都会被自动解析并分别写入 requirements.txt 和 constraints.txt 文件，并作为模型的一部分存储。要求也会被写入模型 conda 环境（conda.yaml）文件的 pip 部分。

• extra_pip_requirements –

  可以是 pip 要求字符串的可迭代对象（例如 ["pandas", "-r requirements.txt", "-c constraints.txt"]）或本地文件系统上 pip 要求文件的字符串路径（例如 "requirements.txt"）。如果提供，这描述了附加到根据用户的当前软件环境自动生成的默认 pip 要求列表的额外 pip 要求。要求和约束都会被自动解析并分别写入 requirements.txt 和 constraints.txt 文件，并作为模型的一部分存储。要求也会被写入模型 conda 环境（conda.yaml）文件的 pip 部分。

  警告

  以下参数不能同时指定

  • conda_env

  • pip_requirements

  • extra_pip_requirements

  此示例演示了如何使用 pip_requirements 和 extra_pip_requirements 指定 pip requirements。

• metadata – 传递给模型并存储在 MLmodel 文件中的自定义元数据字典。

Example

import mlflow.paddle
import paddle
from paddle.nn import Linear
import paddle.nn.functional as F
import numpy as np
import os
import random
from sklearn.datasets import load_diabetes
from sklearn.model_selection import train_test_split
from sklearn import preprocessing


def load_data():
    # dataset on boston housing prediction
    X, y = load_diabetes(return_X_y=True, as_frame=True)
    min_max_scaler = preprocessing.MinMaxScaler()
    X_min_max = min_max_scaler.fit_transform(X)
    X_normalized = preprocessing.scale(X_min_max, with_std=False)
    X_train, X_test, y_train, y_test = train_test_split(
        X_normalized, y, test_size=0.2, random_state=42
    )
    y_train = y_train.reshape(-1, 1)
    y_test = y_test.reshape(-1, 1)
    return np.concatenate((X_train, y_train), axis=1), np.concatenate(
        (X_test, y_test), axis=1
    )


class Regressor(paddle.nn.Layer):
    def __init__(self):
        super().__init__()
        self.fc = Linear(in_features=13, out_features=1)

    @paddle.jit.to_static
    def forward(self, inputs):
        x = self.fc(inputs)
        return x


model = Regressor()
model.train()
training_data, test_data = load_data()
opt = paddle.optimizer.SGD(learning_rate=0.01, parameters=model.parameters())
EPOCH_NUM = 10
BATCH_SIZE = 10
for epoch_id in range(EPOCH_NUM):
    np.random.shuffle(training_data)
    mini_batches = [
        training_data[k : k + BATCH_SIZE]
        for k in range(0, len(training_data), BATCH_SIZE)
    ]
    for iter_id, mini_batch in enumerate(mini_batches):
        x = np.array(mini_batch[:, :-1]).astype("float32")
        y = np.array(mini_batch[:, -1:]).astype("float32")
        house_features = paddle.to_tensor(x)
        prices = paddle.to_tensor(y)
        predicts = model(house_features)
        loss = F.square_error_cost(predicts, label=prices)
        avg_loss = paddle.mean(loss)
        if iter_id % 20 == 0:
            print(f"epoch: {epoch_id}, iter: {iter_id}, loss is: {avg_loss.numpy()}")
        avg_loss.backward()
        opt.step()
        opt.clear_grad()
mlflow.log_param("learning_rate", 0.01)
mlflow.paddle.log_model(model, name="model")
sk_path_dir = "./test-out"
mlflow.paddle.save_model(model, sk_path_dir)
print("Model saved in run %s" % mlflow.active_run().info.run_id)