MLflow GenAI: 快速交付高质量的 GenAI

MLflow GenAI 是一个开源的、一体化的集成平台，通过端到端的可见性、评估、AI 网关、提示管理与优化以及追踪功能，帮助您增强 Agent 和 GenAI 应用程序。

开源

加入成千上万的团队，使用 MLflow 构建 GenAI——拥有 20K+ GitHub Star 和每月 50M+ 的下载量。作为 Linux 基金会的一部分，MLflow 确保您的 AI 基础设施保持开放和供应商中立。

OpenTelemetry

MLflow Tracing 完全兼容 OpenTelemetry，因此不会被供应商锁定，并且易于与您现有的可观测性堆栈集成。

一体化平台

管理从实验到生产的整个 GenAI 流程。在一个平台上追踪提示、评估质量、部署模型和监控性能。

完整的可观测性

通过全面的追踪功能，深入了解每一个 AI 决策，捕捉提示、检索、工具调用和模型响应。自信地调试复杂的 [工作流]。

评估与监控

停止使用 LLM 裁判和自定义指标进行手动测试。系统性地评估每一项更改，以确保您的 AI 应用程序持续改进。

框架集成

使用任何 GenAI 框架或模型提供商。凭借 30 多个集成和可扩展的 API，MLflow 适应您的技术栈，而不是反之。

可观测性

使用 MLflow 的追踪功能调试和迭代 GenAI 应用程序，该功能可以捕获应用程序的整个执行过程，包括提示、检索和工具调用。MLflow 的开源、兼容 OpenTelemetry 的追踪 SDK 有助于避免供应商锁定。

可观测性快速入门 →

---

本快速入门将指导您在 GenAI 应用程序中启用追踪，并将您的第一个追踪发送到 MLflow。

评估

通过利用 LLM 作为裁判（LLM-as-a-judge）指标，准确地衡量自由形式语言，模拟人类专业知识，以评估和提升 GenAI 的质量。访问预构建的指标，如幻觉或相关性，或者开发针对您的业务需求和专家见解定制的自定义裁判。

评估快速入门 →

---

本快速入门将引导您完成准备数据集、配置评分器以及在几步内运行您的第一次评估。

提示管理与优化

直接通过 MLflow UI 版本化、比较、迭代和发现提示模板。在您的 Agent 或应用程序代码的多个版本中重用提示，并查看丰富的 lineage，识别哪些版本在使用每个提示。

提示管理快速入门 →

---

本快速入门将指导您为 GenAI 应用程序创建、编辑和版本化提示。

---

随处运行

MLflow 可在各种环境中运行，包括本地环境、本地集群、云平台和托管服务。作为一个开源平台，MLflow 是厂商中立的；无论您在哪里进行机器学习，都可以访问 MLflow 的核心功能集，例如跟踪、评估、可观测性等。

就 MLflow 提问 AI

社区

与其他开发者交流，提问，并保持最新——加入我们在 Slack、GitHub、LinkedIn 等平台上的活跃 MLflow 社区！

了解如何参与并发现我们在 社区页面 上的所有频道。