MLflow GenAI：快速交付高质量的生成式AI

MLflow GenAI 是一个开源的一体化集成平台，通过端到端的可观测性、评估、AI 网关、提示管理和优化以及跟踪，帮助增强您的 Agent 和生成式 AI 应用程序。

开源

加入数千个使用 MLflow 构建生成式 AI 的团队——拥有 20K+ GitHub Star 和 50M+ 月下载量。作为 Linux 基金会的一部分，MLflow 确保您的 AI 基础设施保持开放和中立。

OpenTelemetry

MLflow Tracing 完全兼容 OpenTelemetry，使其免受厂商锁定，并易于与您现有的可观测性堆栈集成。

一体化平台

管理从实验到生产的完整生成式 AI 旅程。在一个平台上跟踪提示、评估质量、部署模型和监控性能。

完整的可观测性

通过捕获提示、检索、工具调用和模型响应的全面跟踪，了解每个 AI 决策的内部情况。自信地调试复杂的工件。

评估和监控

停止使用 LLM 判例和自定义指标进行手动测试。系统地评估每一次更改，以确保您的 AI 应用程序得到一致的改进。

框架集成

使用任何生成式 AI 框架或模型提供商。通过 30 多个集成和可扩展的 API，MLflow 适应您的技术栈，而不是相反。

可观测性

使用 MLflow 的跟踪功能调试和迭代生成式 AI 应用程序，该功能会捕获应用程序的整个执行过程，包括提示、检索和工具调用。MLflow 的开源、兼容 OpenTelemetry 的跟踪 SDK 有助于避免厂商锁定。

可观测性快速入门 →

---

本快速入门将指导您如何在生成式 AI 应用程序中启用跟踪并将您的第一个跟踪发送到 MLflow。

评估

通过利用 LLM-as-a-judge 指标来准确衡量自由格式语言，模仿人类专业知识，以评估和增强生成式 AI 的质量。访问预先构建的用于常见指标（如幻觉或相关性）的判例，或根据您的业务需求和专家见解开发自定义判例。

评估快速入门 →

---

本快速入门将引导您完成准备数据集、配置评分器并在短短几个步骤中运行您的第一次评估。

提示管理和优化

直接通过 MLflow UI 版本控制、比较、迭代和发现提示模板。在您的 Agent 或应用程序代码的多个版本中重用提示，并查看识别哪些版本正在使用每个提示的详细血缘信息。

提示管理快速入门 →

---

本快速入门将指导您为生成式 AI 应用程序创建、编辑和版本化提示。

---

随处运行

MLflow 可在各种环境中运行，包括本地环境、本地集群、云平台和托管服务。作为一个开源平台，MLflow 是厂商中立的；无论您在哪里进行机器学习，都可以访问 MLflow 的核心功能集，例如跟踪、评估、可观测性等。

询问 AI 关于 MLflow 的问题

社区

与同行构建者联系、提问并保持最新状态——加入我们在 Slack、GitHub、LinkedIn 等平台上的充满活力的 MLflow 社区！

了解如何参与并在社区页面上发现我们的所有渠道。