MLflow OpenAI 特性

注意

openai 特性正在积极开发中，并标记为实验性功能。公共 API 可能随时更改，并且随着特性的发展可能会添加新功能。

引言

OpenAI 的 GPT 模型代表着自然语言处理 (NLP) 能力的重大飞跃。生成式预训练变换模型 (GPT) 以其生成类人文本、理解复杂查询、总结冗长文档等强大能力而闻名。OpenAI 一直处于 NLP 技术的前沿，提供了多功能且广泛应用于各个领域的模型。

借助 MLflow 强大的实验追踪和模型管理框架，与 OpenAI 的基于 GPT 的模型集成，使从业者能够高效地在项目中利用这些先进的 NLP 工具。从简单的文本生成到复杂的对话式 AI 应用，MLflow-OpenAI 集成为管理这些强大的模型带来了全新的便捷性和有效性水平。

此集成包括

文本分析与生成：利用 GPT-3.5 和 GPT-4 等模型完成各种文本相关任务。
对话式 AI：探索 Chat Completions API 在交互式、上下文感知应用中的能力。
嵌入生成：语料库和文本嵌入生成能力，用于高级文档检索用例。

OpenAI 集成的自动日志记录支持

如果您想了解更多关于 MLflow 中 OpenAI 自动日志记录支持的信息，请访问 OpenAI 自动日志记录页面。

使用 OpenAI 特性进行追踪

MLflow 的 OpenAI 特性包含一个集成的自动追踪功能，使用 mlflow.openai.autolog() API。要了解更多关于如何记录 OpenAI SDK 开发使用情况的信息，请访问此特性的自动追踪日志记录指南。

此集成为何如此特别？

MLflow 的实验追踪和模型管理与 OpenAI 前沿 NLP 模型的结合，为 AI 应用释放了新的潜力。这个针对 OpenAI 的 MLflow 特性简化了以下过程：

开发利用 OpenAI 模型能力的应用程序。通过简化对高度迭代和创造性的提示工程过程的跟踪，MLflow 提示工程确保您永远不会丢失一个绝佳的想法。
审计和审查您最有前景的实验。MLflow 追踪服务意味着您可以轻松分享您的工作成果，并获得同行评审。
自定义您的应用程序界面。无论您是想通过暴露 temperature 等参数来实现创意控制，还是通过暴露 max_tokens 来放宽成本控制，MLflow 都允许您配置默认值并限制修改用于推理的参数的能力。
在迭代提示工程阶段，使用标签标记和注释特定的运行，以便标记出特别有前景的想法，您和他人可以在以后回顾这些想法以获取灵感、进一步测试或部署。

房间里的大象：提示工程

在其他应用机器学习领域，迭代假设的过程耗时、繁琐，并且容易养成一丝不苟地记录特征细化和训练过程每一步的习惯。随着生成式 AI 以及 OpenAI 等提供的最先进 LLM 的潜在能力出现，优化解决方案性能的过程大大缩短。在一个小时内，您可以轻松地构建和测试几十个提示。

虽然这种速度和易用性令人惊叹地赋能，但它通常会导致在实验几个小时后出现令人沮丧的现实：您无法记住几个小时前创建的几十个提示中，哪个是产生您记忆中最佳结果的那个。

这就是 MLflow 的用武之地。使用 MLflow，您可以轻松追踪您使用的提示、获得的结果以及生成的工件。

下图以有趣的方式展示了 MLflow 帮助解决的这个问题。

MLflow OpenAI Prompt Engineering — 使用 MLflow 进行太空飞行提示工程

通过记录整个测试过程中使用的每个提示，您不仅可以轻松重现获得的结果，还可以与他人分享这些结果，以便他们评估结果的主观质量。如果没有适当的追踪，您将被迫自己想办法记录各种参数、提示、测试输入和结果。

通过将 MLflow 与 OpenAI 结合使用，您可以节省所有这些时间和精力，从而有更多时间想出有趣的提示。

功能

借助 MLflow OpenAI 特性，用户可以

使用 mlflow.openai.save_model() 和 mlflow.openai.log_model() 在 MLflow 中保存和记录使用 OpenAI 模型构建的应用程序。
无缝追踪详细实验，包括与模型运行相关的参数、提示和工件。
轻松部署 OpenAI 模型用于各种 NLP 应用。
利用 mlflow.pyfunc.PythonModel 实现灵活的 Python 函数推理，从而支持自定义和创新的机器学习解决方案。

使用 OpenAI 和 MLflow 可以做什么？

OpenAI 的先进 NLP 模型与 MLflow 强大的模型管理能力的集成，开启了大量潜在的实际应用。以下是一些强大且有影响力的用例：

自动化客户支持：开发复杂的聊天机器人，以类人方式理解并回应客户咨询，显著提高客户服务效率和满意度。
内容生成与整理：自动为文章、博客或社交媒体帖子生成高质量、与上下文相关的内容。通过总结和分类大量文本数据来整理内容，增强内容管理策略。
语言翻译服务：创建高级翻译工具，不仅能将文本从一种语言翻译成另一种语言，还能捕捉细微差别、习语和文化语境，更有效地弥合沟通差距。
市场研究情感分析：分析客户反馈、社交媒体帖子或产品评论，衡量公众对品牌、产品或服务的情感，为市场营销和产品开发团队提供有价值的见解。
个性化教育和培训工具：开发 AI 驱动的教育平台，能够根据个人学习偏好调整内容和教学风格，使教育更具吸引力和有效性。
法律和合规文件分析：自动化法律文件、合同和合规材料的审查和分析，提高准确性并减少法律工作流程所需的时间和资源。
医疗辅助和研究：通过总结和分析医学文献、患者记录或临床试验数据来协助医学研究，有助于在医疗保健领域做出更快、更明智的决策。
金融分析和预测：利用 NLP 模型分析财务报告、市场趋势和新闻文章，为投资策略和经济预测提供更深入的见解和预测。

通过 MLflow 的集成，这些应用程序不仅受益于 OpenAI 模型强大的语言能力，还从简化的追踪、版本控制和部署流程中获益。这种协同作用使开发者和企业能够构建复杂的、AI驱动的解决方案，解决复杂挑战并在各行业创造新的机会。

轻松部署

使用 MLflow 部署 OpenAI 模型变得轻而易举。诸如 mlflow.openai.load_model() 和 mlflow.pyfunc.load_model() 等函数可简化模型服务。了解更多关于使用 MLflow 部署模型的信息，探索部署 API，并学习如何启动本地模型服务终结点，以充分利用 MLflow 的部署能力。