MLflow 2.17.0
2.17.0 (2024-10-11)
我们很高兴地宣布 MLflow 2.17.0 发布!本次发布包含多项增强功能,扩展了 MLflow ChatModel 接口的功能,以进一步提升其处理自定义 GenAI 应用用例的通用性。此外,我们改进了 tracing UI 中的界面,为检索到的文档提供结构化输出,增强了在 UI 中阅读这些文档内容的能力。我们还开始着手改进 MLflow 的 GenAI 评估功能,以提高其可用性和通用性,初期将支持可调用的 GenAI 评估指标。
主要功能和通知
-
ChatModel 增强功能 - 作为以 GenAI 为重点的
PythonModel的“表亲”,ChatModel获得了一些重要的功能扩展。从对工具调用的原生支持(这是创建自定义代理的要求),到通过引入所有数据结构的from_dict方法,简化与ChatModel接口所需的内部 dataclass 构造的转换,再到添加metadata字段以允许完全自定义输入 payload,处理新的refusal响应类型,以及将接口类型包含到响应结构中以实现更广泛的集成兼容性。(#13191, #13180, #13143, @daniellok-db, #13102, #13071, @BenWilson2) -
可调用的 GenAI 评估指标 - 这是
mlflow.evaluate功能更广泛扩展为 GenAI 用例的第一步,我们将 GenAI 评估指标转换为可调用的形式。这使您可以在支持可调用 GenAI 评估指标的包中直接使用它们,并简化了在原型设计解决方案时调试单个响应的过程。(#13144, @serena-ruan) -
MLflow UI 支持音频文件 - 您现在可以直接在 MLflow UI 的 artifact viewer pane 中“查看”已记录的音频文件并进行收听。
-
MLflow AI Gateway 不再被弃用 - 我们决定撤销对 AI Gateway 功能的弃用。我们曾将其重命名为 MLflow Deployments Server,但经过重新考虑,已将命名和命名空间恢复为原始配置。
功能
- [Tracing] 为 MLflow tracing 中的 retriever span 输出添加标准化(#13242, @daniellok-db)
- [Models] 在调用
log_model()时,添加对 LlamaIndexWorkflows对象进行序列化的支持(#13277, #13305, #13336, @B-Step62) - [Models] 为 ChatModel 添加工具调用支持(#13191, @daniellok-db)
- [Models] 为 ChatModel dataclasses 添加
from_dict()函数(#13180, @daniellok-db) - [Models] 为 ChatModel 添加 metadata 字段(#13143, @daniellok-db)
- [Models] 更新 ChatCompletionResponse 以填充对象类型(#13102, @BenWilson2)
- [Models] 添加对 LLM 响应拒绝的支持(#13071, @BenWilson2)
- [Models] 添加支持通过
langchain.log_model()传递资源(#13315, @sunishsheth2009) - [Tracking] 添加通过
set_retriever_schema设置多个 retriever schema 的支持(#13246, @sunishsheth2009) - [Eval] 使 Evaluation metrics 可调用(#13144, @serena-ruan)
- [UI] 为 artifact viewer UI 添加音频支持(#13017, @sydneyw-spotify)
- [Databricks] 添加对 databricks deployment client 中 route_optimized 参数的支持(#13222, @prabhatkgupta)
错误修复
- [Tracking] 修复 LangGraph 的 tracing(#13215, @B-Step62)
- [Tracking] 修复
presigned_url_artifact请求格式错误的问(#13366, @WeichenXu123) - [Models] 更新 Databricks 依赖项提取功能,以与
langchain-databricks合作伙伴包兼容。(#13266, @B-Step62) - [Model Registry] 修复模型注册表 artifact 下载时的重试和凭证刷新问题(#12935, @rohitarun-db)
- [Tracking] 修复 LangChain 自动记录,使其不要求为合作伙伴包安装 langchain-community(#13172, @B-Step62)
- [Artifacts] 修复本地 artifact repository 的文件删除问题(#13005, @rzalawad)
文档更新
- [Docs] 添加使用 ChatModel 构建自定义 GenAI 应用指南(#13207, @BenWilson2)
- [Docs] 更新 MLflow AI Gateway 文档(#13217, @daniellok-db)
- [Docs] 移除 MLflow AI Gateway 弃用状态(#13153, @BenWilson2)
- [Docs] 添加 MLflow tracing 集成的贡献指南(#13333, @B-Step62)
- [Docs] 添加关于
search_traceAPI 中run_id参数的文档(#13251, @B-Step62)
请进行试用,并在问题跟踪器上报告任何问题。
