流程编排服务:打造高效AI应用的利器

111阅读
0评论
0点赞

流程编排服务是一款面向开发者的可视化工具,支持多种节点类型如大型语言模型、API调用等,简化了AI应用的构建过程。该服务提供了一站式的解决方案,涵盖从流程设计到部署的各个环节,并支持流程的全生命周期管理。通过简单的画布操作和调试功能,开发者可以快速构建出高效且灵活的AI应用。

定义与价值

流程编排服务是一款专为开发者设计的可视化开发工具,支持多种类型的节点,如大型语言模型(LLM)、API调用、脚本编写等,旨在简化接入大型语言模型的过程,并提供从流程设计到部署的一站式解决方案。该服务不仅能够帮助开发者快速构建定制化的AI应用,还支持流程的全生命周期管理,包括编排、测试、部署等关键环节。

节点类型

目前平台支持以下几种节点类型:

更多关于各节点的详细使用说明,请参考官方文档。

参数关联机制

入参声明

在流程开始节点中明确声明流程所需的输入参数。

入参声明

出参声明

在流程结束节点中声明流程的输出参数。

出参声明

svcVars.LLM_DGc2XV.response.text的返回示例如下:


{

    "svcVars":{

        "LLM_DGc2XV":{

            "params":{

                "modelId":"qwen-plus-v1",

                "prompt":"你是一个音乐播放器,根据下面的描述,推荐一首适合这个天气挺的歌曲${data}"

            },

            "response":{

                "text":"根据你的描述,推荐一首适合这种天气的歌曲是周杰伦的《晴天》。这首歌的旋律轻松愉快,歌词也充满了阳光和活力,非常适合在这种晴朗温暖的天气中欣赏。"

            }

        }

    }

}

变量关联

在不同的节点之间,可以通过EL表达式关联变量值。例如,使用${bizVars.abc}引用入参中的变量abc,或使用${svcVars.Plugin_0ebur6.response.data}引用特定节点执行后的结果数据。

image

具体取值方式可参考:流程变量含义及取值方式说明

画布操作指南

新增节点

从左侧节点列表中拖拽所需节点至画布。

新增节点.png

复制节点ID

为了方便后续节点获取前序节点的执行结果,提供了节点ID的复制功能。

复制节点ID.png

删除节点

所有节点及其连线均设有删除按钮。

删除节点.png

复制节点

点击复制按钮即可复制相同类型的节点内容。

复制节点.png

连接节点

通过拖拽输出端口到目标节点的输入端口实现节点间的连接。

连接节点.png

一键优化布局

自动调整画布布局,使流程更加清晰有序。

一键优化布局

一键优化布局后的结果

调试流程

在正式部署前,可通过“流程测试”功能进行调试。点击“流程测试”,填写必要的参数后,系统将按照设定的流程顺序执行各个节点,并在右侧展示每个节点的执行结果。

流程测试

按要求填入参数

最终在结束节点可以看到返回的具体参数

若出现错误,系统会高亮显示并提供错误信息,便于快速定位问题。 若出现错误

通过上述步骤,您可以轻松地利用流程编排服务构建出高效且灵活的AI应用。

评论(0)
暂无评论,期待您的发言...
发表评论
阿狸Tom
阿狸Tom
这家伙很懒,什么也没写~
文章
160
动态
185
加入时间
10月前