LLM在text2sql上的应用 京东云技术团队,生物技术在苹果上的应用
墨初 知识笔记 69阅读
在这一部分，我认为最重要的是如何合理地构造prompt，让LLM能够理解你的真实意图，生成标准的SQL。首先，需要定义和构造提示符的开头。第二，提示的整体结构和结构中数据表的信息也需要覆盖。这里，我们首先定义提示的开始。LLM的目的是生成SQL，我们会根据第一部分返回的top1数据表，将数据表中的信息添加到提示中，构建完整的提示。一、前言“打破人与结构化数据之间的壁垒”自然语言描述二、背景应用
rompt可能已经成功了一半。
通过以上的prompt构建我们就可以给LLM让模型生成最终的SQL结果。
3.2 第二阶段其实很多场景上一阶段生成SQL就已经达到我们想要的结果但这里我们还想进一步根据SQL生成最终的数据所以需要连接数据库SQL运行返回结果。这里我们通过连接集团CK数据库以接口的形式进行部署我们在运行SQL的时候其实就是调用接口这样方便简洁对接口返回的结果进行结构化的输出就可以。
通过接口访问结构化输出
四、结果以上就是目前我们根据LLM来生成SQL同时让SQL自动运行产生结果。前期我们利用GPT模型去跑通整个pipeline同时生成一些训练数据集来提供chatglm2-6b微调后期我们还会对产出的结果进行数据分析这个阶段也是利用LLM来完成通过这种方式给用户一些指导性的意见或总结。
以下是整个pipeline的流程
作者京东零售
来源京东云开发者社区 转载请注明来源
标签：