广汉市建设局官方网站,网站建设总结与体会,上海口碑最好的装修公司排名,wordpress短代码按钮本次的授课人是一个提示词开发项目的负责人。下面一起进入本期课程吧》
本次课程内容主要如下#xff1a; 开篇交代了大模型的局限性#xff0c;然后引出主题#xff1a;
简单总结#xff0c;大模型是根据数据集训练#xff0c;很难使用具有实时性的数据进行重新训练 开篇交代了大模型的局限性然后引出主题
简单总结大模型是根据数据集训练很难使用具有实时性的数据进行重新训练因为训练成本需要海量资源。并且通用模型的专业场景应用很差。而且很难专门定制特定的大模型。 大模型的开发范式呢主要有以下两种模式
建立知识库和微调知识库是传统AI专家系统中就有的概念微调呢是冻结一定层的参数然后去训练改变其产生分类的少数几层的参数。二种方法都能减少训练成本但是有一定的差别。
前者不需要算力可以实时加入新知识但是基座模型的上限极大程度决定其模型的上限。而后者无法实时更新但是由于其是一个改变少数层的新的大模型仍然具有大模型的广阔知识的优势 RAG建立数据库的具体思路如下
先将用户输入向量化用向量表示然后与数据库中的知识匹配最后变成提示词传递给大模型。 而LangChain这个开源框架能够比较好地用于RAG这个方面的构建为MIT一个创业者的发起目前为大模型领域比较火的框架。
其核心组件为链而最有代表性的是检索问答链也是本节课所用。 以下是使用之构建应用的框图和工作步骤 构建向量数据库主要步骤如下 下面开始介绍知识库助手的搭建 即调用这个组件能够实现全部流程 RAG有以下局限性和可能的优化方案 以下开始部署Web Demo: 前两次作业的运行自动启动的是streamlit,本次基于Gradio。
按照文档一步步执行即可。
