游戏网站如何做,免费服务器主机,wordpress网站费用,网站建设列表横向文章目录 基础作业1. 在茴香豆 Web 版中创建自己领域的知识问答助手第一轮对话第二轮对话第三轮对话第四轮对话第五轮对话 2.在 InternLM Studio 上部署茴香豆技术助手修改配置文件创建知识库运行茴香豆知识助手 基础作业
1. 在茴香豆 Web 版中创建自己领域的知识问答助手
我… 文章目录 基础作业1. 在茴香豆 Web 版中创建自己领域的知识问答助手第一轮对话第二轮对话第三轮对话第四轮对话第五轮对话 2.在 InternLM Studio 上部署茴香豆技术助手修改配置文件创建知识库运行茴香豆知识助手 基础作业
1. 在茴香豆 Web 版中创建自己领域的知识问答助手
我上传了某机器人的控制接口协议文档
第一轮对话 回答正确
第二轮对话 虽然没有返回JSON但是设计的API调用顺序逻辑很合理
第三轮对话 前后对话记忆的效果也很好。
第四轮对话 正确并且还给出了解释
第五轮对话 对于没有直接列出而是在文档中用数量范围表示的代码也能精准检索。
2.在 InternLM Studio 上部署茴香豆技术助手
修改配置文件
用已下载模型的路径替换 /root/huixiangdou/config.ini 文件中的默认模型需要修改 3 处模型地址分别是:
命令行输入下面的命令修改用于向量数据库和词嵌入的模型
sed -i 6s#.*#embedding_model_path /root/models/bce-embedding-base_v1# /root/huixiangdou/config.ini- sed -i 表示直接修改文件内容而不是输出到终端。6s 表示要替换第6行的内容。# 用作分隔符可以替代常用的 /以避免与路径中的 / 冲突。.* 匹配任意字符表示替换整行的内容。embedding_model_path /root/models/bce-embedding-base_v1 是要替换的新内容设置了用于向量数据库和词嵌入的模型路径。
这条命令的作用是将 /root/huixiangdou/config.ini 文件的第6行修改为 embedding_model_path /root/models/bce-embedding-base_v1设置了向量数据库和词嵌入使用的模型路径。
用于检索的重排序模型
sed -i 7s#.*#reranker_model_path /root/models/bce-reranker-base_v1# /root/huixiangdou/config.ini与第一条命令类似这条命令将 /root/huixiangdou/config.ini 文件的第7行修改为 reranker_model_path /root/models/bce-reranker-base_v1设置了用于检索的重排序模型的路径。
和本次选用的大模型
sed -i 29s#.*#local_llm_path /root/models/internlm2-chat-7b# /root/huixiangdou/config.ini与前两条命令类似这条命令将 /root/huixiangdou/config.ini 文件的第29行修改为 local_llm_path /root/models/internlm2-chat-7b设置了本次选用的大模型的路径。 现在config.ini中的地址信息都被更改了 创建知识库
使用 InternLM 的 Huixiangdou 文档作为新增知识数据检索来源在不重新训练的情况下打造一个 Huixiangdou 技术问答助手。
首先下载 Huixiangdou 语料
cd /root/huixiangdou mkdir repodirgit clone https://github.com/internlm/huixiangdou --depth1 repodir/huixiangdou提取知识库特征创建向量数据库。数据库向量化的过程应用到了 LangChain 的相关模块默认嵌入和重排序模型调用的网易 BCE 双语模型如果没有在 config.ini 文件中指定本地模型路径茴香豆将自动从 HuggingFace 拉取默认模型。
除了语料知识的向量数据库茴香豆建立接受和拒答两个向量数据库用来在检索的过程中更加精确的判断提问的相关性这两个数据库的来源分别是 接受问题列表希望茴香豆助手回答的示例问题 存储在 huixiangdou/resource/good_questions.json 中 拒绝问题列表希望茴香豆助手拒答的示例问题 存储在 huixiangdou/resource/bad_questions.json 中其中多为技术无关的主题或闲聊如“nihui 是谁”, “具体在哪些位置进行修改”, “你是谁”, “11” 运行下面的命令增加茴香豆相关的问题到接受问题示例中
cd /root/huixiangdou
mv resource/good_questions.json resource/good_questions_bk.jsonecho [mmpose中怎么调用mmyolo接口,mmpose实现姿态估计后怎么实现行为识别,mmpose执行提取关键点命令不是分为两步吗一步是目标检测另一步是关键点提取我现在目标检测这部分的代码是demo/topdown_demo_with_mmdet.py demo/mmdetection_cfg/faster_rcnn_r50_fpn_coco.py checkpoints/faster_rcnn_r50_fpn_1x_coco_20200130-047c8118.pth 现在我想把这个mmdet的checkpoints换位yolo的那么应该怎么操作,在mmdetection中如何同时加载两个数据集两个dataloader,如何将mmdetection2.28.2的retinanet配置文件改为单尺度的呢,1.MMPose_Tutorial.ipynb、inferencer_demo.py、image_demo.py、bottomup_demo.py、body3d_pose_lifter_demo.py这几个文件和topdown_demo_with_mmdet.py的区别是什么\n2.我如果要使用mmdet是不是就只能使用topdown_demo_with_mmdet.py文件,mmpose 测试 map 一直是 0 怎么办,如何使用mmpose检测人体关键点,我使用的数据集是labelme标注的我想知道mmpose的数据集都是什么样式的全都是单目标的数据集标注还是里边也有多目标然后进行标注,如何生成openmmpose的c推理脚本,mmpose,mmpose的目标检测阶段调用的模型一定要是demo文件夹下的文件吗有没有其他路径下的文件,mmpose可以实现行为识别吗如果要实现的话应该怎么做,我在mmyolo的v0.6.0 (15/8/2023)更新日志里看到了他新增了支持基于 MMPose 的 YOLOX-Pose我现在是不是只需要在mmpose/project/yolox-Pose内做出一些设置就可以换掉demo/mmdetection_cfg/faster_rcnn_r50_fpn_coco.py 改用mmyolo来进行目标检测了,mac m1从源码安装的mmpose是x86_64的,想请教一下mmpose有没有提供可以读取外接摄像头做3d姿态并达到实时的项目呀,huixiangdou 是什么,使用科研仪器需要注意什么,huixiangdou 是什么,茴香豆 是什么,茴香豆 能部署到微信吗,茴香豆 怎么应用到飞书,茴香豆 能部署到微信群吗,茴香豆 怎么应用到飞书群,huixiangdou 能部署到微信吗,huixiangdou 怎么应用到飞书,huixiangdou 能部署到微信群吗,huixiangdou 怎么应用到飞书群,huixiangdou,茴香豆,茴香豆 有哪些应用场景,huixiangdou 有什么用,huixiangdou 的优势有哪些,茴香豆 已经应用的场景,huixiangdou 已经应用的场景,huixiangdou 怎么安装,茴香豆 怎么安装,茴香豆 最新版本是什么,茴香豆 支持哪些大模型,茴香豆 支持哪些通讯软件,config.ini 文件怎么配置,remote_llm_model 可以填哪些模型?
] /root/huixiangdou/resource/good_questions.json
再创建一个测试用的问询列表用来测试拒答流程是否起效
cd /root/huixiangdouecho [
huixiangdou 是什么,
你好介绍下自己
] ./test_queries.json在确定好语料来源后运行下面的命令创建 RAG 检索过程中使用的向量数据库
# 创建向量数据库存储目录
cd /root/huixiangdou mkdir workdir # 分别向量化知识语料、接受问题和拒绝问题中后保存到 workdir
python3 -m huixiangdou.service.feature_store --sample ./test_queries.json
向量数据库的创建需要等待一小段时间过程约占用 1.6G 显存。
完成后Huixiangdou 相关的新增知识就以向量数据库的形式存储在 workdir 文件夹下。
检索过程中茴香豆会将输入问题与两个列表中的问题在向量空间进行相似性比较判断该问题是否应该回答避免群聊过程中的问答泛滥。确定的回答的问题会利用基础模型提取关键词在知识库中检索 top K 相似的 chunk综合问题和检索到的 chunk 生成答案。 运行截图 拒答流程测试中第一个问题“huixiangdou是什么”顺利的通过了测试检索模块也搜寻到了相关的语料。
第二个问题被拒答模块成功的拒绝了 但是我在跟着文档走的时候遇到了一个问题提示 断言语句 assert (len(context) context_max_length) 用于确保上下文的长度len(context)小于或等于允许的最大上下文长度context_max_length。如果条件不满足就会引发 AssertionError。 我把retriver.py中的context_max_length变长了之后可以实现和视频中一样的运行流程。
运行茴香豆知识助手
我们已经提取了知识库特征并创建了对应的向量数据库。现在让我们来测试一下效果
命令行运行
# 填入问题
sed -i 74s/.*/ queries [huixiangdou 是什么, 茴香豆怎么部署到微信群, 今天天气怎么样]/ /root/huixiangdou/huixiangdou/main.py# 运行茴香豆
cd /root/huixiangdou/
python3 -m huixiangdou.main --standaloneRAG 技术的优势就是非参数化的模型调优这里使用的仍然是基础模型 InternLM2-Chat-7B 没有任何额外数据的训练。面对同样的问题我们的茴香豆技术助理能够根据我们提供的数据库生成准确的答案。 首先通过命令 python3 -m huixiangdou.main --standalone 启动茴香豆程序。--standalone 参数表示以独立模式运行。 程序开始加载各种模型和配置 加载了一些自然语言处理的模型如 SentenceTransformer 和 BCEmbedding 的 RerankerModel。加载了一些配置文件如 config.ini其中包含了模型路径、数据路径和日志路径等设置。 程序启动了一个 HTTP 服务监听在 0.0.0.0:8888等待客户端的请求。 收到一个问题 “huixiangdou 是什么”程序开始处理使用Prompt和internlm2-7b进行交互 首先判断这是一个有主题的疑问句得分这里打分好像失败了模型回复无法进行打分。然后提取出问题的主题是 “huixiangdou 的含义或定义”。在知识库中搜索相关的材料找到了 README.md 文件判断问题和材料的相关度为8分。使用 InternLM2-chat-7b 模型根据材料生成了一个回答解释了 HuixiangDou 的定义和特点。将问题、回答和相关材料返回给客户端。
最后这是茴香豆返回的最终答案
收到另一个问题 “茴香豆怎么部署到微信群”程序再次处理 判断这是一个得分为8分的疑问句主题是 “茴香豆的微信部署”。在知识库中找到了相关的 README_zh.md 文件问题和材料的相关度为8分。使用 InternLM2-chat-7b 模型根据材料生成了一个详细的部署步骤说明。将问题、回答和相关材料返回给客户端。 茴香豆返回的最终答案
收到第三个问题 “今天天气怎么样”程序判断这个问题与知识库无关直接返回空答案。 这里判断主题相似度的prompt好像缺失了直接就返回了空答案。
