海口网站建设方案报价,如何自己做收费的视频网站,一百度网站建设,公司建设网站的目的【引子】 关于大模型及其应用方面的文章层出不穷#xff0c;聚焦于自己面对的问题#xff0c;有针对性的阅读会有很多的启发#xff0c;本文源自Whyhow.ai 上的一些文字和示例。对于在大模型应用过程中如何使用知识图谱比较有参考价值#xff0c;特汇总分享给大家。
在基于…【引子】 关于大模型及其应用方面的文章层出不穷聚焦于自己面对的问题有针对性的阅读会有很多的启发本文源自Whyhow.ai 上的一些文字和示例。对于在大模型应用过程中如何使用知识图谱比较有参考价值特汇总分享给大家。
在基于大模型的RAG应用中可能会出现不同类型的问题通过知识图谱的辅助可以在不同阶段增强RAG的效果并具体说明在每个阶段如何改进答案和查询。知识图谱更类似于结构化数据存储而不是仅仅是一个用于各种目的的结构化数据的一般存储可以利用它在 RAG 系统中战略性地注入人类推理。
1. RAG简介
对于复杂的 RAG 和多跳数据检索的一般场景如下图所示, 关于RAG的更多信息可以参考《[大模型系列——解读RAG]》。 使用上图所示的阶段来介绍知识图谱支持的 RAG 过程中不同的步骤:
阶段1——预处理: 这指的是在查询被用于帮助从向量数据库中提取数据块之前对其进行处理阶段2/D——数据块提取: 这是指从数据库中检索最相关的信息块阶段3-5——后处理: 这指的是为准备检索到的信息以生成答案而执行的过程
在不同阶段应该使用哪些知识图谱技术呢
2.知识图谱在RAG各阶段的应用
2.1 阶段一查询增强
查询增强是 在从向量数据库中进行检索之前向查询添加上下文。此策略用于在缺少上下文的情况下增加查询并修复错误查询。这也可以用来注入一个我们的世界观明确如何定义或看待某些共同或基础术语。
在许多情况下我们可能对特定术语有自己的世界观。例如一家旅游科技公司可能希望确保开箱即用 LLM 能够理解“海滨”住宅和“靠近海滩”住宅代表非常不同类型的房产不能互换使用。在预处理阶段注入这个上下文有助于确保 RAG系统中的这种区别能够提供准确的响应。
从历史上看知识图谱在企业搜索系统中的一个常见应用是帮助建立首字母缩略词词典以便搜索引擎能够有效地识别提出的问题或文档/数据存储中的首字母缩略词。这在第一阶段可以用于多跳推理。
2.2 阶段二数据块提取
文档层次结构是指创建文档层次结构和在向量数据库中导航块的规则。这用于快速识别文档层次结构中的相关块并使我们能够使用自然语言创建规则规定查询在生成响应之前必须引用哪些文档/块。
2.3 阶段三递归知识图谱查询
这是用来结合信息提取和存储连贯的答案。LLM 向知识图谱查询答案。这在功能上类似于CoT过程其中外部信息存储在知识图谱中以帮助确定下一步的调查。
2.4 阶段四之一响应增强
响应增强是根据最初从矢量数据库生成的查询添加上下文。这用于添加必须存在于任何答案中的附加信息这些附加信息涉及一个未能检索到或在矢量数据库中不存在的特定概念。这对于在基于提到或触发的某些概念的回答中包含免责声明或警告特别有用。
一个有趣的推测途径也可以包括使用答案增强作为一种方式对于面向消费者的 RAG 系统当某些答案提到某些产品时可以包含个性化广告的答案。
2.5 阶段四之二响应规则
响应规则是根据知识图谱设置的规则重新排序。这是用来强制执行关于可以生成的答案的一致规则。这对信任和安全有影响我们可能希望消除已知的错误或危险的答案。
Llamaindex 有一个有趣的例子它使用维基百科的知识图谱来复核一个 LLM 的基本真理。尽管 Wikipedia 不能作为内部 RAG 系统的基本事实的来源但是您可以使用客观的行业或常识知识图谱来防止 LLM 的幻觉。
2.6 阶段五数据块访问控制和个性化
知识图谱可以强制执行关于用户可以根据其权限检索哪些块的规则。例如假设一家医疗保健公司正在构建一个 RAG 系统该系统包含对敏感临床试验数据的访问。他们只希望拥有特权的员工能够从向量存储中检索敏感数据。通过将这些访问规则作为属性存储在知识图谱的数据上它们可以告诉 RAG 系统只检索特权块(如果允许用户这样做的话)。
3.一个用例
用医学领域的一个例子来进一步阐述RAG系统中如何应用知识图谱。示例问题如下: “阿尔茨海默病治疗的最新研究是什么?” 然后可以采取以下步骤以知识图谱增强RAG 系统。我们不认为每个 RAG 系统都必须需要以下所有步骤但这些用例在复杂的 RAG 用例中相对常见。 在这里描述知识图谱在所有技术(查询增强、数据块提取规则、递归知识图谱查询、响应增强、响应控制、块访问控制)环节的应用示例。
3.1 查询增强
对于“阿尔茨海默氏症治疗的最新研究是什么?” 这个query通过访问知识图谱LLM 代理可以持续检索关于最新的阿尔茨海默病治疗的结构化数据如“胆碱酯酶抑制剂”和“盐酸美金胺”RAG 系统将进一步提出更具体的问题: “关于胆碱酯酶抑制剂和盐酸美金胺治疗阿尔茨海默病的最新研究是什么?”
3.2 文件层次和矢量数据库检索
使用文档层次结构识别哪些文档和数据块与“胆碱酯酶抑制剂”和“盐酸美金胺”最相关并返回相关的答案。
3.3 递归知识图谱查询
使用递归知识图谱查询初始查询返回称为“ XYZ 效应”的“记忆时间”的副作用。“ XYZ 效应”作为上下文存储在一个单独的知识图中用于递归上下文。LLM 被要求使用 XYZ 效果的附加上下文检查新增加的查询。根据过去格式化的答案来衡量结果它确定需要更多关于 XYZ 效应的信息来构成一个令人满意的答案。然后它在知识图谱中的 XYZ 效应节点内执行更深入的搜索从而执行多跳查询。
在 XYZ 效应节点中它发现关于临床试验 A 和临床试验 B 的信息它可以包括在答案中。
3.4 数据块控制访问
尽管临床试验 A B 都包含有益的上下文但是与临床试验 B 节点相关的元数据标签指出用户对该节点的访问受到限制。因此一个常设的控制访问规则可以防止临床试验 B 节点被包含在对用户的响应中。
只有关于临床试验 A 的信息才会返回给 LLM以帮助其制定返回的答案。
3.5 响应增强
作为后处理步骤还可以选择使用特定于医疗行业的知识图谱来增强后处理输出。例如您可以包括特定于盐酸美金胺治疗的默认健康警告或包括与临床试验 A 相关的任何其他信息。
3.6 数据块个性化
由于用户是研发部门的初级员工临床试验 B 的信息不对用户开放所以附加了一个说明禁止用户访问临床试验 B 的信息并要求向高级经理询问更多信息。
4. 一点思考
使用知识图谱而非向量数据库进行查询增强的一个优点是知识图可以对已知关系的某些关键主题和概念进行一致性检索。我们把个性化定义为用户和矢量数据库之间信息流的控制但是个性化也可以理解为用户特征的封装。
知识图谱可以反映更广泛的用户特征集合的存储可以用于一系列的个性化工作。在某种程度上一个知识图谱是一个外部数据存储(即外部 LLM 模型) 它更容易以一致的形式提取(即知识图谱数据能够以一种更模块化的方式插入播放和删除)。如果实现了物联网中的数字孪生知识图谱很可能成为代表这种系统和模型之间的模型个性化的最佳手段。
那么如何系统的去学习大模型LLM
我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。
作为一名热心肠的互联网老兵我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ 朋友们如果有需要全套 《LLM大模型入门进阶学习资源包》扫码获取~ 【保证100%免费】 篇幅有限部分资料如下
LLM大模型学习指南路线汇总
大模型入门要点扫盲必看 既然要系统的学习大模型那么学习路线是必不可少的这份路线能帮助你快速梳理知识形成自己的体系。
大模型入门实战训练
光学理论是没用的要学会跟着一起做要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。
国内企业大模型落地应用案例
《中国大模型落地应用案例集》 收录了52个优秀的大模型落地应用案例这些案例覆盖了金融、医疗、教育、交通、制造等众多领域无论是对于大模型技术的研究者还是对于希望了解大模型技术在实际业务中如何应用的业内人士都具有很高的参考价值。 文末领取 《2024大模型行业应用十大典范案例集》 汇集了文化、医药、IT、钢铁、航空、企业服务等行业在大模型应用领域的典范案例。 LLM大模型学习视频
观看零基础学习书籍和视频看书籍和视频学习是最快捷也是最有效果的方式跟着视频中老师的思路从基础到深入还是很容易入门的。 文末领取 640份大模型行业报告
包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。
获取方式
这份完整版的大模型 LLM 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
有需要的小伙伴可以Vx扫描下方二维码免费领取
