我网站关键词太多,wordpress+编辑器回车,官方网站建设情况说明,游戏app定制开发本系列文章主要是分享一些关于大模型的一些学术研究或者实验性质的探索#xff0c;为大家更新一些针对大模型的认知。所有的结论我都会附上对应的参考文献#xff0c;有理有据#xff0c;也希望这些内容可以对大家使用大模型的过程有一些启发。 注#xff1a;本系列研究关注…本系列文章主要是分享一些关于大模型的一些学术研究或者实验性质的探索为大家更新一些针对大模型的认知。所有的结论我都会附上对应的参考文献有理有据也希望这些内容可以对大家使用大模型的过程有一些启发。 注本系列研究关注的是大型语言模型Large Language Models, LLMs的普遍特性而非专指GPT。在文中我们使用“GPT”作为一个典型例子来代表这一类模型但请读者注意所讨论的观点和结论通常也适用于其他同类大型模型。这样的表述旨在简化叙述同时也强调了这些发现的广泛适用性。 不定期更新敬请期待~
首先看一个例子拿古诗“黄鹤一去不复返白云千载空悠悠”的一部分去提问GPT。 如果向GPT-4提出正向的问题它能正确地回答 但是如果我们提出反向的问题它就无法给出正确的答案
这个现象其实并不难理解。还记得小时候背古诗如果被问到上半句我们通常能很容易地接出下半句。但如果被问到下半句我们可能需要花费一些时间来回忆上半句。
然而这并非特例。相反这是一个广泛存在于大模型中的现象称为「逆转诅咒」。
参考文献The Reversal Curse: LLMs trained on “A is B” fail to learn “B is A” 这篇论文就探讨了大模型在泛化能力上的一个意外失败现象即所谓的「逆转诅咒」Reversal Curse。论文指出如果一个模型在训练时学习到的句子是“A是B”例如“Olaf Scholz是德国第九任总理”它不会自动泛化到相反的方向“B是A”例如“谁是德国第九任总理”。
为了证明这一现象作者通过在虚构陈述上微调GPT-3和Llama-1模型例如“Uriah Hawthorne是Abyssal Melodies的作曲家”并展示它们无法正确回答“谁是Abyssal Melodies的作曲家”。作者还评估了ChatGPTGPT-3.5和GPT-4在关于真实世界名人的问题上的表现例如“Tom Cruise的母亲是谁”答案Mary Lee Pfeiffer和相反的“Mary Lee Pfeiffer的儿子是谁”答案Tom Cruise。GPT-4正确回答前者问题的概率为79%而后者只有33%这进一步证实了逻辑推理的失败。
论文还探讨了这一现象的原因提出可能与模型的训练方式有关即模型在训练过程中可能没有学会从“A是B”推断出“B是A”。此外作者还提出了一些可能的解决方案例如改变数据的呈现方式或者在微调过程中包含更多样例但这些方法并未能缓解“反转诅咒”。
这个现象也提醒我们在使用大模型时要尽量避免提出过于逆向的问题以免影响模型的回答准确性。
挽弓当挽强用人当用长。
当然这并不意味着我们不能提出逆向问题而是要在提问时你要对GPT的回答有一个清楚的预期…知道它甚至不一定答对简单的问题。如果你刚好有一个任务需要GPT反着回答的时候你此时应该降低预期。
下一篇请看如何针对这个问题进行拨乱反正。
认知篇什么是CoT思维链? 也许GPT需要你引导
