雷猴啊朋友们，今天这期真是太必要了。

很多朋友都在问我想让大模型学习一下我的知识，怎么给他数据？哎，有人说你可以直接上传成文本了，某某某知识1000万，某某某支持200万啦。还有人说你可以用外接知识库RAG rap，也还有人说你可以用微的tuning what长文本提示rag。微调到底是干嘛呢？有什么区别？我什么时候该用什么？哎，今天咱们就来用大家都能懂的方式聊聊大模型能力优化的几种常见方式。现在就是点赞收藏的好时候。

那第一种长文本提示，我们最经常用的拷贝一篇文章，或者是上传个PDF什么的，发给让他总结一下，或者是修改一下，或者说参考这个文章怎么怎么怎么样。那这个呢就是长文本提示。那这篇文章啊其实就是跟我们的提示词这么一拼，哎，就发给大模型了。相当于啊我们考试的时候来做阅读理解。卷子上呢前面写了这么一大段文章，下面来了一句，请问作者想表达什么样的思想感情？那这一整段合在一起才是我们的考题。不管卷子上写的那个文章有多长，我们其实都是临场才看到的那卷子一收走，你肯定什么也记不住。那这个文本数据呢也一样，它只能在你的这个对话窗口内容有效，而且还不能超过它模型本身支持的上下文长度。比如说现在大厂又又说支持1000万长文本了，谁又支持多少多少token了。那如果各大厂诚不起我是真正的无损长文本，那么也就是咱们可以给AI很长很长的上文来做阅读理解。但是呢AI得临时看这么长的东西，还快速的作答，这其实并不容易做到。所以有的厂呢还很鸡贼，用了另一个很常见的优化技术来假装无损长文本，那就是RAG rag检索增强生成rag中给到AI的数据。应该才是大家经常听到 的知识库。这个知识库呢就好比我们写论文的时候吧，在图书馆里有一大堆书是学校给你准备的知识库，但是都没在你脑子里 only。只有当你开始写某个主题的时候，你才会根据你的需要去把那些相关 的书籍啊段落都找出来参考和引用。这个过程你并不会把图书馆所有的书都看了，甚至你拿回来的那几本书你都不一定全看了。你是按照跟你论文的相关性，在一个大的图书馆里搜索你要用的图，参考参考引用一下，再给他组织出一篇论文。出那rag的知识库，数据也是单独放在外面，提什么问你就去搜什么数据大模型也只是拿过来给你组织组织。哎，跟我们写论文很像啊，所以像我们看到的各种AI搜索，什么密码啊，complexity那种都是用的rap。

那第三种微调fine unity。其实在微调中说的数据啊，应该才是大家常常说的喂数据。其实这个胃字儿特别贴切，因为微调中的数据吧才是直接给大模型喂进去的，就像喂饭一样。你喂了吧他得觉吧，他还得消化吧，最后还把你喂进去的饭得给变成肥肉。那微调大模型呢也是把你喂进去的数据消化成了规律，固定在它的参数里。其实在微调之前啊，真正做大模型的厂商已经做过了一步，叫做预训练。这一步呢用了大量的算力数据让他有了基础知识，相当于啊先做了一个12年基础教育。那微调呢就是你作为一个高中毕业的学生上大学。假比方你选了一个医学专业，到大学里面就花四年给你微调一下，专门针对医学这个领域，给你一大堆知识和练习，让这个方向的知识和技能长到你的脑子里去。但是不是死记硬背啊，他是把接收到的信息压缩成了一种规律，把它记住的那你以后看见有人发烧咳嗽，哎，你一推测这个大概率就是感冒了，甚至呢你还能沿着这个规律去推测一些你没学过的病症.

好，那我们再来结合这张图，看看这三种给数据的方式分别是给到了大模型回答问题的哪个环节。假设啊我们把大模型回答问题简化成三个部分，一个是我们的提示词，一个是大模型在推理，一个是它的回答。那第一种长文本提示呢是直接在提示词的部分是写在卷子上。那第二种rag是在提示词之后和推理之前加了一步找资料，是写在了参考书里。那第二种微调是直接在大模型本身在上考场之前就先学进了脑子里。那么他们的优缺点是什么呢？适合什么时候用呢？你想啊那写在卷子上的肯定是方便灵活成本低嘛，但是啊它也长度有限，而且它太长了吧，对你的脑细胞答题时间也变长了，还一下子容易找不到重点，所以它适合那种灵活的单词任务。比如说根据这篇新闻给我写一篇短视频的文稿，那rab呢它可以临时查资料，肯定准确性高。而且你多加几本书，他就能多回答更多问题。只不过缺点呢是你还得建个图书馆，非常的依赖。你有哪些书，你的书是不是正经书，你要是找的慢呢，那也拖慢了答题速度，所以它适合做需要实时信息的问答。比如说我把我的视频都做成知识库，大家可以去问他本地大模型部署那期视频说要下载什么来着？那微调呢学进脑子里了，当然适用的场景就多了，而且张口就来，但是呢学习成本也很高，同时也取决于你上的什么学校，你学的好不好，而且如果又有什么新知识了，你就不一定知道了。另外呢记在脑子里的东西也不一定完全靠谱，又即便你学好了，你上了考场也可能答错。所以它呢适合这个大模型啊，以后就准备长期干这个事儿。比如说我把我说过的所有的话都收集起来，微微一个学学会语气的模型，以后呢就让他来学学脑的语气，写一篇文章真不错，以后的视频就这么出了。

当然大家也能看出来，这几种方法并不是非此即彼的，我们上了大学也得查资料，我们查了资料也得看卷子。这三种常见的提高大模型能力的方法都可以搭配来用。好了，如果你觉得这一期内容对你有用的话，请在评论区告诉我。那后面的视频呢我就会正式的带大家以最简单 的方式详细的讲讲rag的实现，带你快速的上手，实现自己的本地大模型加知识库绝对不难。好了，现在就是你点赞、收藏、关注的另一次好时机了，我们下次见。
《大模型数据优化攻略：长文本提示、RAG与微调全解析》

在当今数字化时代，大模型的应用越来越广泛。如何优化大模型的数据，提升其性能，成为了众多用户关注的焦点。本文将深入探讨长文本提示、RAG和微调这三种常见的数据优化方式，帮助你更好地理解和应用它们。

长文本提示是一种简单而直接的方式，通过提供相关的文本信息，引导大模型生成更准确的回答。例如，在进行文本总结或修改时，我们可以直接拷贝一篇文章或上传PDF，让大模型进行处理。这种方式方便灵活，成本低，但长度有限，适合处理灵活的单词任务。

RAG（检索增强生成）则是在提示词之后和推理之前增加了一步找资料的过程。它通过外部知识库，为大模型提供更多的信息支持，从而提高回答的准确性。比如，在进行实时信息问答时，RAG可以帮助大模型快速查找相关资料，给出更准确的答案。不过，RAG依赖于知识库的质量和数量，需要花费一定的时间和精力来建立和维护。

微调是将数据直接喂给大模型，让其学习并形成规律。在微调之前，大模型通常已经经过了预训练，具备了基础知识。微调就像是为大模型进行专业培训，使其在特定领域表现更出色。例如，选择医学专业后，通过大量的知识和练习，让大模型在医学领域的知识和技能得到提升。微调适用于大模型长期从事特定任务的场景，但学习成本较高，且需要不断更新知识。

在实际应用中，我们可以根据具体需求选择合适的数据优化方式。如果是处理灵活的单词任务，长文本提示可能是首选；对于需要实时信息的问答，RAG会更合适；而如果希望大模型长期专注于特定领域，微调则是不错的选择。同时，这三种方式并不是相互排斥的，我们可以根据实际情况进行搭配使用，以达到最佳的效果。

总之，了解和掌握长文本提示、RAG和微调这三种数据优化方式，将有助于我们更好地利用大模型，提升其性能，为我们的工作和生活带来更多的便利。
大模型,长文本提示,RAG,微调,数据优化,知识库
[Q]：长文本提示是什么？
[A]：拷贝文章或上传PDF让大模型总结、修改或参考，类似考试做阅读理解。
[Q]：RAG是什么？
[A]：检索增强生成，通过知识库为大模型提供信息，类似写论文找资料。
[Q]：微调是怎么回事？
[A]：将数据直接喂给大模型，让其学习形成规律，之前有预训练。
[Q]：长文本提示有啥优缺点？
[A]：方便灵活成本低，但长度有限，太长易找不到重点，适合灵活单词任务。
[Q]：RAG的优缺点是什么？
[A]：准确性高，能多回答问题，但依赖知识库，找资料慢会拖慢答题速度。
[Q]：微调适合什么场景？
[A]：适合大模型长期专注特定任务，适用场景多但学习成本高。
[Q]：这三种方式能一起用吗？
[A]：可以搭配使用，并非非此即彼。
[Q]：如何选择适合的方式？
[A]：灵活单词任务选长文本提示，实时信息问答选RAG，长期特定任务选微调。