接上文,本篇介绍论文提到的LocalGPT system,是以NextDoor社区为数据源和应用场景的。 该系统包括两部分:RAG和fine-tune 一、RAG 大致思想就是 给定一个问题/任务,先检索到数据源中最相关的文档,再用这些文档来生成回答。 优点: 1.为LLM提供动态实时的信息。 2.因为将答案相关的文档聚集起来,所以可以减轻幻觉。 缺点: 1.在一些情况下,可能检索到完全不相关的数据,特别是在有噪声的数据时。 2.针对时间敏感型的问题,LLM可能优先采用自己的过时的数据,这与检索到的最新的数据相冲突。 二、Fine-Tuning 明天再更