大模型关键技术

• • 大模型综述
  • 上下文学习
  • 思维链 CoT
  • 奖励建模
  • 参数微调
  • 并行训练
  • 模型加速
  • 永久记忆：大模型遗忘
  • LangChain
  • 知识图谱
  • 多模态
  • 大模型系统优化
  • AI 绘图
  • 幻觉问题
  • 从 GPT1 - GPT4 拆解
  • • GPTs
  • 对比主流大模型技术点
  • • 旋转位置编码
    • 层归一化
    • 激活函数
    • 注意力机制优化

 

---

大模型综述

你知道嘛，那个叫大规模语言模型，简单说就像是个超级大的脑袋，里头装的东西比咱们想的还要多，参数得有几百亿那么多。

这玩意儿就像是自学成才的，它通过看特别多的书、文章啥的，不需要别人教，自己就能学会说话和写字。

它的工作就像是个算命先生，总想算出来你下一句话可能会说什么。

比如有一堆词儿，它能算出这些词连一块儿说出来的可能性有多大。

就好像你掷个骰子，算命先生能告诉你可能掷出的点数一样。

要算这些词的联合可能性可不简单，因为要考虑的东西实在太多了。

就好比咱们手头有个《现代汉语词典》，里面有7万多个词。

你想，要是咱们随便组个20个词的句子，那可能的组合比天上的星星还多，数量大得惊人，高达 7.9792x1096 这么个天文数字。

要简化这个算法，咱们可以这么想：一个词出现的可能性，可能就跟前头几个词有关系。

就像咱们盖房子，一块砖接着一块砖，后面这块砖放的位置，得看前面几块砖放哪儿。

用一种叫前馈神经网络的方法，就能算出来每个词跟前面的词搭配的可能性。

例如，要算“把努力变成一种习惯”这句话的可能性，就是算“把”出现的可能，再算“努力”跟在“把”后面的可能，依此类推。

• $\begin{array}{rl}P(\text{把 努力 变成 一种 习惯})=& P(\text{把})\times P(\text{努力|把})\times P(\text{变成|把 努力})\times \\ & P(\text{一种}|\text{把 努力 变成})\times P(\text{习惯}|\text{把 努力 变成 一种})\end{array}$

恩，这就是大语言模型，就像是个自学成材的超级计算机，它能通过看大量的书和文章，自己学会怎么用词造句。

这模型的本事就是算出来你下句话可能说啥，就像个现代算命先生。

但因为要考虑的可能性太多，就像是从词典里随便拼凑出天文数字那么多的句子一样，所以得用一些巧妙的方法来简化计算。

这就像盖房子，一块砖一个脚印，后面的得看前面的摆放。

用这个方法，这大脑袋计算机就能算出一个词跟它前面的词搭配的可能性，帮我们更好地理解和用语言。
 

---

上下文学习

和以前不同的地方在于，他不仅仅是学习单纯的词和句子，还学会了词和词之间的关系。

你想啊，一个词在不同的句子里，意思可能完全不一样，就像“苹果”在“打开苹果电脑”和“我想吃苹果”里的意思就不一样。

这大模型得学会这些变化，才能真正明白咱们说的话。

之所以有今天，都是因为他们发现了一本秘籍。

前置：《【史上最本质】序列模型：RNN、双向 RNN、LSTM、GRU、Seq-to-Seq、束搜索、Transformer、Bert》

秘籍：《从【注意力机制】开始，到【Transformer】的零基础【大模型】系列》。

 

---

思维链 CoT

思维链 CoT

 

---

奖励建模

【挑战全网最易懂】深度强化学习 — 零基础指南

大模型 RLHF 实战！【OpenAI独家绝技RLHF！RLHF的替代算法DPO！Claude 暗黑科技 RAIHF！】

 

---

参数微调

大模型微调方法：冻结方法 Freeze、P-Tuning 系列、LoRA、QLoRA

 

---

并行训练

大模型并行训练、超大模型分布式训练

 

---

模型加速

【所有方法一览】大模型推理优化：在更小的设备运行、推理增速

 

---

永久记忆：大模型遗忘

大部分方法都是临时修补，帮助那些大型计算机（LLM）临时记住些东西。

但MemGPT，能让大模型能永远记住东西！

• https://github.com/cpacker/MemGPT#loading-local-files-into-archival-memory

他们搞了个叫虚拟上下文管理的玩意儿，灵感是从电脑操作系统里那一层层的记忆体系里来的。

就好像是给计算机装了个超级大的储物间，让它能记住更多的东西。

这个MemGPT就像是一个聪明的仓库管理员，懂得怎么在快速记忆（内存）和慢速记忆（硬盘）之间转移东西。

就好像有些东西经常用，就放在手边，不常用的就放远点。

这样，计算机就能在有限的记忆空间里，更聪明地处理大量的信息。

而且，它还会自己决定啥时候跟用户聊天，啥时候专心处理信息。
 

---

LangChain

【解决复杂链式任务，打造全能助手】LangChain 大模型 打造 钢铁侠的全能助理 Jarvis

 

---

知识图谱

统一大语言模型和知识图谱：如何解决医学大模型-问诊不充分、检查不准确、诊断不完整、治疗方案不全面？

 

---

多模态

ViT：视觉 Transformer

Swin Transformer：将卷积网络和 Transformer 结合

CLIP 对比预训练 + 文字图像相似度：离奇调查，如何训练视觉大模型？

 

---

大模型系统优化

【附带大模型训练数据】大模型系统优化：怎么计算模型所需的算力、内存带宽、内存容量和通信数据量？

 

---

AI 绘图

【史上最小白】变分自编码器 VAE：从降维本质，到自编码器，再到变分自编码器

Diffusion 扩散模型：论生成领先多样性，GAN太单一；论尊贵清晰度独占鳌头，VAE常失真

DALL-E 系列：AI绘画背后的惊人真相！！【1个离奇内幕、3个意想不到、5大秘密揭示】
 

---

幻觉问题

如何解决大模型的「幻觉」问题？

 

---

从 GPT1 - GPT4 拆解

从 GPT1 - GPT4 拆解

 

---

GPTs

 

---

对比主流大模型技术点

当前绝大多数大语言模型结构都采用了类似GPT架构，使用基于Transformer架构构造的仅由解码器组成的网络结构，采用自回归的方式构建语言模型。

但是在位置编码、层归一化位置以及激活函数等细节上各有不同。

旋转位置编码

如何提高大模型的外推能力

层归一化

激活函数

注意力机制优化

 

---