大模型面试题最全总结，没有一道是送分题。。。

节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂同学、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。

今天分享大模型面试相关知识点，持续更新，希望对后续找工作的有所帮助。喜欢记得点赞、收藏、关注。更多技术交流&面经学习，可以文末加入我们交流群。

1. RAG技术体系的总体思路

数据预处理->分块（这一步骤很关键，有时候也决定了模型的效果）->文本向量化->query向量化->向量检索->重排->query+检索内容输入LLM->输出

2. 使用外挂知识库主要为了解决什么问题

  • 克服遗忘问题

  • 提升回答的准确性、权威性、时效性

  • 解决通用模型针对一些小众领域没有涉猎的问题

  • 提高可控性和可解释性，提高模型的可信度和安全性

3. 如何评价RAG项目效果的好坏

针对检索环节的评估：

  • MMR 平均倒排率：查询（或推荐请求）的排名倒数

  • Hits Rate 命中率：前k项中，包含正确信息的项的数目占比

  • NDCG

针对生成环节的评估：

  • 非量化：完整性、正确性、相关性

  • 量化：Rouge-L

4. 大模型的幻觉问题、复读机问题是什么

幻觉问题：即生成的内容是无意义的或不忠实于提供的源内容

复读机问题：重复生成某些话

5. 针对问题4，有没有什么解决办法

针对幻觉问题：引入外挂知识库，加入一些纠偏规则，限制输出长度等

针对复读机问题：

  • 丰富数据集的多样性，预处理时尽量过滤重复无意义的文本

  • 同义词替换等做数据增强

  • 温度参数调整

  • 后处理与过滤

6. 出现问题4的原因有哪些

7. 当前主流的开源大模型是哪个，其架构具体是怎样的？

当前开源影响范围最广，生态建设最好的开源大模型是Meta的LLaMA。其依旧采用Transformers架构，并做了如下改动：

  • 为了提高训练稳定性，对每个子层做输入前置归一化，归一化函数为RMSNorm（受GPT-3启发）

  • 为了提升性能，SwiGLU激活函数替换ReLU激活函数（受PaLM启发）

  • 从绝对位置嵌入，改为旋转嵌入（受GPT-neo启发）

  • 使用causal multi-head attention的一个高效实现来减少内存占用和运行时间

8. 有哪几种SFT方法

9. 什么是lora微调

12. 什么是LangChain

13. LangChain的常用模块有哪些？

14. SFT和RLHF优劣对比

在这里插入图片描述

15. 详细介绍一下RLHF

16. 大模型训练经常出现一些OOM问题，在现有硬件基础下，有什么性能提升trick

17. LLaMA模型输入句子理论上可以无限长吗？

18. 如何让大模型处理更长的文本？

19. 大模型推理时，显存中有那几部分数据？

20. 介绍下ChatGLM

21. 介绍下GLU激活函数和SwiGLU激活函数

22. LLaMA1/2的异同

23. 模型在训练和推理的时候各占用显存的多少？

24. 详细说说Deepspeed的机制

25. 什么是混合精度训练

26. 什么是prefix LLM和casual LLM

27. 说一说针对MHA后续的一些计算优化工作

28. 说说attention几种常见的计算方式

技术交流&资料

技术要学会分享、交流，不建议闭门造车。一个人可以走的很快、一堆人可以走的更远。

成立了大模型面试和技术交流群，相关资料、技术交流&答疑，均可加我们的交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友。

方式①、微信搜索公众号：机器学习社区，后台回复：加群
方式②、添加微信号：mlc2040，备注：来自CSDN + 技术交流

通俗易懂讲解大模型系列

  • 做大模型也有1年多了，聊聊这段时间的感悟！

  • 用通俗易懂的方式讲解：大模型算法工程师最全面试题汇总

  • 用通俗易懂的方式讲解：不要再苦苦寻觅了！AI 大模型面试指南（含答案）的最全总结来了！

  • 用通俗易懂的方式讲解：我的大模型岗位面试总结：共24家，9个offer

  • 用通俗易懂的方式讲解：大模型 RAG 在 LangChain 中的应用实战

  • 用通俗易懂的方式讲解：一文讲清大模型 RAG 技术全流程

  • 用通俗易懂的方式讲解：如何提升大模型 Agent 的能力?

  • 用通俗易懂的方式讲解：ChatGPT 开放的多模态的DALL-E 3功能，好玩到停不下来！

  • 用通俗易懂的方式讲解：基于扩散模型（Diffusion）,文生图 AnyText 的效果太棒了

  • 用通俗易懂的方式讲解：在 CPU 服务器上部署 ChatGLM3-6B 模型

  • 用通俗易懂的方式讲解：使用 LangChain 和大模型生成海报文案

  • 用通俗易懂的方式讲解：ChatGLM3-6B 部署指南

  • 用通俗易懂的方式讲解：使用 LangChain 封装自定义的 LLM，太棒了

  • 用通俗易懂的方式讲解：基于 Langchain 和 ChatChat 部署本地知识库问答系统

  • 用通俗易懂的方式讲解：在 Ubuntu 22 上安装 CUDA、Nvidia 显卡驱动、PyTorch等大模型基础环境

  • 用通俗易懂的方式讲解：Llama2 部署讲解及试用方式

  • 用通俗易懂的方式讲解：基于 LangChain 和 ChatGLM2 打造自有知识库问答系统

  • 用通俗易懂的方式讲解：一份保姆级的 Stable Diffusion 部署教程，开启你的炼丹之路

  • 用通俗易懂的方式讲解：对 embedding 模型进行微调，我的大模型召回效果提升了太多了

  • 用通俗易懂的方式讲解：LlamaIndex 官方发布高清大图，纵览高级 RAG技术

  • 用通俗易懂的方式讲解：为什么大模型 Advanced RAG 方法对于AI的未来至关重要？

  • 用通俗易懂的方式讲解：使用 LlamaIndex 和 Eleasticsearch 进行大模型 RAG 检索增强生成

  • 用通俗易懂的方式讲解：基于 Langchain 框架，利用 MongoDB 矢量搜索实现大模型 RAG 高级检索方法

  • 用通俗易懂的方式讲解：使用Llama-2、PgVector和LlamaIndex，构建大模型 RAG 全流程

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/756445.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

3月19日做题

3月19日做题

[NPUCTF2020]验证🐎 if (first && second && first.length second.length && first!second && md5(firstkeys[0]) md5(secondkeys[0]))用数组绕过first1&second[1] 这里正则规律过滤位(Math.) (?:Math(?:\.\w)?) : 匹配 …
阅读更多...
串口123

串口123

1.开启时钟 把需要使用的USART和GPIO的时钟打开 2.GPIO初始化 把TX配置成复用输出，RX配置成输入 3.配置USART 直接使用一个结构体即可将所有参数配置完成 4.开关控制 如果需要仅发送的功能，就直接开启USART，初始化到此结束 如果还需要接收…
阅读更多...
优化器算法SGD、Adam、AdamW等

优化器算法SGD、Adam、AdamW等

文章目录 SGDSGD with momentumSGD with Nesterov AccelerationAdaGradRMSpropAdaDeltaAdamAdamW参考资料 假设有： 待优化的目标函数为 f ( w ) f(w) f(w)，使用优化算法来最小化目标函数 f ( w ) : a r g m i n w f ( w ) f(w):argmin_wf(w) f(w):argmin…
阅读更多...
获取指定路径下，所有指定后缀文件列表

获取指定路径下，所有指定后缀文件列表

要获取指定路径下所有指定后缀的文件列表，你可以使用Python的os和glob模块。下面是一个简单的示例，展示了如何获取指定路径下所有.txt后缀的文件列表： import os import globdef get_files_with_extension(directory, extension):"&quo…
阅读更多...
vivado 布线、路线_设计

vivado 布线、路线_设计

路由 Vivado路由器对放置的设计执行路由，并对路由设计，以解决保留时间冲突。Vivado路由器从放置的设计开始，并尝试路由所有网络。它可以从已放置的未布线、部分布线或完全布线的设计。对于部分路由的设计，Vivado路由器使用现有的…
阅读更多...
Unittest框架及自动化测试实现流程

Unittest框架及自动化测试实现流程

🍅 视频学习：文末有免费的配套视频可观看 🍅 点击文末小卡片，免费获取软件测试全套资料，资料在手，涨薪更快 Unittest框架介绍 Unittest框架是Python中一个标准的库中的一个模块，该模块包括许多…
阅读更多...
红与黑(c++题解)

红与黑(c++题解)

题目描述 有一间长方形的房子，地上铺了红色、黑色两种颜色的正方形瓷砖。你站在其中一块黑色的瓷砖上，只能向相邻的黑色瓷砖移动。请写一个程序，计算你总共能够到达多少块黑色的瓷砖。 输入格式 包括多个数据集合。每个数据集合的第一行是…
阅读更多...
【Mysql】面试题汇总

【Mysql】面试题汇总

1. 存储引擎 1-1. MySQL 支持哪些存储引擎？默认使用哪个？ 答： MySQL 支持的存储引擎包括 InnoDB、MyISAM、Memory 等。 Mysql 5.5 之前默认的是MyISAM，Mysql 5.5 之后默认的是InnoDB。 可以通过 show engines 查看 Mysql 支持…
阅读更多...
外包2月，技术退步惊现！大专生逆袭大厂，全靠这份神秘资料！

外包2月，技术退步惊现！大专生逆袭大厂，全靠这份神秘资料！

大家好，我是一名大专生，19年通过校招进入湖南某软件公司，从事功能测试工作已近4年。今年8月，我意识到长期舒适的环境让我变得不思进取，技术停滞不前，甚至因此失去了谈了2年的女朋友。我下定决心&#xff0c…
阅读更多...
金蝶云星空——插件dll重新发布报错：鏃犳硶鏄剧ず椤甸潰锛屽洜涓哄彂鐢熷唴閮ㄦ湇鍔″櫒閿欒銆�

金蝶云星空——插件dll重新发布报错：鏃犳硶鏄剧ず椤甸潰锛屽洜涓哄彂鐢熷唴閮ㄦ湇鍔″櫒閿欒銆�

项目场景： 金蝶插件开发 问题描述 今天更新了插件dll然后重启IIS金蝶就报如下错误： 解决方案： 折腾了一天结果发现是给自己挖坑了，这次更新我担心插件代码有问题就把原dll重命名了然后把最新dll更新到金蝶bin文件中&#xff0c…
阅读更多...
vue实现双向绑定原理深度解析

vue实现双向绑定原理深度解析

1. vue双向绑定应用场景 Vue的双向绑定机制主要体现在以下几个方面： 表单输入：在表单输入中，Vue的双向绑定机制非常有用。通过v-model指令，可以将表单元素的值与Vue实例中的数据进行双向绑定，当用户在表单输入框中输入内容时，数据会自动更新，反之，当数据发生变化时，输…
阅读更多...
【DBC专题】-11-使用Cantools将CAN/CANFD DBC自动生成C语言代码

【DBC专题】-11-使用Cantools将CAN/CANFD DBC自动生成C语言代码

目录 1 安装Python和Cantools 1.1 查看Python已安装的Package包 1.2 在Python中安装Cantools插件包 1.3 获取更多Cantools工具的更新动态 2 经典CAN/CANFD DBC自动生成C语言代码 2.1 批处理文件CAN_DBC_To_C.bat内容说明 2.2 经典CAN/CANFD DBC文件要求 2.3 如何使用生…
阅读更多...
网站引用图片但它域名被墙了或者它有防盗链，我们想引用但又不能显示，本文附详细的解决方案非常简单！

网站引用图片但它域名被墙了或者它有防盗链，我们想引用但又不能显示，本文附详细的解决方案非常简单！

最好的办法就是直接读取图片文件&#xff0c;用到php中一个常用的函数file_get_contents(图片地址)&#xff0c;意思是读取远程的一张图片&#xff0c;在输出就完事。非常简单&#xff5e;话不多说&#xff0c;直接上代码 <?php header("Content-type: image/jpeg&quo…
阅读更多...
clipboard好用的复制剪切库

clipboard好用的复制剪切库

clipboard是现代复制到剪贴板的工具&#xff0c;其 gzip 压缩后只有 3kb&#xff0c;能够减少选择文本的重复操作&#xff0c;点击按钮就可以复制指定内容&#xff0c;支持原生HTMLjs&#xff0c;vue3和vue2。使用方法参照官方文档&#xff0c;so easy&#xff01;&#xff01;…
阅读更多...
装X神器，装X图片生成器，高富帅模拟器

装X神器，装X图片生成器，高富帅模拟器

先展示两张效果 基金装X图 短信存款图 神器功能展示 总共有12大类可供用户选择 还有一些美感的&#xff1a; 总结 总之种类非常多&#xff0c;有了这个神器你懂的&#xff5e; 关注下方公众号&#xff0c;回复【zzsq】即可获取。
阅读更多...
YS/T 429.2-2012 有机聚合物喷涂幕墙铝单板检测

YS/T 429.2-2012 有机聚合物喷涂幕墙铝单板检测

有机聚合物喷涂幕墙铝单板是指以氟碳漆或粉末做表面涂层的幕墙用铝及铝合金单层形成的铝单板。 YS/T 429.2-2012有机聚合物喷涂幕墙铝单板检测项目&#xff1a; 测试项目 测试方法 力学性能 GB/T 16865 尺寸偏差 GB/T 3880.3 光泽 GB 5237 颜色和色差 GB 5237 厚度 …
阅读更多...
2、鸿蒙学习-申请调试证书和调试Profile文件

2、鸿蒙学习-申请调试证书和调试Profile文件

申请发布证书 发布证书由AGC颁发的、为HarmonyOS应用配置签名信息的数字证书&#xff0c;可保障软件代码完整性和发布者身份真实性。证书格式为.cer&#xff0c;包含公钥、证书指纹等信息。 说明 请确保您的开发者帐号已实名认证。每个帐号最多申请1个发布证书。 1、登录AppGa…
阅读更多...
Linux软件管理（1）

Linux软件管理（1）

软件管理 下载 wget Linux wget是一个下载文件的工具&#xff0c;它用在命令行下。 wget工具体积小但功能完善&#xff0c;它支持断点下载功能&#xff0c;同时支持FTP和HTTP下载方式&#xff0c;支持代理服务器和设置起来方便简单。 1.语法 wget [选项]……[URL]…… 2、…
阅读更多...
阅读基础知识1

阅读基础知识1

一 网络 1. 三次握手四次挥手 三次握手&#xff1a;为了建立长链接进行交互即建立一个会话&#xff0c;使用 http/https 协议 ① 客户端产生初始化序列号 Seqx &#xff0c;向服务端发送建立连接的请求报文&#xff0c;将 SYN1 同步序列号&#xff1b; ② 服务端接收建立连接…
阅读更多...
5.1.4、【AI技术新纪元：Spring AI解码】Amazon Bedrock

5.1.4、【AI技术新纪元：Spring AI解码】Amazon Bedrock

Amazon Bedrock是一个托管服务，通过统一的 API 提供来自各种 AI 提供商的基础模型。 Spring AI 通过实现 Spring 接口 ChatClient、StreamingChatClient 和 EmbeddingClient 来支持所有通过Amazon Bedrock可用的聊天和嵌入式 AI 模型。 此外，Spring AI 为所有客户端提供了 …
阅读更多...
最新文章

Copyright @ 2022~2023