C语言详解（动态内存管理）2

Hi~！这里是奋斗的小羊，很荣幸您能阅读我的文章，诚请评论指点，欢迎欢迎 ~~
💥💥个人主页：奋斗的小羊
💥💥所属专栏：C语言

🚀本系列文章为个人学习笔记，在这里撰写成文一为巩固知识，二为展示我的学习过程及理解。文笔、排版拙劣，望见谅。

目录

  • 前言
  • 1、常见动态内存错误
      • 1.1 对NULL指针的解引用操作
      • 1.2 对动态内存空间的越界访问
      • 1.3 对非动态开辟内存使用free释放
      • 1.4 使用free释放动态内存的一部分
      • 1.5 对同一快动态内存多次释放
      • 1.6 动态开辟内存忘记释放（内存泄漏）
  • 2、动态内存经典笔试题分析
      • 2.1 题目一
      • 2.2 题目二
      • 2.3 题目三
      • 2.4 题目四
  • 3、柔性数组
      • 3.1 什么是柔性数组
      • 3.2 柔性数组的特点
      • 3.3 柔性数组的使用
      • 3.4 柔性数组的优势
  • 总结

前言

总的来说，动态内存管理为我们提供了更加灵活、高效和可扩展的内存管理方式，但动态内存管理函数可能会带来一些风险，主要包括内存泄漏、内存溢出和野指针等问题，我们在使用动态内存管理函数时要多留心，避免风险的出现

1、常见动态内存错误

1.1 对NULL指针的解引用操作

如果我们写的代码不严谨，没有考虑到动态内存分配失败的可能，就会写出类似于下面的代码：

#include <stdio.h>
#include <stdlib.h>int main()
{int* p = (int*)malloc(10 * sizeof(int));//直接使用指针pint i = 0;for (i = 0; i < 10; i++){p[i] = i + 1;}return 0;
}

这样的代码可能并没有什么问题，但是存在很大的隐患，因为动态内存函数是有可能开辟内存空间失败的，当开辟失败时会返回NULL，而NULL指针是不能解引用的
像VS这样比较强大的编译器会立马检测到并提示你
在这里插入图片描述

为了避免这种错误，我们需要对指针p进行判断，再决定是否使用

#include <stdio.h>
#include <stdlib.h>int main()
{int* p = (int*)malloc(10 * sizeof(int));//判断p是否为空指针if (p == NULL){//打印出错误信息perror("malloc");//终止程序return 1;}int i = 0;for (i = 0; i < 10; i++){p[i] = i + 1;}return 0;
}

1.2 对动态内存空间的越界访问

我们用动态内存函数开辟多大的空间，我们就使用多大的空间，不能越界访问，例如：

#include <stdio.h>
#include <stdlib.h>int main()
{int* p = (int*)malloc(10 * sizeof(int));//判断p是否为空指针if (p == NULL){//打印出错误信息perror("malloc");//终止程序return 1;}int i = 0;//p+1跳过1个整型，p+10就会越界for (i = 0; i <= 10; i++){p[i] = i + 1;}return 0;
}

聪明的VS也会检测出错误提示你
在这里插入图片描述

1.3 对非动态开辟内存使用free释放

free函数是用来释放由动态内存函数开辟的空间的，不能释放普通内存

#include <stdio.h>
#include <stdlib.h>int main()
{int arr[10] = { 0 };int* p = arr;free(p);p = NULL;return 0;
}

当我们运行起来后就出问题了
在这里插入图片描述

1.4 使用free释放动态内存的一部分

上面我们用malloc函数申请了10个整型空间，然后通过for循环给这10个整型空间内放1~10的整数，有些同学可能会为了方便这样写代码：

#include <stdio.h>
#include <stdlib.h>int main()
{int* p = (int*)malloc(10 * sizeof(int));//判断p是否为空指针if (p == NULL){//打印出错误信息perror("malloc");//终止程序return 1;}//给申请的动态空间内存1~10int i = 0;for (i = 0; i < 5; i++){*p++ = i;}//释放动态内存空间free(p);p = NULL；return 0;
}

当我们运行起来才发现写出了BUG
在这里插入图片描述
这又是为什么呢？
事实上此时free(p)中的p指针已经不再指向malloc开辟的动态内存的起始地址了，因为*p++这里对p的指向不断递增

free操作的指针必须指向要被释放的动态内存的起始地址

1.5 对同一快动态内存多次释放

当我们用完一块动态内存空间后不再使用对其释放后，可能会因为忘记而重复释放一次，并且如果第一次释放时忘记给p指针赋NULL，那么程序就会出错

	//使用...//释放动态空间free(p);//...free(p);p = NULL;return 0;

但是如果我们两次释放时都给p指针赋了NULL，那基本不会发生什么事，相当于没有错，只是逻辑上讲不通
所以，在我们用free释放完动态内存空间后，紧跟着对指针赋NULL是很有必要的

1.6 动态开辟内存忘记释放（内存泄漏）

动态开辟的空间一定要释放，并且正确释放

当我们写代码的时候，存在这样一种可能会出现的错误，那就是动态开辟的内存忘记释放或者因为某些原因还没有到free语句就提前终止代码，这里举个简单的例子

#include <stdio.h>
#include <stdlib.h>void text()
{int flag = 1;int* p = (int*)malloc(100);if (p == NULL){return 1;}//使用//因为某些原因函数提前返回了if (flag == 1){return;}//free函数free(p);p = NULL;
}int main()
{//自定义函数text();//后面还有大量代码//....return 0;
}

虽然我们确实用了free函数释放空间，但是当代码量较大时可能会因为某些原因还没到free函数就提前终止了，而我们还没意识到，就算后面我们意识到了这个问题这块内存我们也找不到了
只有整个程序结束后这块内存才能被释放，如果程序一直不结束这块空间就再也找不到了，这就叫内存泄漏

所以，就算动态内存申请使用后用了free，也是有可能犯内存泄漏的错误，我们要多加小心

内存泄漏是比较可怕的，尤其是某些24小时不断运行的服务器程序，如果存在内存泄漏，内存被耗干也只是时间的问题

2、动态内存经典笔试题分析

2.1 题目一

请问运行下面 text函数会有什么后果？

#include <stdio.h>
#include <stdlib.h>
#include <string.h>void get_memory(char* p)
{p = (char*)malloc(100);
}void text(void)
{char* str = NULL;get_memory(str);strcpy(str, "hello world");printf(str);
}int main()
{text();return 0;
}

上面的代码一共有两个问题
第一个问题：malloc申请动态内存空间后没有使用free函数释放，这可能会导致内存泄漏

#include <stdio.h>
#include <stdlib.h>
#include <string.h>void get_memory(char* p)
{p = (char*)malloc(100);
}void text(void)
{char* str = NULL;get_memory(str);strcpy(str, "hello world");printf(str);free(str);str = NULL;
}int main()
{text();return 0;
}

第二个问题： 函数传参传值调用和传址调用使用错误

这个代码的意思是申请一块动态内存空间地址交给指针p，通过指针p再交给指针str，再使用strcpy函数将字符串拷贝到动态内存空间内，最后打印出字符串
但是get_memory函数传参的时候使用的是传值调用，所以指针p跟指针str没有关系

有两种纠错方法
方法一： 将传值调用改为传址调用，此时p为二级指针

#include <stdio.h>
#include <stdlib.h>
#include <string.h>void get_memory(char** p)
{*p = (char*)malloc(100);
}void text(void)
{char* str = NULL;get_memory(&str);strcpy(str, "hello world");printf(str);free(str);str = NULL;
}int main()
{text();return 0;
}

在这里插入图片描述

方法二： 直接返回指针p的地址，不需要传参

char* get_memory()
{char* p = (char*)malloc(100);return p;
}void text(void)
{char* str = NULL;str = get_memory();strcpy(str, "hello world");printf(str);free(str);str = NULL;
}int main()
{text();return 0;
}

在这里插入图片描述

2.2 题目二

请问运行下面 text函数会有什么后果？

#include <stdio.h>
#include <stdlib.h>
#include <string.h>char* get_memory(void)
{char p[] = "hello world";return p;
}void text(void)
{char* str = NULL;str = get_memory();printf(str);
}int main()
{text();return 0;
}

上面的代码是一个非常经典的例子，之前在C语言（指针）3中野指针一小节介绍过类似的例子

上面代码的问题：
我们在自定义函数get_memory中创建了一个局部临时数组存入字符串“hello world”，再将字符串的首地址返回用指针str接收，虽然此时指针str确实指向字符串“hello world”的首地址，但是此时str是没有权限访问这块空间的

因为在局部数组p在出了get_memory函数后就销毁了，它申请的空间会被收回，即使指针str能找到这块空间，但是它已经没有权限使用了，此时str就是一个野指针

在这里插入图片描述

所以我们应该避免返回栈空间地址

想要改正上面的代码也很简单，我们申请一块动态内存就行，同时也别忘了释放

#include <stdio.h>
#include <stdlib.h>
#include <string.h>char* get_memory(void)
{char* p = (char*)malloc(20);strcpy(p, "hello world");return p;
}void text(void)
{char* str = NULL;str = get_memory();printf(str);free(str);str = NULL;
}int main()
{text();return 0;
}

2.3 题目三

请问运行下面 text函数会有什么后果？

#include <stdio.h>
#include <stdlib.h>
#include <string.h>void get_memory(char** p, size_t num)
{*p = (char*)malloc(num);
}void test(void)
{char* str = NULL;get_memory(&str, 100);strcpy(str, "hello world");printf(str);
}int main()
{test();return 0;
}

上面的代码是可以打印出“hello world”的，但是遗憾的是上面的代码中使用了动态内存函数malloc，但是没有使用free函数释放动态内存空间
虽然上面的代码可以实现我们想要的效果，但这样的代码是存在安全隐患的

动态内存开辟函数malloc、calloc、realloc和动态内存释放函数free必须成对出现

#include <stdio.h>
#include <stdlib.h>
#include <string.h>void get_memory(char** p, size_t num)
{*p = (char*)malloc(num);
}void test(void)
{char* str = NULL;get_memory(&str, 100);strcpy(str, "hello");printf(str);free(str);str = NULL;
}int main()
{test();return 0;
}

2.4 题目四

请问运行下面 text函数会有什么后果？

#include <stdio.h>
#include <stdlib.h>
#include <string.h>void test(void)
{char* str = (char*)malloc(100);strcpy(str, "hello");free(str);if (str != NULL){strcpy(str, "world");printf(str);}
}int main()
{test();return 0;
}

使用malloc函数申请一块100个字节大小的动态内存空间放入字符串“hello”，然后使用free函数释放这一动态内存空间
但是此时指针str中还存着我们开辟的动态内存空间的地址，正确的写法free函数后应紧跟str = NULL;，但是上面的代码并没有这一条语句
当if语句判断的时候指针str确实是不为空指针的，进入if语句后执行strcpy(str, "world");这条代码，根据我们对strcpy函数的了解，这里还要对指针str解引用，但是指针str我们之前已经用free函数释放过了，并且没有赋NULL，所以str此时是野指针不能解引用，运行起来程序就会出错
在这里插入图片描述

这道题考察的还是free函数后紧跟p = NULL的问题

3、柔性数组

3.1 什么是柔性数组

C99中，结构体中的最后一个成员允许是未知大小的数组，这就叫柔性数组成员

  • 在结构体中
  • 最后一个成员
  • 未知大小的数组
struct S1
{int n;char c;double d;int arr[];//未知大小的数组
};

struct S2
{int n;char c;double d;int arr[0];//未知大小的数组
};

上面两种写法中arr都是柔性数组成员
有些编译器可能只支持其中的一种写法，VS中两种写法都支持

3.2 柔性数组的特点

  • 结构中的柔性数组成员前面必须至少有一个其他成员
  • sizeof返回的这种结构大小不包含柔性数组的内存
  • 包含柔性数组成员的结构用malloc函数进行内存的动态分配，并且分配的内存应该大于结构的大小，以适应柔性数组的预期大小

在这里插入图片描述

正是因为sizeof返回的这种结构大小不包含柔性数组的内存，所以结构中的柔性数组成员前面必须至少有一个其他成员，否则结构体的大小没法计算

3.3 柔性数组的使用

包含柔性数组的结构怎么使用呢？
包含柔性数组的结构创建变量不会像一般结构那样创建，而是使用malloc函数进行内存的动态分配

#include <stdio.h>
#include <stdlib.h>struct S
{int n;int arr[];
};int main()
{struct S* ps = (struct S*)malloc(sizeof(struct S) + 20 * sizeof(int));if (ps == NULL){perror("malloc");//终止程序return;}//使用空间ps->n = 100;int i = 0;for (i = 0; i < 20; i++){ps->arr[i] = i + 1;}//...free(ps);ps = NULL;return 0;
}

在这里插入图片描述

柔性数组的柔性怎么体现呢？
因为上面包含柔性数组的结构是由malloc函数进行内存的动态分配，所以我们可以使用realloc函数进行动态内存的调整，那这个数组的大小就可大可小

#include <stdio.h>
#include <stdlib.h>struct S
{int n;int arr[];
};int main()
{struct S* ps = (struct S*)malloc(sizeof(struct S) + 20 * sizeof(int));if (ps == NULL){perror("malloc");//终止程序return 1;}//使用空间ps->n = 100;int i = 0;for (i = 0; i < 20; i++){ps->arr[i] = i + 1;}//调整ps指向的空间大小struct S* ptr = (struct S*)realloc(ps, sizeof(struct S) + 40 * sizeof(int));//进行指针的非空判断，保护原地址if (ptr != NULL){ps = ptr;//防止ptr变成野指针ptr = NULL;}else{perror("realloc");//终止程序return 1;}for (i = 0; i < 40; i++){printf("%d ", ps->arr[i]);}//...free(ps);ps = NULL;return 0;
}

在这里插入图片描述

如果不使用柔性数组，还有一种办法能实现上面的效果

#include <stdio.h>
#include <stdlib.h>struct S
{int n;int* arr;
};int main()
{struct S* ps = (struct S*)malloc(sizeof(struct S));if (ps == NULL){perror("malloc");return 1;}int* tmp = (int*)malloc(20 * sizeof(int));if (tmp == NULL){perror("malloc");return 1;}else{ps->arr = tmp;tmp = NULL;}ps->n = 100;int i = 0;//给指针arr指向的20个整型空间赋值for (i = 0; i < 20; i++){ps->arr[i] = i + 1;}//调整指针arr指向的空间大小tmp = (int*)realloc(ps->arr, 40 * sizeof(int));if (tmp != NULL){ps->arr = tmp;tmp = NULL;}else{perror("realloc");return 1;}for (i = 0; i < 40; i++){printf("%d ", ps->arr[i]);}//...free(ps->arr);ps->arr = NULL;free(ps);ps = NULL;return 0;
}

在这里插入图片描述

结构struct S中有一个指针成员，我们的想法是用malloc函数申请一块动态内存空间，再让结构中的这个指针指向这块动态分配的内存，然后这块由指针指向的动态内存空间就可以用realloc函数进行大小的调整了
可以看到这样实现的效果和柔性数组相似，那柔性数组为什么还要存在呢？
其实相比之下柔性数组还是有它的优势的

3.4 柔性数组的优势

  • 方便内存释放

如果我们的代码是在一个给别人用的函数中，你在里面做了两次内存分配，并把整个结构体返回给用户，用户调佣free可以释放结构体，但是用户并不知道这个结构体内的成员也需要free，所以你不能指望用户来发现这个事
所以，如果我们把结构体的内存以及其成员要的内存一次性分配好了，并返回给用户一个结构体指针，用户做一次free就可以把所有的内存释放

  • 这样有利于访问速度

连续的内存有利于提高访问速度，也有利于减少内存碎片
因为malloc等动态内存函数在申请空间时会在堆区允许的地方申请一块连续的空间，但是动态内存函数申请的多个动态内存空间之间并不是连续的，这些空间之间就形成了内存碎片

总结

  • 动态内存管理是一把双刃剑，它能给我们提供灵活的内存管理方式，但同样也会带来风险
  • 检查动态内存分配是否成功：在使用动态内存管理函数时，应该检查分配内存是否成功，以确保程序正常运行，这是比较容易忽略的点

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/pingmian/24796.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

配网终端通讯管理板，稳控装置通讯管理卡，铁路信号通讯管理卡

配网终端通讯管理板，稳控装置通讯管理卡，铁路信号通讯管理卡

配网终端通讯管理板 ● 配网终端通讯管理板 ● ARM Cortex™-A5 &#xff0c;533MHz ● 256MB RAM&#xff0c;512MB FLASH 配网终端通讯管理板 ARM Cortex™-A5 &#xff0c;533MHz 256MB RAM&#xff0c;512MB FLASH 2x10/100/1000Mbps LAN&#xff08;RJ45&#xff09; 6x…
阅读更多...
Redis 内存回收

Redis 内存回收

文章目录 1. 过期key处理1.1 惰性删除1.2 周期删除 2. 内存淘汰策略 Redis 中数据过期策略采用定期删除惰性删除策略结合起来&#xff0c;以及采用淘汰策略来兜底。 定期删除策略&#xff1a;Redis 启用一个定时器定时监视所有的 key&#xff0c;判断key是否过期&#xff0c;过…
阅读更多...
Linux安装Qt5.14.2

Linux安装Qt5.14.2

下载 qt 5.14.2下载网址 下载qt-opensource-linux-x64-5.14.2.run Linux系统下载.run文件&#xff08;runfile文件&#xff09;&#xff0c;windows系统下载.exe文件&#xff0c;mac系统下载.dmg文件。 md5sums.txt中是各个文件对应的MD5校验码。 验证MD5校验码 md5sum是li…
阅读更多...
Elasticsearch之深入聚合查询

Elasticsearch之深入聚合查询

1、正排索引 1.1 正排索引&#xff08;doc values &#xff09;和倒排索引 概念&#xff1a;从广义来说&#xff0c;doc values 本质上是一个序列化的 列式存储 。列式存储 适用于聚合、排序、脚本等操作&#xff0c;所有的数字、地理坐标、日期、IP 和不分词&#xff08; no…
阅读更多...
指针（初阶1）

指针（初阶1）

一.指针是什么 通俗的讲&#xff0c;指针就是地址&#xff0c;其存在的意义就像宾馆房间的序号一样是为了更好的管理空间。 如下图&#xff1a; 如上图所示&#xff0c;指针就是指向内存中的一块空间&#xff0c;也就相当于地址 二.一个指针的大小是多少 之前我们学习过&#x…
阅读更多...
数据结构之ArrayList与顺序表（下）

数据结构之ArrayList与顺序表（下）

找往期文章包括但不限于本期文章中不懂的知识点&#xff1a; 个人主页&#xff1a;我要学编程(ಥ_ಥ)-CSDN博客 所属专栏&#xff1a;数据结构&#xff08;Java版&#xff09; 目录 ArrayList的具体使用 118. 杨辉三角 扑克洗牌算法 接上篇&#xff1a;数据结构之ArrayLis…
阅读更多...
【Python列表解锁】：掌握序列精髓，驾驭动态数据集合

【Python列表解锁】：掌握序列精髓，驾驭动态数据集合

文章目录 &#x1f680;一、列表&#x1f308;二、常规操作&#x1f4a5;增&#x1f4a5;删&#x1f4a5;改&#x1f4a5;查 ⭐三、补充操作 &#x1f680;一、列表 列表是一个能够存储多个同一或不同元素的序列 列表&#xff1a;list ---- [] 列表属于序列类型&#xff08;容器…
阅读更多...
【Java面试】十二、Kafka相关

【Java面试】十二、Kafka相关

文章目录 1、Kafka如何保证消息不丢失1.1 生产者发消息到Brocker丢失&#xff1a;设置异步发送1.2 消息在Broker存储时丢失&#xff1a;发送确认机制1.3 消费者从Brocker接收消息丢失1.4 同步 异步组合提交偏移量 2、Kafka如何保证消费的顺序性3、Kafka高可用机制3.1 集群模式…
阅读更多...
深度搜索算法2（c++）

深度搜索算法2（c++）

红与黑 题目描述 有一间长方形的房子&#xff0c;地上铺了红色、黑色两种颜色的正方形瓷砖。你站在其中一块黑色的瓷砖上&#xff0c;只能向相邻的黑 色瓷砖移动。请写一个程序&#xff0c;计算你总共能够到达多少块黑色的瓷砖。 输入 包括多组数据。每组数据的第一行是两个…
阅读更多...
Vue.js ECharts使用

Vue.js ECharts使用

一、介绍 ECharts 是一个使用 JavaScript 实现的开源可视化库&#xff0c;涵盖各行业图表&#xff0c;满足各种需求。ECharts 提供了丰富的图表类型和交互能力&#xff0c;使用户能够通过简单的配置生成各种各样的图表&#xff0c;包括但不限于折线图、柱状图、散点图、饼图、雷…
阅读更多...
02Linux文件，目录，过滤，管道常用命令

02Linux文件，目录，过滤，管道常用命令

Linux基础概述 Linux基础目录 Linux没有盘符这个概念, 只有一个顶级根目录 /, 所有文件都在它下面 在Windows系统中路径之间的层级关系使用/来表示在Linux系统中路径之间的层级关系使用/来表示,出现在开头的/表示根目录, /home/a.txt表示根目录下的home文件夹内有a.txt文件 …
阅读更多...
微服务开发与实战Day03

微服务开发与实战Day03

一、导入黑马商城项目 资料文档&#xff1a;Docs 1. 安装MySQL ①删除root目录下的mysql rm -rf mysql/ ②把课前资料里的mysql目录上传到root目录下 ③创建一个通用网络 docker network create hm-net ④使用下面的命令安装MySQL docker run -d \--name mysql \-p 330…
阅读更多...
C++ OpenCV 图像分类魔法：探索神奇的模型与代码

C++ OpenCV 图像分类魔法：探索神奇的模型与代码

⭐️我叫忆_恒心&#xff0c;一名喜欢书写博客的研究生&#x1f468;‍&#x1f393;。 如果觉得本文能帮到您&#xff0c;麻烦点个赞&#x1f44d;呗&#xff01; 近期会不断在专栏里进行更新讲解博客~~~ 有什么问题的小伙伴 欢迎留言提问欧&#xff0c;喜欢的小伙伴给个三连支…
阅读更多...
TensorFlow2.x基础与mnist手写数字识别示例

TensorFlow2.x基础与mnist手写数字识别示例

文章目录 Github官网文档Playground安装声明张量常量变量 张量计算张量数据类型转换张量数据维度转换ReLU 函数Softmax 函数卷积神经网络训练模型测试模型数据集保存目录显示每层网络的结果 TensorFlow 是一个开源的深度学习框架&#xff0c;由 Google Brain 团队开发和维护。它…
阅读更多...
IP纯净度是什么，对用户有多么重要？

IP纯净度是什么，对用户有多么重要？

在网络应用和数据采集等领域&#xff0c;代理IP被广泛使用&#xff0c;而代理IP的纯净度则直接影响其性能和可用性。代理IP的纯净度主要涉及到代理IP在网络传输过程中的稳定性、匿名性和安全性。今天就带大家一起了解代理IP纯净度对用户的重要性。 第一&#xff0c;保护用户的隐…
阅读更多...
Android Ble低功耗蓝牙开发

Android Ble低功耗蓝牙开发

一、新建项目 在Android Studio中新建一个项目&#xff0c;如下图所示&#xff1a; 选择No Activity&#xff0c;然后点击Next 点击Finish&#xff0c;完成项目创建。 1、配置build.gradle 在android{}闭包中添加viewBinding&#xff0c;用于获取控件 buildFeatures {viewB…
阅读更多...
Flutter基础 -- Flutter容器布局

Flutter基础 -- Flutter容器布局

目录 1. MaterialApp 1.1 组件定义 1.2 主要功能和属性 1.3 示例 2. 脚手架 Scaffold 2.1 定义 2.2 Scaffold 的属性 2.3 示例 PS: 对于 Scaffold 和 MaterialApp 3. 线性布局 Column Row 3.1 Row 3.2 Column 4. 盒模型 Box Model 4.1 定义 4.2 示例 5. 容器 C…
阅读更多...
数据结构及研究

数据结构及研究

**数据结构是计算机存储、组织数据的方式&#xff0c;它是相互之间存在一种或多种特定关系的数据元素的集合**Θic-1ΘΘic-2ΘΘic-3ΘΘic-4ΘΘic-5Θ。 数据结构这一概念在计算机科学领域扮演着至关重要的角色&#xff0c;它不仅决定了数据在计算机内部的存储方式&#xf…
阅读更多...
Block Transformer：通过全局到局部的语言建模加速LLM推理

Block Transformer：通过全局到局部的语言建模加速LLM推理

在基于transformer的自回归语言模型&#xff08;LMs&#xff09;中&#xff0c;生成令牌的成本很高&#xff0c;这是因为自注意力机制需要关注所有之前的令牌&#xff0c;通常通过在自回归解码过程中缓存所有令牌的键值&#xff08;KV&#xff09;状态来解决这个问题。但是&…
阅读更多...
计算机组成结构—IO方式

计算机组成结构—IO方式

目录 一、程序查询方式 1. 程序查询基本流程 2. 接口电路 3. 接口工作过程 二、程序中断方式 1. 程序中断基本流程 2. 接口电路 3. I/O 中断处理过程 三、DMA 方式 1. DMA 的概念和特点 2. DMA 与 CPU 的访存冲突 3. DMA 接口的功能 4. DMA 接口的组成 5. DMA 的…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023