一 专业名词
1 分支断定
2 一致性和同一性
3 常见名词汇总
4 加速比
二 GPU架构构述
GPU就是将cpu的数据存储单元去掉，也就是保留执行单元，GPU就是多个执行单元
1 GPU设计思路，指令流共享，同时执行，数据切分成小块
2 GPU设计思路，单指令多数据处理
分支如何工作，只有一个大脑，8个流输入的是同一段代码，有的是t，有的是f,执行t的时候，f只能等待
停滞的解决方法：用别的独立的工作，来填满空余时间，延迟掩藏
停滞是指等待的过程，数据还没来，前面还没算完
二
1 CPU 和GPU交互
2 GPU线程模型
开发者定义的是线程，以及每个block里面放多少线程
3 CUDA编程
假设只要1个block，block是二维的，i，j对应二维索引
cudaMalloc() 在设备端分配 golbal memory
cudaFree() 释放存储空间
GPU指针分配
数据拷贝函数
Cuda算法框架，通用
第1步：为数据分配GPU空间，将数据从cpu上拷贝到GPU上，同时为输出数据分配内存空间
第2步：在GPU启动并行
第3步：将数据拷贝回CPU，释放GPU上的占用内存
矩阵相乘算法
在GPU启动并行计算矩阵，不需要锁，因为用不到别的部分的数据
假设只使用一个block
函数声明
主要有三种函数，3个函数声明可以用于同时定义同一个变量
线程同步，一般是局部同步，也就是块内同步，全局同步开销太大
且线程同步之间的任务要时间接近，可以提高效率
如果是采用了以下的这种调用情况，会导致程序逻辑错误
线程调度：软件调用的核数可能会大于实际的硬件核数
调度量不代表执行量，调度过程会存在一些等待的部分
Warp
1个warp是32个线程，block内的线程再次进行分组执行，因为资源有限，一个warp内的数据是默认同步的
一个时间一个block内只有一个warp在执行
一个block只能分配在同一个SM上
变量声明
课程链接
链接: https://www.bilibili.com/video/BV1LE411p7ej?p=6&spm_id_from=pageDriver&vd_source=ee789cf916563b0f6fa47fd0f3556c63
