编译 CUDA 程序的基本知识和步骤

基本工具

NVCC（NVIDIA CUDA Compiler）:
- nvcc 是 NVIDIA 提供的 CUDA 编译器，用于将 CUDA 源代码（.cu 文件）编译成可执行文件或库。它可以处理 CUDA 和主机代码（例如 C++）的混合编译。
- nvcc 调用底层的主机编译器（如 gcc 或 clang）来编译非 CUDA 代码部分。
CUDA Toolkit:
- 包含 CUDA 编译器、库、开发工具和示例代码。
- 常见路径：/usr/local/cuda。

编译步骤

编写 CUDA 源代码:
- CUDA 程序通常由主机代码（运行在 CPU 上）和设备代码（运行在 GPU 上）组成。
- 设备代码使用 __global__、__device__ 或 __host__ 关键字定义内核函数。
编译 CUDA 源文件:
- 使用 nvcc 编译 .cu 文件：
```
nvcc -o my_program my_program.cu
```
- nvcc 编译 .cu 文件时，会先将主机代码部分提取并交给主机编译器（如 gcc）处理，然后将设备代码部分编译成 PTX 或 SASS 代码。
指定架构:
- 使用 -arch 选项指定目标 GPU 的架构：
```
nvcc -arch=sm_52 -o my_program my_program.cu
```
优化和调试选项:
- -O3：优化级别 3。
- -G：生成调试信息。
- -lineinfo：生成行号信息。
链接库:
- 编译时需要链接 CUDA 运行时库和其他依赖库：
  
  -I 选项
  
  -I 选项用于指定头文件的搜索路径。编译器在编译源文件时需要找到所有引用的头文件，如果这些头文件不在默认的系统路径下，就需要用 -I 选项来指定路径。
  
  示例：
```
nvcc -I/usr/local/cuda/include my_cuda_program.cu
```
  这条命令告诉 nvcc 去 /usr/local/cuda/include 目录下查找头文件。
  
  -L 选项
  
  -L 选项用于指定库文件的搜索路径。编译器在链接阶段需要找到所有引用的库文件，如果这些库文件不在默认的系统路径下，就需要用 -L 选项来指定路径。
  
  示例：
```
nvcc -L/usr/local/cuda/lib64 my_cuda_program.cu -lcudart
```
  这条命令告诉 nvcc 去 /usr/local/cuda/lib64 目录下查找库文件。
  
  -l 选项
  
  -l 选项用于指定要链接的库文件。-l 选项后面跟的是库的名称，而不是库文件的全名。编译器会在指定的路径中查找名为 lib<name>.so 或 lib<name>.a 的文件。
  
  示例：
```
nvcc -L/usr/local/cuda/lib64 my_cuda_program.cu -lcudart
```
  这条命令告诉 nvcc 链接名为 libcudart.so 或 libcudart.a 的库。
  
  综合使用上述选项的一个示例如下：
```
nvcc -I/usr/local/cuda/include -L/usr/local/cuda/lib64 -lcudart my_cuda_program.cu -o my_cuda_program
```