【CUDA从入门到入土】二、CUDA调试和必知必会 & Nsight Computer 入门
上文中，我们运行了一个简单的cuda函数，并且一次过的将其运行了起来，这次，我们需要补充一些基础的概念，通过概念和框架的建立，我们才能走的更远，高屋建瓴的认识更多。 ...
GPU
【CUDA从入门到入土】五、cuda_kernel_和_cuda_attention详解
从cuda kernel出发，看懂人生第一个cuda attention
【CUDA从入门到入土】一、丝滑的CUDA入门
CUDA是什么 cuda是一种gpu编程组件，是一种原生支持GPU软硬件的架构，使得开发者可以直接在 GPU 上编写和执行通用计算程序。 GPU架构 上图是H100白皮书中，H100 GPU带满了144个SM的架构图 上图是H100中，1个SM的架构图 SM架构详解由此，我们可以高屋建瓴的看懂GPU，这里不雕琢细节，只直白的说明白GPU怎么工作的： PCIE 就是负责数据从显卡和主板之间进出的数据传输协议，理解为传递数据的就对了 ...