https://moyutianzun.com/tags/gpu/Recent content in GPU on moyutianzun 的博客Hugozh-cnmoyutianzunSun, 17 Aug 2025 17:09:02 +0800https://moyutianzun.com/blog/cudacong-ru-men-dao-ru-tu-er-cudabi-zhi-bi-hui/Sun, 17 Aug 2025 17:09:02 +0800https://moyutianzun.com/blog/cudacong-ru-men-dao-ru-tu-er-cudabi-zhi-bi-hui/<p style="text-indent: 2em">上文中，我们运行了一个简单的cuda函数，并且一次过的将其运行了起来，这次，我们需要补充一些基础的概念，通过概念和框架的建立，我们才能走的更远，高屋建瓴的认识更多。</p>https://moyutianzun.com/blog/cudacong-ru-men-dao-ru-tu-er-cuda_kernel_he_cuda_attentionxiang-jie/Sun, 17 Aug 2025 15:14:21 +0800https://moyutianzun.com/blog/cudacong-ru-men-dao-ru-tu-er-cuda_kernel_he_cuda_attentionxiang-jie/<p style="">从cuda kernel出发，看懂人生第一个cuda attention</p>https://moyutianzun.com/blog/cudacong-ru-men-dao-ru-tu-yi-si-hua-de-cudaru-men/Thu, 14 Aug 2025 16:27:54 +0800https://moyutianzun.com/blog/cudacong-ru-men-dao-ru-tu-yi-si-hua-de-cudaru-men/<p style=""><strong>CUDA是什么</strong></p><p style="">cuda是一种gpu编程组件，是一种原生支持GPU软硬件的架构，使得开发者可以直接在 GPU 上编写和执行通用计算程序。</p><h2 style="" id="gpu%E6%9E%B6%E6%9E%84"><strong>GPU架构</strong></h2><p style=""><img src="https://moyublog-picture.oss-cn-guangzhou.aliyuncs.com/images/20250807194901764.png" alt="" width="100%" height="100%" style="display: inline-block"></p><p style="">上图是H100白皮书中，H100 GPU带满了144个SM的架构图</p><p style=""><img src="https://moyublog-picture.oss-cn-guangzhou.aliyuncs.com/images/20250807195051758.png" alt="" width="991px" height="1379px" style="display: inline-block"></p><p style="">上图是H100中，1个SM的架构图</p><h3 style="" id="sm%E6%9E%B6%E6%9E%84%E8%AF%A6%E8%A7%A3"><strong>SM架构详解</strong></h3><p style="">由此，我们可以高屋建瓴的看懂GPU，这里不雕琢细节，只直白的说明白GPU怎么工作的：</p><ul><li><p style="">PCIE 就是负责数据从显卡和主板之间进出的数据传输协议，理解为传递数据的就对了</p>