https://moyutianzun.com/tags/ai-%E7%BC%96%E8%AF%91%E5%99%A8/Recent content in Ai 编译器 on moyutianzun 的博客Hugozh-cnmoyutianzunThu, 11 Sep 2025 09:00:18 +0800https://moyutianzun.com/blog/aibian-yi-qi------bi-ji/Thu, 11 Sep 2025 09:00:18 +0800https://moyutianzun.com/blog/aibian-yi-qi------bi-ji/<h1 style="" id="challenge">challenge</h1><p style=""></p><ul><li><p style="">新模型</p><ul><li><p style="">新module出现，需要对应算子进行计算，还需要结合硬件进行特性优化和测试，尽量充分发挥硬件性能</p></li><li><p style="">硬件厂商还会发布新技术的加速计算库</p></li><li><p style="">专用加速芯片爆发导致性能可移植性成为一种刚需</p></li></ul></li><li><p style="">不同厂商的ISA不尽相同</p><ul><li><p style="">一般缺乏如GCC、LLVM等编译工具链，使得针对CPU和GPU已有的优化算子库和针对语言的优化Pass很难短期移植到NPU上</p></li><li><p style=""></p></li></ul></li></ul><p style=""></p><p style=""></p><p style=""></p><p style=""></p><h1 style="" id="%E6%9E%B6%E6%9E%84">架构</h1><p style=""><img src="https://moyublog-picture.oss-cn-guangzhou.aliyuncs.com/images/20250911160213415.png" width="100%" height="100%" style="display: inline-block"></p><p style=""></p><p style=""></p><p style=""></p><h2 style="" id="%E5%92%8C%E4%BC%A0%E7%BB%9F%E7%BC%96%E8%AF%91%E5%99%A8%E5%AF%B9%E6%AF%94">和传统编译器对比</h2><p style="text-align: center"><img src="https://moyublog-picture.oss-cn-guangzhou.aliyuncs.com/images/20250911150445999.png" width="50%" height="100%" style="display: inline-block"></p><p style="text-align: center"></p><ul><li><p style="">在编译优化层通过统一IR执行不同的Pass进行优化，从而提高执行性能</p></li><li><p style="">软件结构栈：分成前端、优化、后端三段式，IR解耦前端和后端使得模块化表示</p></li><li><p style="">AI编译器对Graph IR进行优化后，将优化后的IR转换成传统编译器IR，最后依赖传统编译器进行机器码生成</p></li></ul><p style=""><img src="https://moyublog-picture.oss-cn-guangzhou.aliyuncs.com/images/20250911152322879.png" width="100%" height="100%" style="display: inline-block"></p><p style="text-align: center"><strong>左边是旧编译器架构，右边是ai编译器架构</strong></p>