【编译器与 MLIR】面向异构硬件的代码生成
解析 MLIR 的 GPU 代码生成框架：GPU 方言的层次化并行模型（Block/Thread/Memory）、gpu.launch 的语义、SPIR-V 出口路径、内存层次抽象与 tiling 策略，以及与 Triton、IREE 的协作关系。
gpu 标签归档
共 5 篇文章 · 返回首页
【编译器与 MLIR】AI 时代的编译器基础设施
从三阶段编译器局限出发，系统讲解 MLIR 方言、渐进降阶与 Pass 基础设施，覆盖 Tensor/Linalg/Affine/GPU 到框架桥接的完整编译链。
【Transformer 与注意力机制】42｜FlashAttention：注意力计算的硬件级重写
FlashAttention 的关键不是近似注意力，也不是把公式改掉，而是重新安排标准 attention 在 GPU 内存层级里的计算路径。本文解释为什么标准 attention 的瓶颈常常是 HBM 读写，FlashAttention 如何用 tiling 和 online softmax 避免物化完整注意力矩阵，以及它为什么省显存、提吞吐，却没有消除 O(n²) 的根本复杂度。
【大模型基础设施工程】02：GPU 计算入门——SM、Tensor Core、HBM、NVLink
从 CPU 与 GPU 的架构差异出发，讲清楚 SM、Warp、Tensor Core、HBM、NVLink 的工程含义，并结合 Roofline、FlashAttention 与国产算力栈，给出大模型工程师能直接上手的 GPU 心智模型。
并行排序：从归并网络到 GPU 双调排序
当单核性能到达瓶颈，排序如何利用多核 CPU 和 GPU 的并行能力？从排序网络的理论优雅到工业级并行排序的工程妥协。