【GPU 算子工程】Roofline 模型：判断算子是 compute-bound 还是 memory-bound
Roofline 用算术强度把算子定位到性能上限曲线，回答优化该往算力还是访存使劲。在 RTX 3060 Ti 上实测扫描算术强度，得到经验屋顶线：脊点约 36 FLOP/byte，低强度区贴带宽、高强度区逼近 FP32 峰值 86%。
roofline 标签归档
共 2 篇文章 · 返回首页
GPU 高性能算子工程
从 GPU 执行模型与内存层次出发，系统讲解如何写出并调优高性能 CUDA 算子：访存合并、occupancy、Roofline、Nsight 调优，reduction/GEMM/Tensor Core/FlashAttention 核心算子实现，以及 Triton、CUTLASS、kernel fusion 与算子库工程。