【GPU 算子工程】Roofline 模型：判断算子是 compute-bound 还是 memory-bound
Roofline 用算术强度把算子定位到性能上限曲线，回答优化该往算力还是访存使劲。在 RTX 3060 Ti 上实测扫描算术强度，得到经验屋顶线：脊点约 36 FLOP/byte，低强度区贴带宽、高强度区逼近 FP32 峰值 86%。
memory-bound 标签归档
共 2 篇文章 · 返回首页
【GPU 算子工程】Kernel Fusion 与 epilogue：减少 HBM 往返
融合通过减少中间结果的 HBM 往返提速 memory-bound 算子。实测逐元素链融合的加速比随链长线性增长（k=16 时 16.8 倍）。讲清逐元素融合、归约融合、GEMM epilogue 融合，以及什么时候不该融合。