土法炼钢兴趣小组的算法知识备份

【GPU 算子工程】访存优化：合并访问、bank conflict 与对齐

2026-06-28 | gpu · architecture | #cuda #memory-coalescing #bank-conflict #shared-memory #alignment #bandwidth

global memory 合并访问与 shared memory bank conflict 是 GPU 访存优化的两大主题。实测跨步访问让有效带宽从 412 跌到 90 GB/s，32 路 bank conflict 让 shared 访问慢 11 倍。讲清成因与规避方法。