土法炼钢 · 系统与基础设施

【Transformer 与注意力机制】47｜Diffusion + Transformer：DiT 与 Sora 为什么用 Transformer

2026-08-06 | transformer | #transformer #diffusion #dit #sora #video-generation #scaling-laws

DiT 把扩散模型的去噪网络从 U-Net 换成 Transformer，靠的是把图像压成 latent patch token、用 adaLN-Zero 注入时间步与类别条件。本文用论文原始 Gflops-FID 数据讲清这次替换的收益边界，用 O(n²) 公式解释视频时空 token 为什么比长文本更贵，并交代…