土法炼钢兴趣小组的算法知识备份

发布来自土法炼钢兴趣小组的知识、笔记、进展和应用。主题包括数据结构和算法、编程语言、网络安全、密码学等。

diffusion 标签归档

共 2 篇文章 · 返回首页

【Transformer 与注意力机制】47｜Diffusion + Transformer：DiT 与 Sora 为什么用 Transformer

2026-08-06 | transformer | #transformer #diffusion #dit #sora #video-generation #scaling-laws

DiT 把扩散模型的去噪网络从 U-Net 换成 Transformer，靠的是把图像压成 latent patch token、用 adaLN-Zero 注入时间步与类别条件。本文用论文原始 Gflops-FID 数据讲清这次替换的收益边界，用 O(n²) 公式解释视频时空 token 为什么比长文本更贵，并交代 U-Net 阵营的真实反驳证据。