【Transformer 与注意力机制】12｜Bahdanau Attention：注意力的早期形态
把 Bahdanau, Cho, Bengio 2014 那篇「Neural Machine Translation by Jointly Learning to Align and Translate」逐项拆开。固定 context vector 的瓶颈、双向 RNN 编码、additive attention 公…
history 标签归档
共 5 篇文章 · 返回首页
【Transformer 与注意力机制】19｜《Attention Is All You Need》论文背景
回到 2017 年 6 月那篇论文：八位作者、Google Brain/Translate 的内部背景、LSTM 时代的工程困境、为什么这篇在当年是「机器翻译的论文」、为什么七年后却被读成了「大模型时代的圣经」。
【操作系统百科】Unix 谱系与设计遗产：Multics、Plan 9、Linux
要理解 Linux 的很多古怪决定，得回到 Multics、Unix V6/V7、BSD 的历史语境。本文沿时间线梳理 Unix 家谱，挑出每一代留下的设计遗产——fork/exec、一切皆文件、管道、可重定向的 stdin/stdout、9P、命名空间——并指出哪些被 Linux 发扬，哪些被抛弃，哪些仍在 Pla…
【密码学百科】密码学简史：从凯撒密码到量子时代
从古典密码的替换与置换，到现代密码学的数学革命，再到后量子时代的全新挑战——一篇文章带你走完密码学三千年的演进之路
历史不站在你以为的那一边 — 技术革命中手艺人的真实命运
从卢德运动到数控机床到编程史，技术革命中手艺人的命运不是被替代，而是被降级——从工匠变成操作员。AI 时代的程序员正在重复同样的剧本。