土法炼钢兴趣小组的算法知识备份

【Transformer 与注意力机制】54｜涌现能力：上下文学习与思维链为什么会出现

2026-04-15 | transformer | #transformer #emergence #in-context-learning #chain-of-thought #scaling

大模型能力有时看起来会突然出现，但“涌现”既包含真实规模效应，也受到指标阈值、任务格式和评测方法影响。本文解释 emergent abilities 的争议、in-context learning、Chain-of-Thought、规模与数据的关系，以及为什么不能把涌现神秘化。