sampling 标签归档

共 7 篇文章 · 返回首页

【Transformer 与注意力机制】48|从 logits 到文本:解码策略是决策层,不是收尾细节

语言模型每一步只输出一组 logits,真正决定输出哪个 token 的是解码策略。本文从 softmax 与 temperature 的几何直觉出发,讲清贪心、Beam Search 为何在开放生成中显得枯燥重复,top-k/top-p/min-p 叠加时的组合陷阱,以及重复惩罚、presence/frequenc…

【可观测性工程】埋点哲学:粒度、采样、基数爆炸与成本模型

埋点不是多加几行日志,而是一整套关于什么该记、什么该采样、什么该丢弃的工程决策体系。从信号分层、基数控制、采样策略到落地规范与工程坑点,给出可操作的埋点治理框架。