【大模型基础设施工程·特别篇】28:DeepInfer 深度解析——DeepSeek 生产推理引擎开源了什么
从仓库边界、offline 用法、kernels、EP+EPLB、DSpark、SWA、ZOS,到与 vLLM / SGLang / TensorRT-LLM 的优劣与多路径选型,系统拆解 DeepSeek 新开源的 DeepInfer。
Linux 内核、存储与网络、可观测性、系统架构与大模型基础设施的工程笔记:机制拆解、踩坑复盘与可核对证据,少空谈。
共 1 篇文章 · 返回首页
从仓库边界、offline 用法、kernels、EP+EPLB、DSpark、SWA、ZOS,到与 vLLM / SGLang / TensorRT-LLM 的优劣与多路径选型,系统拆解 DeepSeek 新开源的 DeepInfer。