【大模型基础设施工程】22：大模型网关
企业级 LLM 调用的统一入口：多供应商路由、配额与计费、语义缓存、Guardrails 与可观测，LiteLLM、OneAPI、Portkey、Kong/Envoy AI Gateway 的工程选型与落地。
semantic-cache 标签归档
共 2 篇文章 · 返回首页
【数据库研究前沿】数据库作为 LLM 记忆体：语义缓存、RAG 与一致性
把数据库当 LLM 长期记忆的系统视角：GPTCache、MemGPT、向量 vs 事实记忆；用 pgvector + 触发器实现会话级一致性语义缓存