rag 标签归档

共 6 篇文章 · 返回首页

【大模型基础设施工程】01：大模型基础设施全景 —— 训练、推理、RAG、Agent、观测

2026-04-22 | architecture · ai-infra | #llm #infra #overview #training #inference #rag #agent #deepseek #openai

面向工程师的大模型基础设施开篇地图，覆盖 2022 到 2026 的工程分水岭、五层工程栈、训练与推理的工程差异、中国与全球行业版图以及成本曲线。

【大模型基础设施工程】17：RAG 工程全景

2026-04-22 | architecture · ai-infra | #llm #infra #rag #retrieval #embedding #rerank #chunking #hyde #graphrag #ragas #bge #colbert

从文档解析、切片、嵌入、索引、检索、重排到生成与评估，系统梳理 RAG 的工程流水线、进阶范式与国内外生态

大模型基础设施工程

2026-04-22 | architecture · ai-infra | #llm #infra #training #inference #rag #agent #vllm #sglang #deepseek #llmops

面向中国工程团队的大模型基础设施系列。从 GPU/CUDA/互联、训练框架与 3D 并行、vLLM/SGLang 推理引擎、量化与推测解码、RAG/Agent 到服务化、网关、可观测性与安全合规，覆盖 LLMOps 全链路。

【开源许可与版权工程】AI 训练数据的版权：从 Books3、Common Crawl 到生成式模型侵权

2026-04-22 | architecture · opensource | #ai #training-data #copyright #fair-use #tdm #books3 #common-crawl #laion #rag #dataset-license #generative-ai

一篇话讲清楚：网络爬取训练语料、书籍/代码/图片数据集、合成数据与 RAG 私域数据在著作权法上的真实边界。覆盖美国 fair use、欧盟 TDM 例外、日本 30-4 条、中国合理使用与生成式 AI 司法态度；逐个拆解 Books3、Common Crawl、LAION-5B、The Pile、StarCoder、Stack Exchange 等高频数据集的许可现状；给出工程团队在预训练、微调、RAG 三个场景下的可执行检查清单。

【数据库研究前沿】数据库作为 LLM 记忆体：语义缓存、RAG 与一致性

2026-04-28 | database | #llm-memory #semantic-cache #rag #gptcache #memgpt #pgvector #consistency

把数据库当 LLM 长期记忆的系统视角：GPTCache、MemGPT、向量 vs 事实记忆；用 pgvector + 触发器实现会话级一致性语义缓存

【数据库研究前沿】GraphRAG：图增强检索的理论与工程

2026-04-23 | database | #graphrag #rag #knowledge-graph #neo4j #kuzudb #nebulagraph #networkx #community-detection

系统梳理 Microsoft GraphRAG（2024）的动机、算法与工程实现：多跳问答为什么让向量 RAG 失效、图作为 evidence path 的优势、社区检测与报告生成、Neo4j / NebulaGraph / KuzuDB 的落地差异，以及一个 NetworkX 最小实现。