01
RAG
RAG:检索增强生成
让模型根据外部资料回答:摄入与索引、向量检索的原理、检索质量、生成、评估和生产环境。
0 篇记录查看笔记
项目 03
学习大模型应用开发,分两个主题:Harness 是模型之外、让模型能作为 agent 完成任务的那部分;RAG 让模型根据外部资料回答。笔记按主题整理,每篇从一个具体问题讲起。
这个项目还没有开始。目前先展示计划,以及后续记录会采用的结构。
弄清楚 agent 和 RAG 的每个部分解决什么问题、底层怎么实现,关键部分自己写代码验证。
不用框架手写 agent loop,再把一个带引用的最简 RAG 接进去当工具。
IVF、PQ、HNSW 的原理和参数,用 FAISS 测召回率与速度,再手写一个简化版索引。
管理上下文预算与缓存;比较 BM25、向量检索、混合检索和重排的效果。
写一个 MCP server、一个按需加载的 skill 和一个只读的 subagent。
用 hook 拦截危险操作,在沙箱里执行代码,按角色限制工具和 skills,按权限过滤检索结果。
实现按用户隔离的记忆和可以恢复的执行;比较几种切块方式,并校验引用。
用 pass@k 和 pass^k 评估 agent,导出链路追踪,再把 RAG 做成多租户。
笔记按主题分开整理,写好一篇就放到对应的主题下。
Harness 和 RAG 两个主题合在一起的完整学习路径:按什么顺序学、每个知识点学到多深,以及常见问题和出处。
查看学习路线项目推进后,我会把每个阶段遇到的问题、实现过程和验证结果补充在这里。