分享一个收藏许久的 Agentic RAG 案例：⬇️ 把大模型 grep/ls/find/cat 的 shell 工具调用，翻译成轻量的向量数据库操作 需求：大模型引用外部知识库准确回答用户问题 基础 RAG：把外部知识库切分成 chunk，转换为词嵌入 存储在向量数据库（例如 chroma）里面；再把用户的问题转换成词向量，再从向量数据库里面匹配出最相关的文本 chunk；这些 chunk 再喂给 LLM 作为回答参考 mintlify 的改良动机：Agentic 查找越来越流行，如果大模型可以调用 shell/bash 工具，运行 grep/ls/find/cat 等命令，在思考-调用-观察的循环里查找相关文档作为回答参考，准确率会比基础 RAG高得多 改良阻碍：如果文档库和 Agent 都运行在云端（而非本地），服务端需要给每次查询创建一个 Sandbox/micro vm 来提供 agentic search 所需的 shell，grep/ls/find 程序和 file system，然而创建沙盒的时间和金钱开销完全不值得知识库问答这样的简单即时任务 改进思路：用 just-bash 这个项目（运行在内存里的模拟 shell，自带 grep/ls 等基础命令的解析），并且重写里面三种命令的实现方式： 读取文件内容（cat）、字符串搜索（grep）、文件树查找（ls, find）

求一个解释一下，为什么 token usage 显示七百万（cache input 六百万），但是 context 显示只用了十万？ （dsh+Deepseek flash）

推荐阅读： 跨时间和跨模型厂商地讨论了大模型工具调用格式的演进 从对话模型的单次调用到 Agentic 模型的多次调用 如何区分普通文本与工具调用 如何让模型适应多种 harness 的工具模板 ....