这本书到底在讲什么¶
不是又一份"大模型全栈知识图谱",而是回答一个具体问题:
Java 后端工程师,在 AI 时代到底该学什么?
真正的门槛只有一个:裸基模在你自己的业务领域上不了线。
换成 RT 或准确率衡量,特定领域的裸基模就是过不了。所以问题从来不是"要不要微调", 而是"什么时候 Prompt 就够、什么时候必须微调"——这个判断,光懂工程或光懂算法的人都给不准。
| 只懂工程 | 只懂算法 | 读完这本 | |
|---|---|---|---|
| 特定领域准确率 | 裸基模扛不住 | 能训上来 | 知道何时 RAG、何时必须微调 |
| 上线 | 会限流熔断灰度 | Demo 跑通就卡住 | 两条路都能落地 |
| 求职 | 会被 Python 问倒 | 被"怎么部署"问倒 | 工程 + 算法双向都能接得住 |
本书要建立的判断力: 你的 Java 老本行(限流、熔断、状态管理、评测、灰度、回滚) 让你能把模型能力包装成稳定的线上服务;而工程人缺的那半边——SFT、对齐、RLVR(第 17-19 篇), 补上之后你才知道模型的能力边界在哪、什么时候该动手训。
懂工程 + 懂算法的判断力,才是这本书真正要交付的东西。
90 天怎么排的¶
| 阶段 | 篇目 | 主题 | 你会拿到什么 |
|---|---|---|---|
| 01 · 换语言 | 01-07 | 鸭子类型、推导式、装饰器、yield、迭代器协议、对象模型、GIL | 能写出带并发控制的 Pythonic 工程代码 |
| 02 · 懂原理 | 08-10 | Token / Embedding / Transformer | 能向非技术同事讲明白 LLM 在干什么 |
| 03 · 上手 | 11-15 | API 调用 → RAG → Agent | 一个真能用的企业知识库助手 |
| 04 · 精通检索与后训练 | 16-20 | 生产级检索 + SFT / 对齐 / RLVR | 知道什么时候必须动手训,以及怎么训 |
| 05 · 成专家 | 21-24 | 评测 / 工程化 / 本地部署 | 把 Demo 变成能上线的服务 |
| 尾声 | 25 + 附录 | 简历面试 + 证据分级 | 把这段经历翻译成面试语言 |
每个阶段都以可运行的项目收尾,不是"读完就懂"。注意 04 阶段—— 大部分教程把微调跳过或放到最后,本书把它和生产级检索并列,因为特定领域的准确率靠裸基模扛不住。
实测数据¶
本书的结论都附带可复现的数据,不写"据说"和"大概":
| 实测项 | 数据 |
|---|---|
| RAG 检索精度 | top1 7/7,平均 158ms |
| 本地 4B 模型问答 | 0.2~2.3 秒/问,零 API 费用 |
| SFT 微调 0.5B | loss 6.443 → 0.777 |
| 踩过的坑 | 0.5B 输出日文乱码、oMLX 507 内存拦截、4B 输出字符串参数 |
怎么判断一条经验值是"跑出来的"还是"网上抄的",见 附录 B · 证据分级。
关于作者¶
前美团、阿里后端工程师,已成功转型 AI Agent 方向。
这不是一本学院派教材,也不是读完论文写出来的二手总结——是从生产后端走到 AI 应用落地的现场记录。
转行这一步走过,所以路径不是纸上谈兵:每一条经验都留着原始输出,包括失败的那次——
第 13 篇的 402 余额不足、第 14 篇的 4B 把 "3" 当字符串、第 23 篇的 507 内存拦截,书里都没删。
能让人放心看下去的理由不是头衔,是这些数据你自己跑一遍,会得到同样的结果。
这本书适合谁¶
1 年以上 Java 后端经验(JDK 8 思维根深蒂固也没关系)
想转 AI,但被"数学""炼丹""PyTorch"劝退过
讨厌知识图谱式学习,要"学一个、懂一个、讲一个"的节奏
想找"三天精通大模型"捷径的
已有 RAG/Agent 基础 → 直接看 Agentic RL 教程(123★)
方法论:费曼四步¶
| 费曼原教旨 | 本书落地 |
|---|---|
| 选一个概念 | 一篇只讲一个概念,不贪多 |
| 讲给小学生听 | 开篇「一句话」必须零术语,有生活类比 |
| 卡住就回去 | 每篇「动手实验室」跑不通就别往下走 |
| 简化并重述 | 每篇结尾一张「复述卡」,讲不出来就是没懂 |
从哪开始¶
-
序章
先搞清楚:为什么一个 Java 工程师要学 AI?
-
直接上手
跳过原理,先跑通一个能用的企业知识库助手
-
进阶篇
Agentic RL 教程 · 33 篇(123★)——本书之后的路
可直接跑的实战项目¶
全部在作者本机实测通过,不依赖本书正文也能独立使用。
| 项目 | 对应篇目 | 实测结果 |
|---|---|---|
rag-project |
13 篇 · 企业知识库 RAG | 检索 top1 7/7,平均 158ms;生成层默认本地模型,零 API 费用 |
sft-project |
18 篇 · SFT 微调 0.5B | loss 6.443 → 0.777,9 条数据让 0.5B 学会客服语气 |
agent-project |
14 篇 · 真实 ReAct Agent | 本地 4B 真调工具,护栏实测触发;含 4B 参数翻车实录 |
全部章节¶
完整目录见 完整目录页。共 25 篇正文 + 2 个附录,约 6800 行,全部实验在作者机器实测通过。
作者:cookiespiggy · License:MIT 有问题:开 Issue