跳转至

Java 转 AI 的 90 天

你不是从零开始,你只是换了一把剑。

写给写了多年 Java 的后端工程师 · 25 篇正文 + 2 个附录 · 全部实验实测跑通

GitHub 进阶篇 Agentic RL 123★

这本书到底在讲什么

不是又一份"大模型全栈知识图谱",而是回答一个具体问题:

Java 后端工程师,在 AI 时代到底该学什么?

真正的门槛只有一个:裸基模在你自己的业务领域上不了线。

换成 RT 或准确率衡量,特定领域的裸基模就是过不了。所以问题从来不是"要不要微调", 而是"什么时候 Prompt 就够、什么时候必须微调"——这个判断,光懂工程或光懂算法的人都给不准。

只懂工程 只懂算法 读完这本
特定领域准确率 裸基模扛不住 能训上来 知道何时 RAG、何时必须微调
上线 会限流熔断灰度 Demo 跑通就卡住 两条路都能落地
求职 会被 Python 问倒 被"怎么部署"问倒 工程 + 算法双向都能接得住

本书要建立的判断力: 你的 Java 老本行(限流、熔断、状态管理、评测、灰度、回滚) 让你能把模型能力包装成稳定的线上服务;而工程人缺的那半边——SFT、对齐、RLVR(第 17-19 篇), 补上之后你才知道模型的能力边界在哪、什么时候该动手训。

懂工程 + 懂算法的判断力,才是这本书真正要交付的东西。

90 天怎么排的

阶段 篇目 主题 你会拿到什么
01 · 换语言 01-07 鸭子类型、推导式、装饰器、yield、迭代器协议、对象模型、GIL 能写出带并发控制的 Pythonic 工程代码
02 · 懂原理 08-10 Token / Embedding / Transformer 能向非技术同事讲明白 LLM 在干什么
03 · 上手 11-15 API 调用 → RAG → Agent 一个真能用的企业知识库助手
04 · 精通检索与后训练 16-20 生产级检索 + SFT / 对齐 / RLVR 知道什么时候必须动手训,以及怎么训
05 · 成专家 21-24 评测 / 工程化 / 本地部署 把 Demo 变成能上线的服务
尾声 25 + 附录 简历面试 + 证据分级 把这段经历翻译成面试语言

每个阶段都以可运行的项目收尾,不是"读完就懂"。注意 04 阶段—— 大部分教程把微调跳过或放到最后,本书把它和生产级检索并列,因为特定领域的准确率靠裸基模扛不住。

实测数据

本书的结论都附带可复现的数据,不写"据说"和"大概":

实测项 数据
RAG 检索精度 top1 7/7,平均 158ms
本地 4B 模型问答 0.2~2.3 秒/问,零 API 费用
SFT 微调 0.5B loss 6.443 → 0.777
踩过的坑 0.5B 输出日文乱码、oMLX 507 内存拦截、4B 输出字符串参数

怎么判断一条经验值是"跑出来的"还是"网上抄的",见 附录 B · 证据分级。

关于作者

前美团、阿里后端工程师,已成功转型 AI Agent 方向。

这不是一本学院派教材,也不是读完论文写出来的二手总结——是从生产后端走到 AI 应用落地的现场记录。

转行这一步走过,所以路径不是纸上谈兵:每一条经验都留着原始输出,包括失败的那次—— 第 13 篇的 402 余额不足、第 14 篇的 4B 把 "3" 当字符串、第 23 篇的 507 内存拦截,书里都没删。

能让人放心看下去的理由不是头衔,是这些数据你自己跑一遍,会得到同样的结果。

这本书适合谁

  • ✅ 1 年以上 Java 后端经验(JDK 8 思维根深蒂固也没关系)
  • ✅ 想转 AI,但被"数学""炼丹""PyTorch"劝退过
  • ✅ 讨厌知识图谱式学习,要"学一个、懂一个、讲一个"的节奏
  • ❌ 想找"三天精通大模型"捷径的
  • ▶ 已有 RAG/Agent 基础 → 直接看 Agentic RL 教程(123★)

方法论:费曼四步

费曼原教旨 本书落地
选一个概念 一篇只讲一个概念,不贪多
讲给小学生听 开篇「一句话」必须零术语,有生活类比
卡住就回去 每篇「动手实验室」跑不通就别往下走
简化并重述 每篇结尾一张「复述卡」,讲不出来就是没懂

从哪开始

可直接跑的实战项目

全部在作者本机实测通过,不依赖本书正文也能独立使用。

项目 对应篇目 实测结果
rag-project 13 篇 · 企业知识库 RAG 检索 top1 7/7,平均 158ms;生成层默认本地模型,零 API 费用
sft-project 18 篇 · SFT 微调 0.5B loss 6.443 → 0.777,9 条数据让 0.5B 学会客服语气
agent-project 14 篇 · 真实 ReAct Agent 本地 4B 真调工具,护栏实测触发;含 4B 参数翻车实录

全部章节

完整目录见 完整目录页。共 25 篇正文 + 2 个附录,约 6800 行,全部实验在作者机器实测通过。


作者:cookiespiggy · License:MIT 有问题:开 Issue