00 · 序章:你不是从零开始,你只是换一把剑¶
先讲给朋友听(如果你只有一分钟)¶
AI 应用开发这行,2026 年最缺的不是"会训练模型的人",而是"能把不听话的模型,管教成稳定服务的人"。后者恰好是 Java 工程师练了十年的手艺。你不是转行,你是带着家当换战场。
如果你是做后端的,把上面这段话讲给同事听,他大概率会点头——这就是本书存在的全部理由。
你的 Aha Moment¶
学一个新领域最怕的,不是知识难,是心理上的从零开始感。
你有没有算过,这些你已经刻进肌肉记忆的能力:
- 一个接口被每秒打爆时,你知道要限流、熔断、降级
- 一个系统跑着跑着慢了,你知道怎么分层排查:网络?DB?GC?线程池?
- 老板说"功能要能随时关掉",你立刻设计出开关和灰度
- 需求总在变,你知道接口要先定契约,再谈实现
现在,把上面的场景翻译成大模型:
- LLM 调用延迟五秒起,你要流式输出、要缓存、要异步队列——限流降级的换皮版
- 模型答非所问,你要分层排查:Prompt 不行?检索不到?模型选型错了?——分层调bug的同款思维
- Prompt 改坏了线上效果爆炸,你要版本管理和一键回滚——配置中心的下岗再就业
- 上下游要约定输出格式,你要结构化输出和 JSON 校验——契约先行的老祖宗
Aha 就在这:大模型没有让工程学过时,它只是给工程学出了一批新试卷。
2026 年的真实行情:培训机构在批量生产"会调 API、会写 Prompt"的简历,会写 Demo 的人飞速贬值;能把 AI 功能扛住真实流量的工程师,在各家公司的招聘清单上都挂着高价。
你的 Java 背景不是包袱,是你还没兑现的期权。
不讲术语的版本:AI 应用开发到底在干什么¶
忘掉"人工智能"这四个字自带的神圣感。打个比方:
你是一家公司的老板,你雇了一个学识渊博但脾气古怪的顾问:
- 他读过全互联网的书(训练数据),什么都能聊
- 但他对你公司内部的事一无所知(知识截止 + 不知道你的业务)
- 他偶尔会一本正经地胡说八道(幻觉)
- 他每次回答都收钱,回答越长越贵(Token 计费)
- 他心情不稳定,同一个问题问两遍,答案可能不一样(温度参数)
你的工作,就是这个"顾问"的管家和经纪人:
- 他说謊时,你要给他递资料:"按这份材料回答"(这叫 RAG,检索增强生成)
- 他够不着外部数据时,你要给他配工具:"这是数据库密码,自己查"(这叫 Function Calling)
- 任务复杂时,你要替他拆解步骤:"先查库存,再算利润,最后写报告"(这叫 Agent 编排)
- 他表现不稳定,你要打分考核:"这周一百个问题,答好了几个"(这叫评测)
看出来了吗?这就是一个项目经理 + 系统架构师的活。 跟"炼丹"(训练模型)基本没关系。模型是别人炼好的药,你是抓药、配伍、看疗效的医生。
Java 老司机对照室¶
| 你熟悉的 | AI 世界对应的 | 一句话迁移 |
|---|---|---|
| Spring Bean 管理 | LangChain/LangGraph 组件编排 | 都是把零件组装成流水线 |
| HttpStatus + 统一异常 | LLM 超时、限流、降级 | 不稳定的第三方依赖,你见得还少吗 |
| AOP 日志拦截 | Prompt 模板 + 调用链追踪 | 横切关注点,换个名字而已 |
| 规则引擎 Drools | Prompt + 结构化输出 | 从"写规则"到"写说明",门槛反而降了 |
| 配置中心 Apollo | Prompt 版本管理 | 改配置要灰度,要回滚,一模一样 |
| JVM 调优 | 推理部署、量化、批处理 | 从"优化代码"到"优化算力" |
| 单元测试 Mockito | 评测集 + LLM-as-judge | 都在回答:"它到底对不对" |
这张表是本书的隐藏骨架。几乎每一篇,我都会给你一张这样的对照表——新知识不是凭空长出来的,是挂在旧经验的树上的。
动手实验室:今晚就能做的三件事¶
不需要装环境,今晚就可以完成:
- 打开任意一个大模型对话产品(DeepSeek、通义千问、ChatGPT 都行),问它一个你工作中的真实问题,比如"帮我 review 这段 Java 代码的并发风险"。感受它"懂但不够懂"的边界。
- 故意诱导它犯错:问一个你专业领域内、但比较偏门的问题。记下它开始胡说八道的点。这个点,就是未来你做 RAG 时最值钱的经验——你知道它会在哪摔倒。
- 打开 PowerShell/终端,输入
python3 --version。从今晚起,它就是你下一个十年的搭档。
费曼复述卡(合上书,讲给别人听)¶
- 用一分钟向同事解释:为什么说"AI 应用开发是 Java 工程师的第二次机会"?提示词:别谈技术,谈岗位供需。
- 那个"学识渊博但脾气古怪的顾问"的比喻里,RAG、Function Calling、Agent 分别对应管家做了什么动作?
- 举一个你自己项目中的例子(限流/灰度/排查),然后说明它在 AI 系统里会以什么形式出现。
三题都能不打绊地讲出来,序章才算过。讲不出来?回到对应小节重读,这不是失败,这是费曼学习法在正常工作——卡住的地方,正是你知识的裂缝,光从那里照进来。
今日一句话¶
大模型时代,写代码的在贬值,管模型的在升值——而"管模型"这件事,你已经做了很多年,只是以前管的是线程、连接池和消息队列。