整体路径：编程基础 → Python & 后端开发 → 大模型基础 → LLM 应用核心技术 (RAG/Agent) → 框架与工程化 → 项目实战 → 面试就业

第一阶段：前置基础（2‑3 个月）

1. Python 核心

• 基础语法：数据类型、函数、类、异常处理、装饰器
• 常用库：requests、json、os、threading、asyncio异步（重点，调用大模型 API 高频）
• 数据处理：numpy、pandas简单使用，不需要深入算法

2. Web 后端基础（AI 应用要对外提供服务）

二选一，优先 FastAPI（AI 圈主流）

1. FastAPI：路由、Pydantic 参数校验、接口开发、异步接口
2. 了解 Flask 作为备选

目标：能写一个 HTTP 接口，接收输入，调用大模型 API，返回结果

3. Git & 开发工具

• git 提交、分支；vscode 调试；postman/apifox 调试接口；docker 基础

4. 简单数据库

• SQL 基础（MySQL）
• 向量数据库概念入门：知道向量是啥，不用马上精通

本阶段产出： 可以写简单 API 服务，调用 OpenAI / 通义千问 / 文心一言 API，完成简单问答 demo。

第二阶段：大模型理论基础（1‑1.5 个月）

不需要搞懂完整 Transformer 数学，但要懂工程视角原理

1. Transformer 核心概念：token、上下文窗口、embedding 向量、temperature、top‑p、system prompt、few‑shot
2. 区分：基座模型 / 微调模型 / 对齐 SFT / RLHF
3. API 调用机制：流式输出 SSE、批量调用、token 计费、限流、错误重试
4. 主流模型 API：OpenAI、DeepSeek、通义、豆包 API、Ollama 本地大模型

实操：Ollama 本地跑开源大模型（Llama3、Qwen），本地 API 调用，体会本地部署。

必掌握概念

• Prompt 工程：提示词模板、角色设定、思维链 CoT、Few‑Shot、提示词注入攻击
• Embedding：文本向量化，相似度计算余弦相似度

产出： 会写高质量 prompt；会调用云端 & 本地 LLM 接口；实现流式问答页面后端。

第三阶段 AI 应用核心技术（重中之重，2‑3 个月）

AI 应用开发工程师核心就是 RAG + Agent，这是求职项目的大头

模块 1：RAG 检索增强生成

完整 RAG 流程：文档加载 → 文本分割 (chunk) → embedding 向量化 → 存入向量库 → 用户 query 向量化 → 相似度检索 → 把检索结果拼入 prompt → LLM 生成答案

学习要点：

1. 文档解析：PyPDF、Markdown、docx 解析
2. 文本切分：LangChain RecursiveCharacterTextSplitter，分块大小、重叠度调参
3. 向量数据库：Chroma（本地测试）、Milvus（生产）、FAISS
4. RAG 优化：重排序 Reranker、查询改写、多轮 RAG、过滤无效文档、防止幻觉
5. 常见坑：分块不合理、向量质量差、检索无关内容导致回答错误

模块 2：Agent 智能体

1. Agent 基础概念：思考‑行动‑观察 ReAct 框架
2. 工具调用 Function‑call：大模型调用自定义工具（查数据库、联网搜索、计算器）
3. 记忆模块：短期记忆、长期记忆、对话历史管理
4. 多 Agent 协作基础

主流开发框架

1. LangChain：最流行，快速搭建 RAG/Agent，重点学
2. LlamaIndex：侧重文档检索 RAG
3. OpenAI Agent SDK / AutoGen：多智能体

不要死磕框架源码，先会使用；有余力再读源码。

额外能力

• 联网检索：对接搜索引擎 API 给 Agent 获取实时信息
• 多模态：图文输入，调用 LLM 视觉接口

本阶段目标：独立实现知识库问答系统、简单工具 Agent。

第四阶段：工程化 & 生产落地（1.5‑2 个月）

很多人只会 demo，缺少工程能力，面试容易被刷。

1. Docker 容器化：打包 RAG 应用镜像，部署
2. 异步、并发：大模型调用慢，异步任务队列 Celery；限流、超时、重试机制
3. 向量库生产部署：Milvus 单机 / 简单集群
4. 可观测：日志记录、token 统计、耗时统计、错误捕获
5. 前端最简对接：了解 Vue/React 基础，或者用 Streamlit/Gradio 快速做演示页面
   
6. 微调基础（应用开发工程师不需要精通训练）
   

部署选项

• 本地：Ollama + Chroma
• 云服务器部署阿里云 / 腾讯云
• 容器部署

第五阶段：项目实战（找工作核心，至少 3 个完整项目）

项目 1｜轻量知识库 RAG 系统（必做）

功能：上传 PDF/Markdown 文档，知识库管理，基于文档问答，溯源引用来源，流式输出。
技术栈：FastAPI + LangChain + Milvus/Chroma + Ollama/Qwen 开源模型 + Gradio/Streamlit

项目 2｜工具 Agent 智能助手

可以调用工具：联网搜索、计算、查询本地文件，ReAct/Function‑call 实现，支持多轮对话记忆。

项目 3｜业务类 AI 应用（贴近求职）

可选：

• AI 客服助手（RAG + 业务知识库）
• AI 文档总结分析工具
• 多模态文档解析助手
• 企业内部问答机器人

项目要求：放到 GitHub，写清晰 README，说明功能、技术栈、部署步骤；最好录演示视频。

第六阶段：拓展方向（根据岗位选择）

1. 偏向大模型应用后端：深入并发、消息队列、微服务、高可用，熟悉 LLM 服务网关
2. 偏向 Agent 开发：AutoGen、Agent 框架，复杂工作流编排
3. 偏向私有化部署：Ollama、vLLM 模型推理部署，了解模型量化、vLLM/TGI 推理服务 API
4. 多模态 AI 应用：图片理解、语音转文字 ASR、语音合成 TTS 集成

注意：AI 应用开发≠推理部署工程师，不需要精通 CUDA、模型底层，但要懂 vLLM 怎么调用 API。

学习资源推荐

文档

1. LangChain 官方文档、LlamaIndex 文档
2. Ollama 官方文档
3. Milvus 向量数据库官方文档
4. 各厂商大模型 API 文档（豆包、Qwen、DeepSeek）

免费课程

1. LangChain 官方教程
2. 通义千问、Qwen 开源大模型教程
3. B 站：RAG 实战项目、Agent 实战项目

开源参考项目

• langchain‑chatbot
• Qwen‑RAG 示例
• AutoGen 官方样例

技能清单面试版（简历可以参考）

编程语言 & 框架

• Python，FastAPI 异步接口开发，Git，Docker
  大模型应用
• Prompt 工程，Function‑call 工具调用，RAG 检索增强生成，Agent 智能体开发
• LangChain、LlamaIndex；Ollama 本地开源大模型部署调用
• 向量数据库 Chroma、Milvus，Embedding，Reranker 重排序
  工程能力
• LLM 流式输出 SSE，接口限流、重试、异常处理；文档解析 PDF/Word
  了解：LoRA 微调概念，vLLM 推理服务，多模态能力集成

时间规划总览

• 零基础：6‑9 个月
• 有后端开发基础：3‑5 个月，直接从大模型应用 RAG/Agent 切入

避坑提醒

1. 不要一头扎进 Transformer 数学推导，应用开发重点是调用、组装、工程落地
2. 不要只跑 demo，一定要做工程化处理：异常、并发、日志，区分玩具 demo 和生产项目
3. 优先用开源模型做项目（Qwen、Llama3，Ollama），不要全部依赖 OpenAI 付费接口
4. RAG 项目一定要调参，体会分块大小、reranker 带来效果差异，面试会大量问 RAG 优化