AI Infra 后端开发工程师 — 学习路线

AI Infra 后端开发工程师 — 学习路线

目标：3个月可切换到AI Infra后端岗位

能力迁移地图

3个月学习计划

Month 1：Go语言 + 云原生基础

目标：能用Go写生产级后端服务，理解容器化部署

关键资源：

• 《Go程序设计语言》前8章
• gobyexample.com— 每天刷20个例子
• github.com/grpc/grpc-go/examples— 官方gRPC示例

Month 2：消息中间件 + 推理网关理解

目标：理解AI推理服务的后端基础设施

关键资源：

• redis.io/docs— Redis Stream教程
• github.com/vllm-project/vllm— 重点看vllm/entrypoints/openai/api_server.py和vllm/core/scheduler.py
• nats.io— NATS官方文档（比Kafka更适合Agent场景）

Month 3：实战项目 — 自建Agent推理网关

目标：从0搭建一个可运行的多模型推理网关

项目：Mini Hermes Gateway

┌──────────────────────────────────────────┐ │ API Gateway (Go) │ │ /v1/chat/completions (SSE streaming) │ │ /v1/models │ │ /v1/health │ └──────────────┬───────────────────────────┘ │ gRPC ┌──────────────▼───────────────────────────┐ │ Model Router (Go) │ │ 负载均衡 / 模型选择 / 队列管理 │ └──────┬──────────────┬────────────────────┘ │ │ ┌──────▼──────┐ ┌─────▼──────┐ │ vLLM node 1 │ │ vLLM node 2│ │ (GPU 0) │ │ (GPU 1) │ └─────────────┘ └────────────┘

简历项目清单（按优先级）

🥇 Mini Hermes Gateway（核心项目）

• Go实现OpenAI兼容推理网关
• 支持多模型路由 + SSE流式 + Redis会话管理
• Docker Compose一键部署
• 面试价值：直接对应AI Infra日常工作的80%

🥈 RTOS Scheduler in Go（展示并发功底）

• 用Go实现一个抢占式调度器
• 支持优先级反转检测、deadline调度
• 面试价值：证明并发编程深度理解，嵌入式背景正确定价

🥉 gRPC Bridge（展示协议设计能力）

• 协议栈用gRPC重新实现
• 支持流式数据传输、从站配置协议
• 面试价值：证明能从0设计通信协议，这是AI Infra核心能力

4️⃣ vLLM源码分析笔记

• 推理引擎架构、KV-cache管理、PD分离
• 公开发在技术博客/GitHub
• 面试价值：证明你对AI推理系统有深度理解，不是只会调API

每周时间分配

关键里程碑