岗位职责
- 负责 AI API 网关核心架构设计与落地，支撑多租户、多模型、多通道调度。
- 主导 OpenAI 兼容协议适配与统一接口抽象，对接 vLLM、Ollama 及外部商业模型 API。
- 设计并实现智能路由能力：负载均衡、健康检查、故障转移、限流熔断、降级策略。
- 负责计量链路设计与实现：按组织-人员-Key 的精细化 Token 计量与数据一致性保障。
- 负责认证鉴权与安全治理：API Key 生命周期、RBAC、审计日志、重放防护。
- 主导网关性能优化与容量规划，保障高并发、低时延和可观测性。
- 与前端、运维、安全、测试协同，推进里程碑交付和线上稳定运行。
- 负责核心代码评审、技术方案评审、工程规范建设与研发带教。
任职要求
- 3 年及以上后端研发经验，3 年及以上网关/中间件/高并发服务经验。
- 精通 Go，具备扎实的并发编程、网络编程、性能调优能力。
- 有 API Gateway、Service Mesh、反向代理或流量治理相关实战经验。
- 熟悉 HTTP/HTTPS、TLS、SSE、鉴权签名、限流熔断、重试与幂等设计。
- 熟悉 MySQL/PostgreSQL、Redis、异步队列与链路追踪体系。
- 具备分布式系统设计能力，能独立完成从方案到落地的闭环交付。
- 具备主程能力：可拆解需求、制定技术路线、带 2-5 人小组稳定交付。
加分项
- 有 LLM 推理网关、模型路由、Token 计量计费相关经验。
- 有 OpenAI 协议兼容、vLLM/Ollama 接入经验。
- 熟悉 Dify、n8n 等 AI 应用框架的集成模式。
- 有政企项目、等保合规、安全审计经验。
- 熟悉 Docker/Kubernetes、Prometheus/Grafana、ELK。
核心考核指标
- 2 个月内完成网关核心链路可用版本，支持端到端调用与基础监控。
- 满足目标并发与稳定性指标，关键接口 P95 时延和错误率达标。
- 建立可复用的网关工程规范与上线流程，重大故障可追踪、可回滚、可恢复。
- 关键里程碑按期交付，跨团队协作效率可量化提升。