Skip to content

JD 清单:国内外公司在招岗位

本页速览 模型部署相关真实岗位长什么样?本文整理国内外 15+ 家公司在招的推理/MLOps/ML 平台岗位,逐条拆解核心要求,并标注薪资估计区间(供参考,非官方)。

本页含时效性内容,数据截止于 2025-12;JD、榜单、产品功能等信息可能已变化,引用前请核对原始出处。

JD 清单:国内外公司在招岗位

只看「要求」和「薪资」,不看真实 JD,是求职者最常见的认知偏差。本文整理 16 家国内外公司在招(截至数据日期)的推理 / MLOps / ML 平台类岗位,逐条拆解核心要求(技术栈)加分项,并给出薪资估计区间。

免责与时效

本文数据为估计值,岗位、城市与薪资随时会变,引用前务必核对原始出处(各公司官方招聘页见下文链接)。薪资写法如 30-60K×15 表示月薪区间 × 15 薪(估计);海外为年薪区间。dataAsOf: 2025-12 表示信息采集日期。

一、国内公司

1. 字节跳动(豆包 / 火山引擎)

  • 岗位方向:AI Infra 工程师、推理优化工程师(LLM)、GPU 集群调度工程师
  • 城市:北京、上海、杭州、深圳
  • 核心要求:K8s / Docker;GPU 调度(Kubernetes device plugin / volcano);推理引擎(vLLM、TensorRT-LLM、Triton 至少一项);性能剖析(nsys、perf);熟悉 LLM 推理
  • 加分项:CUDA 算子开发、RDMA 网络、量化(FP8/INT8)落地经验
  • 薪资区间(估计):30-60K × 15(L4/L5 段),资深另议
  • 官方入口https://jobs.bytedance.com/

2. 阿里巴巴(阿里云 PAI / 通义)

  • 岗位方向:PAI 平台研发工程师、推理引擎工程师(大模型)、MLOps 平台工程师
  • 城市:杭州、北京、上海
  • 核心要求:Java/Go 后端 + K8s 生态;推理框架(Triton、vLLM、MNN、Pytorch Inference);模型服务编排(KServe/自研);对 部署模式 有工程经验
  • 加分项:Kubeflow/Argo 流水线、混部调度、大模型分布式推理
  • 薪资区间(估计):30-55K × 16(P6/P7 段)
  • 官方入口https://talent.alibaba.com/

3. 腾讯(机器学习平台 / 混元)

  • 岗位方向:机器学习平台研发、大模型推理优化、MLOps 工程师
  • 城市:深圳、北京、上海
  • 核心要求:C++/Go + 高性能服务;TensorRT/ONNX Runtime;GPU 集群管理;压测与容量规划(见 压测方法
  • 加分项:模型量化与剪枝、弹性推理、日志/监控体系搭建
  • 薪资区间(估计):25-50K × 16(T9/T10 段)
  • 官方入口https://careers.tencent.com/

4. 百度(飞桨 / 昆仑芯)

  • 岗位方向:飞桨推理部署工程师、昆仑芯软件栈工程师(CANN 类)、MLOps 平台
  • 城市:北京、深圳
  • 核心要求:熟悉 PaddlePaddle/ONNX 生态;算子优化(C++/CUDA/OpenCL);芯片工具链(npu-smi 类);量化与低比特部署
  • 加分项:自研芯片(昆仑芯)适配经验、端侧部署(Paddle Lite)
  • 薪资区间(估计):25-50K × 15
  • 官方入口https://talent.baidu.com/

5. 美团(搜索推荐平台)

  • 岗位方向:搜推模型部署工程师、推理服务负责人、GPU 平台工程师
  • 城市:北京、上海
  • 核心要求:高并发服务(C++/Go/Java);TensorRT/Triton;在线推荐模型(DeepFM 类)serving;延迟优化与资源治理
  • 加分项:动态批处理、模型热更新、多级缓存
  • 薪资区间(估计):28-55K × 15.5
  • 官方入口https://zhaopin.meituan.com/

6. 蚂蚁集团(AI 平台 / 百灵大模型)

  • 岗位方向:AI 平台研发、推理优化工程师、MLOps 工程师
  • 城市:杭州、上海、北京
  • 核心要求:K8s 与云原生;Triton/vLLM;金融级可靠性(容灾、灰度、审计);监控与告警 体系
  • 加分项:安全推理(联邦/机密计算,可参考 安全)、多租户隔离
  • 薪资区间(估计):30-60K × 16
  • 官方入口https://talent.antgroup.com/

7. 华为(昇腾 / 华为云 ModelArts)

  • 岗位方向:昇腾推理引擎工程师(MindIE)、ModelArts 平台工程师、算子库开发
  • 城市:深圳、北京、西安、上海
  • 核心要求:C++/Python;CANN/MindSpore 生态;算子开发与调优(昇腾 NPU);LLM 推理加速(PagedAttention 类)
  • 加分项:TensorRT 经验(可迁移)、NPU 亲和性优化
  • 薪资区间(估计):25-55K × 14-16(含绩效)
  • 官方入口:昇腾社区 https://www.hiascend.com/(招聘走 https://career.huawei.com/)

8. 京东 / 小红书 / 快手(补充观察)

公司岗位方向核心要求速写城市薪资区间(估计)
京东大模型推理、智能供应链 MLOpsvLLM、K8s、压测北京25-50K × 15
小红书推荐推理、AI InfraTriton、C++、GPU 集群上海、北京30-55K × 16
快手推理引擎、LLM servingTensorRT、CUDA、量化北京28-55K × 16

二、海外公司

9. NVIDIA(TensorRT / Triton)

  • 岗位方向:Deep Learning Performance Engineer、Triton Inference Server Engineer、TensorRT Software Engineer
  • 城市:Santa Clara、上海、深圳(NVIDIA 国内研发)
  • 核心要求:C++/CUDA;深度学习框架底层;性能剖析(Nsight);分布式推理
  • 加分项:参与过开源项目(TensorRT-LLM、Triton、vLLM 提交记录)
  • 薪资区间(估计):$150k-250k(美);国内对标 30-60K × 15+(估计)
  • 官方入口https://www.nvidia.com/en-us/about-nvidia/careers/

10. 微软(Azure ML / AI Infra)

  • 岗位方向:Azure ML Engineer、AI Platform Infra、ONNX Runtime Developer
  • 城市:Redmond、北京(微软亚太研发)、苏州
  • 核心要求:云原生(K8s);ONNX Runtime/MLflow;分布式训练与服务;MLOps 流水线 工程化
  • 加分项:Azure/Kubernetes 认证、开源贡献
  • 薪资区间(估计):$140k-230k(美);国内 30-55K × 15+(估计)
  • 官方入口https://careers.microsoft.com/

11. AWS(SageMaker / Inferentia)

  • 岗位方向:Machine Learning Engineer、SageMaker Platform、Neuron SDK 工程师
  • 城市:Seattle、北京(AWS 中国)、深圳
  • 核心要求:Python/Java + 云原生;SageMaker/KServe;模型服务与监控;可观测性实践
  • 加分项:AWS 认证、自研芯片(Trainium/Inferentia)适配
  • 薪资区间(估计):$140k-230k(美)
  • 官方入口https://www.amazon.jobs/

12. Google(Vertex AI / JAX serving)

  • 岗位方向:ML Infrastructure Engineer、TPU Serving、Vertex AI Platform
  • 城市:Mountain View、苏黎世、伦敦
  • 核心要求:分布式系统;JAX/TensorFlow serving;大规模容量规划(见 容量规划相关面试题
  • 加分项:TPU 经验、站点可靠性工程(SRE)背景
  • 薪资区间(估计):$150k-260k(美)
  • 官方入口https://careers.google.com/

13. Meta(TorchServe / ML Infra)

  • 岗位方向:ML Infra Engineer、TorchServe / PyTorch Serving、大规模推荐 serving
  • 城市:Menlo Park、London、纽约
  • 核心要求:C++/Python;PyTorch 生态;高并发低延迟系统;性能优化 实战
  • 加分项:开源 PyTorch/TorchServe 贡献、FPGA/ASIC 协同经验
  • 薪资区间(估计):$150k-270k(美)
  • 官方入口https://www.metacareers.com/

14. Hugging Face(Inference)

  • 岗位方向:Inference Engineer、Inference Endpoints、Optimum(ONNX/TensorRT)工程师
  • 城市:巴黎、纽约、远程
  • 核心要求:Python + 深度学习框架;ONNX Runtime/TensorRT/OpenVINO;Transformers 生态;容器化
  • 加分项:开源社区活跃、写过被广泛使用的部署工具
  • 薪资区间(估计):€60k-100k(欧洲)或 $120k-200k(美,估计)
  • 官方入口https://huggingface.co/careers

15. Anthropic / OpenAI(inference infra,远程友好)

公司岗位方向核心要求速写薪资区间(估计)
AnthropicInfra/Performance Engineer、ML Engineer(inference)大规模 LLM 推理、K8s、容量规划$180k-320k
OpenAIInference Infra、Platform EngineerLLM serving、GPU 集群、性能剖析$180k-350k

16. Databricks(MLOps)

  • 岗位方向:MLOps Engineer、ML Platform Engineer、MosaicML 推理工程师
  • 城市:San Francisco、远程
  • 核心要求:MLflow(Databricks 自家生态);K8s 与 GPU 集群;LLM 推理服务;模型注册与流水线
  • 加分项:MLflow 贡献者、大模型微调+部署全流程经验
  • 薪资区间(估计):$150k-260k(美)
  • 官方入口https://www.databricks.com/company/careers

三、共性总结:这些 JD 反复出现的高频技能

把 16 家公司的 JD 去重后,出现频率最高的技能可以归为五层:

层级高频关键词出现公司数(估计)本站对应页面
容器与调度Docker、Kubernetes、GPU 调度15+部署模式推理系统总体架构解剖
推理引擎vLLM、Triton、TensorRT、ONNX Runtime13+框架对比Triton 案例vLLM 案例
性能与成本压测、延迟优化、容量规划、量化12+性能优化量化压测方法
平台与流程CI/CD、模型注册、灰度、监控告警11+MLOps 流水线监控上线流程
LLM 专项KV Cache、连续批处理、张量并行、投机解码9+LLM 推理

对求职者的三个直接结论:

  1. K8s + 一种推理引擎 + 一个 LLM 概念 是几乎所有目标岗位的「最小公共子集」,值得最先补齐。
  2. 量化 / 性能优化是区分度最高的加分项:超过一半的 JD 把它列为加分或核心要求,而面试时能被深挖的候选人是少数。
  3. JD 名称是噪声,技能层级才是信号:把目标岗位的技能按上表五层归类,就能快速定位自己缺哪一层。逐层拆解的方法见 JD 知识点拆解

如何用这份清单

不要逐条投递。建议:圈出 3 个「够得着」目标 + 2 个「冲刺」目标,为每个目标岗位写一份定制简历(方法见 简历怎么写),再回到岗位版图判断岗位归类。

延伸阅读

参考资料

  • 各公司官方招聘入口见上文每家末尾链接(均为公司官网域名,可长期访问;岗位列表以官网当日为准)
  • 薪资区间参考:levels.fyi(海外 https://www.levels.fyi/ )与国内公开面经汇总,均为估计值