- 官网发布时间
- 本站收录时间
- 最近链接检查
- 暂无检查记录
以上为北京时间。链接检查不代表仍在招聘,申请前请以招聘官网为准。
职位描述
岗位职责:
1、负责大模型(语言模型、多模态模型等)在推理侧的性能优化与加速工作,聚焦模型量化、投机采样、KV Cache 管理等核心方向;
2、推动大模型在公司自研芯片上的高效部署,包括计算图导出、图优化、算子融合及性能调优;
3、持续跟进大模型推理领域的前沿技术,快速进行方案验证与工程落地;
4、与编译团队协作,共同推进大模型在自研芯片的高效运行。
任职要求:
1、硕士及以上学历,计算机科学及相关专业;
2、熟悉 Transformer 等主流大模型架构,理解其推理流程,具备扎实的深度学习基础;
3、熟练掌握 PyTorch 等主流深度学习框架,具备一定的工程实践能力。
加分项:
1、模型压缩(如量化、剪枝)或推理优化(如投机采样、KV cache 优化);
2、ONNX / PyTorch 2 Export 等计算图导出与部署工具链上的经验;
3、向开源项目(如 PyTorch、HuggingFace、vLLM 等)贡献过代码;
4、有 ACM 等算法竞赛背景。