模型优化算法实习生

岗位职责：

1. 参与自动驾驶模型训练加速与性能优化，包括：

Data Pipeline Optimization（数据流水线优化）、GPU utilization optimization（GPU利用率优化）、Training throughput optimization（训练吞吐优化）

2. 参与分布式训练系统优化，包括：

Multi-GPU / Multi-node Training（多机多卡训练）、Communication Optimization（通信优化）、Overlap Communication & Computation（通信计算重叠）

3. 参与训练框架与 Runtime 优化：

PyTorch Runtime Optimization、CUDA Kernel Optimization、Memory Optimization（显存优化）、Mixed Precision Training（混合精度训练）

4. 分析并优化模型训练瓶颈，包括：

GPU compute bottleneck、Data loading bottleneck、Kernel launch overhead、Distributed synchronization overhead

5. 参与自动化性能 Benchmark 与 Profiling 系统建设：

GPU profiling、Training regression analysis、Performance benchmarking

6. 跟踪并研究前沿训练加速技术，包括：

FlashAttention、Fused Operators、Torch Compile、CUDA Graph、Triton Kernel、Distributed Training Optimization

Preferred Qualifications

1. 有以下方向经验之一：

CUDA Programming、Distributed Training、GPU Kernel Optimization、AI Compiler、ML Systems

2. 熟悉以下工具或框架之一：

Nsight Systems、Nsight Compute、PyTorch Profiler、DeepSpeed、Megatron-LM、Horovod

3. 有以下优化经验之一：

CUDA Kernel Fusion、Memory Optimization、Communication Optimization、Training Throughput Optimization

4. 熟悉自动驾驶 / 多模态模型 / 大模型训练相关技术。

5. 有开源项目、竞赛或科研经历加分。