20000元以上
* 专业要求:
* 职位描述:
工作职责:
1. 参与大模型推理引擎的优化开发,针对 Prefill、Decode 两阶段的计算特征做针对性架构优化
2. 负责 GPU 端核心算子的开发与性能调优,提升 Token 吞吐量与延迟稳定性
3. 参与分布式推理系统的架构设计,优化多卡 / 多节点间的 KV 缓存高速传输、任务调度与负载均衡,支撑推理集群的高效运行
4. 跟踪业界前沿推理优化技术(投机解码、分页注意力、FP8/INT4 量化、动态批处理等),开展技术调研与原型验证,快速落地到业务场景并实现性能收益
5. 建设推理性能评测与瓶颈分析体系,量化评估核心指标,定位系统瓶颈并输出端到端优化方案
任职要求:
1. 硕士及以上学历,计算机体系结构、高性能计算、计算机科学与技术、电子工程等相关专业
2. 具备扎实的计算机基础,精通 C/C++ 编程,熟悉 GPU 硬件架构与并行计算原理,有 CUDA 编程与算子优化实践经验优先
3. 深入理解 Transformer 模型结构与注意力机制,清晰掌握 LLM 推理 Prefill、Decode 两阶段的计算特征与性能瓶颈
4. 具备推理优化相关实践经历:有 vLLM、SGLang、TensorRT-LLM 等主流推理引擎的使用、二次开发或优化经历;或在实验室 / 过往实习中参与过 LLM 调度策略、KV 缓存管理、解码加速等相关项目者优先
5. 具备独立的问题分析与技术攻坚能力,能够通过性能 profiling 定位系统瓶颈并设计落地优化方案







北京中关村科金技术有限公司
招聘信息

津公网安备12010402000967号