个人简介

我是北京大学信息科学技术学院电子信息科学类实验班(信班)本科生, 关注大模型训练与推理框架、GPU 算子优化。

教育背景

  • 2023.09 - 至今 北京大学,信息科学技术学院,电子信息科学类实验班(信班); 计算机科学与技术专业双学位。

相关课程:数据结构与算法、概率论与随机过程、计算机网络、 信号与系统、模拟集成电路、数字系统设计、高层次芯片设计、 芯片设计自动化与智能优化。

研究兴趣

  • 大模型推理系统优化。
  • GPU 算子优化与异构硬件适配。
  • AI 芯片软件栈、自定义算子与软硬件协同设计。

项目经历

Spec-AUF

面向 block drafter speculative decoding,提出 Acceptance-Until-Failure (AUF): 在不引入辅助目标、verifier rollout 或推理流程改动的前提下,将 cross-entropy 支持截断到 drafter 的第一次预测失败处,使训练监督更集中于推理中实际可提交的 accepted prefix。在 Qwen3-8B 固定 drafter backbone 与 serving 设置下,AUF 使 DFlash 平均 emitted length τ 提升 8.8%。arXiv preprint

BridgeMoE

面向大规模 MoE 模型的专家卸载运行时。该工作分析不同 GPU 专家缓存比例下的 瓶颈转移:低缓存场景主要受传输限制,较高缓存比例下则暴露 kernel launch 和 micro-kernel 开销。BridgeMoE 结合 EAGLE3 草稿路径上的置信度门控树扩展、 共享卸载流水线和融合算子,在 Qwen3-30B-A3B 与 GPT-OSS-20B 上提升稳态解码吞吐; 固定缓存场景下相对自回归卸载基线平均达到 1.44x。

FlashRT

VLA 实时推理加速库 FlashRT core contributor,参与 Qwen3-VL、GROOT、Pi0.5 等路径的内核、构建和部署支持: [PR #125], [PR #120], [PR #117], [PR #116], [PR #101], [PR #100], [PR #99], [PR #98], [PR #96], [PR #93].

荣誉奖励