paper7Atualizado em 21/11/2026 · English
← Todos os papers

SpecInfer: Accelerating Large Language Model Serving with Tree-based Speculative Inference and Verification

Xupeng Miao, Gabriele Oliaro, Zhihao Zhang, Xinhao Cheng, Zeyu Wang, Zhengxin Zhang, Rae Ying Yee Wong, Alan Zhu e mais 7

De quem é

Outros papers das mesmas organizações