FlashInfer: Efficient and Customizable Attention Engine for LLM Inference Serving
Zihao Ye, Lequn Chen, Ruihang Lai, Wuwei Lin, Zhang, Yineng, Stephanie W. Wang, Tianqi Chen, Baris Kasikci e mais 3
De quem é
Nvidiaafiliação declarada pelos autores, segundo o OpenAlex
Outros papers das mesmas organizações
- VILA: On Pre-training for Visual Language ModelsNvidia · 1.080 citações
- FoundationPose: Unified 6D Pose Estimation and Tracking of Novel ObjectsNvidia · 925 citações
- CoT-VLA: Visual Chain-of-Thought Reasoning for Vision-Language-Action ModelsNvidia · 723 citações
- Neural operators for accelerating scientific simulations and designNvidia · 678 citações
- Small Language Models are the Future of Agentic AIGeorgia Institute of Technology · 628 citações
- Foundation models in robotics: Applications, challenges, and the futureNvidia · 583 citações