EAGLE: Speculative Sampling Requires Rethinking Feature Uncertainty
Yuhui Li, Fangyun Wei, Chao Zhang, Hongyang Zhang
De quem é
University of Waterlooafiliação declarada pelos autores, segundo o OpenAlex
Outros papers das mesmas organizações
- Unleashing the Power of Edge-Cloud Generative AI in Mobile Networks: A Survey of AIGC ServicesKyung Hee University · 572 citações
- Fine-Tuning LLaMA for Multi-Stage Text RetrievalMicrosoft Research Asia · 540 citações
- EAGLE-2: Faster Inference of Language Models with Dynamic Draft TreesUniversity of Waterloo · 506 citações
- EAGLE-3: Scaling up Inference Acceleration of Large Language Models via Training-Time TestMicrosoft Research Asia · 465 citações
- Does provable absence of barren plateaus imply classical simulability?Los Alamos National Laboratory · 452 citações
- VL-Rethinker: Incentivizing Self-Reflection of Vision-Language Models with Reinforcement LearningAnt Group · 351 citações