Splitwise: Efficient Generative LLM Inference Using Phase Splitting
Pratyush Patel, Esha Choukse, Chaojie Zhang, Aashaka Shah, Íñigo Goiri, Saeed Maleki, Ricardo Bianchini
De quem é
Microsoftafiliação declarada pelos autores, segundo o OpenAlex- University of Washingtonafiliação declarada pelos autores, segundo o OpenAlex
Outros papers das mesmas organizações
- s1: Simple test-time scalingStanford University · 1.957 citações
- Instruction Tuning for Large Language Models: A SurveyAlibaba Group · 1.416 citações
- REPLUG: Retrieval-Augmented Black-Box Language ModelsKorea Advanced Institute of Science and Technology · 1.206 citações
- OCRBench: on the hidden mystery of OCR in large multimodal modelsInstitute of Automation · 1.084 citações
- Improving Text Embeddings with Large Language ModelsMicrosoft · 1.029 citações
- Counterfactual Explanations and Algorithmic Recourses for Machine Learning: A ReviewUniversity of Washington · 949 citações