DeepSeekMoE: Towards Ultimate Expert Specialization in Mixture-of-Experts Language Models
Damai Dai, Chengqi Deng, Chenggang Zhao, R.x. Xu, Huazuo Gao, Deli Chen, Jiashi Li, Wangding Zeng e mais 9
De quem é
- Nanjing Universityafiliação declarada pelos autores, segundo o OpenAlex
- Peking Universityafiliação declarada pelos autores, segundo o OpenAlex
Tsinghua Universityafiliação declarada pelos autores, segundo o OpenAlex
Outros papers das mesmas organizações
- DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language ModelsPeking University · 12.684 citações
- DETRs Beat YOLOs on Real-time Object DetectionBaidu · 8.096 citações
- Intern VL: Scaling up Vision Foundation Models and Aligning for Generic Visual-Linguistic TasksChinese Academy of Sciences · 3.956 citações
- DeepSeek-Coder: When the Large Language Model Meets Programming -- The Rise of Code IntelligencePeking University · 2.491 citações
- A Comprehensive Survey of Continual Learning: Theory, Method and ApplicationTsinghua University · 2.465 citações
- VBench: Comprehensive Benchmark Suite for Video Generative ModelsNanjing University · 2.431 citações