From post

копировать удалить добавить публикацию в буфер
Запись сообщества
посмотреть историю данной записи
URL
DOI
BibTeX
EndNote
APA
Chicago
DIN 1505
Harvard
MSOffice XML

MegaScale: Scaling Large Language Model Training to More Than 10, 000 GPUs.

Z. Jiang, H. Lin, Y. Zhong, Q. Huang, Y. Chen, Z. Zhang, Y. Peng, X. Li, C. Xie, S. Nong, Y. Jia, S. He, H. Chen, Z. Bai, Q. Hou, S. Yan, D. Zhou, Y. Sheng, Z. Jiang, H. Xu, H. Wei, Z. Zhang, P. Nie, L. Zou, S. Zhao, L. Xiang, Z. Liu, Z. Li, X. Jia, J. Ye, X. Jin, и X. Liu. NSDI, стр. 745-760. USENIX Association, (2024)

Please choose a person to relate this publication to

To differ between persons with the same name, the academic degree and the title of an important publication will be displayed.

Chen Chen

Chen Chen

Shih Chen Chen

Yi-Chen Chen

Chen-Loung Chen

Другие публикации лиц с тем же именем

SP-GNN: Learning structure and position information from graphs.Y. Chen, J. You, J. He, Y. Lin, Y. Peng, C. Wu, и Y. Zhu. Neural Networks, (апреля 2023)BGL: GPU-Efficient GNN Training by Optimizing Graph Data I/O and Preprocessing.T. Liu, Y. Chen, D. Li, C. Wu, Y. Zhu, J. He, Y. Peng, H. Chen, H. Chen, и C. Guo. NSDI, стр. 103-118. USENIX Association, (2023)DL2: A Deep Learning-Driven Scheduler for Deep Learning Clusters.Y. Peng, Y. Bao, Y. Chen, C. Wu, C. Meng, и W. Lin. IEEE Trans. Parallel Distributed Syst., 32 (8): 1947-1960 (2021)A generic communication scheduler for distributed DNN training acceleration.Y. Peng, Y. Zhu, Y. Chen, Y. Bao, B. Yi, C. Lan, C. Wu, и C. Guo. SOSP, стр. 16-29. ACM, (2019)Preemptive All-reduce Scheduling for Expediting Distributed DNN Training.Y. Bao, Y. Peng, Y. Chen, и C. Wu. INFOCOM, стр. 626-635. IEEE, (2020)SAPipe: Staleness-Aware Pipeline for Data Parallel DNN Training.Y. Chen, C. Xie, M. Ma, J. Gu, Y. Peng, H. Lin, C. Wu, и Y. Zhu. NeurIPS, (2022)MegaScale: Scaling Large Language Model Training to More Than 10, 000 GPUs.Z. Jiang, H. Lin, Y. Zhong, Q. Huang, Y. Chen, Z. Zhang, Y. Peng, X. Li, C. Xie, S. Nong и 22 other автор(ы). NSDI, стр. 745-760. USENIX Association, (2024)Optimus: an efficient dynamic resource scheduler for deep learning clusters.Y. Peng, Y. Bao, Y. Chen, C. Wu, и C. Guo. EuroSys, стр. 3:1-3:14. ACM, (2018)Elastic parameter server load distribution in deep learning clusters.Y. Chen, Y. Peng, Y. Bao, C. Wu, Y. Zhu, и C. Guo. SoCC, стр. 507-521. ACM, (2020)

Что такое BibSonomy?: С чего начать; Кнопки для браузера; Помощь
Разработчикам: Обзор; API-документация

Контакт и защита личных данных: о нас; Cookies; Сообщить о проблеме; BibSonomy Вики

Интеграция: PUMA; Расширение для TYPO3; Плагин для; Клиент Java REST; Поддерживаемые источники; далее

О BibSonomy: Команда; Блог; Список рассылки
Социальные сети: Наш Twitter