华为高可扩展性亲和度架构低开销实现主动路由

华为：高可扩展性亲和度架构，低开销实现主动路由

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com本论文共同一作为李婧博士，孙志杰和林大超博士，主要成员来自GTSAI计算Lab，主要研究及落地领域包含LLM训推加速、AI训练保障和图计算。MoE因其在训推流程中低销高效的特点，近两年在大...