pre-training

llm ,  microsoft ,  moe ,  mai ,  pre-training ,  muon ,  scaling-laws

llm ,  microsoft ,  paper ,  reinforcement-learning ,  moe ,  technical-report ,  research ,  pre-training