为左副将军，位居右副将军冯胜之上。然后向北攻取大同，转而攻下奉元路，与冯胜军会合，向西攻占凤翔。洪武二年（1369年），元将也速进攻通州，朱元璋命令常遇春返回警备，命平章李文忠为副手，率九万大军从北平出发，向会州前进，在锦州击败元将江文清，在全宁击败也速。进攻大兴州时，将一千骑兵分八路埋伏。守将趁夜逃走，常遇春将他们全都擒获。之后率军攻占元上都，元顺帝逃奔和林。胜利而归，途中行至柳河川（今河北赤城县龙关镇西），以“卸甲风”病暴卒，年仅四十。朱元璋闻讯写诗痛悼：“忽闻昨日常公薨，泪洒干坤草木湿”，陪葬孝陵