正二十七年（1367年）11月，朱元璋命徐达为征虏大将军，常遇春为副将军，率领25万大军进行北伐，朱元璋亲自在龙江为这次征讨举行祭神仪式，并亲授方略。徐达率军攻克沂州，招降守将王宣。进一步攻克峄州，王宣重新反叛，徐达便将他击杀。攻下莒、密、海诸州，然后派韩政分兵扼守黄河。张兴祖攻取东平、济宁，而自己率大军攻取益都，攻下淮、胶等州县。济南投降，徐达分兵攻取登、莱，山东全部平定。洪武元年（1368年），朱元璋即皇帝位，以徐达为银青荣禄大夫、上柱国、右丞相、兼太子少傅。常遇春攻克东昌，会师济南，击斩乐安反叛者