与兄弟郑遇霖都以勇力而着名，后郑遇霖与乡人有矛盾，要杀对方，郑遇春出面调停才得以解决。后众人认为郑遇春为贤才。朱元璋攻下滁州时候，以其兄郑遇霖为先锋，攻下数寨，郑遇春也因功升任总管。后攻打芜湖时，郑遇霖战死，郑遇春则帅领其众，后累功获左翼元帅。之后平定陈友谅，身先士卒，却从不自己表彰功劳，朱元璋感到奇异。后攻下六安，担任六安卫指挥佥事。之后与徐达征战山东、河南、河北，后攻破朔州，改朔州卫指挥副使。洪武三年，进同知大都督府事，封荥阳侯。次年镇守临濠，后因连坐爵位被夺。此后恢复，并再守卫朔州。之后跟从傅友德