命指挥康泰率数百人先行入城，吴军关闭城门，将他们全部杀害。朱元璋大怒，将冯胜召回，责罚十大杖，然后命他步行回高邮。冯胜既惭愧又气愤，拼力进攻。徐达也自宜兴返回，增兵攻克高邮，然后攻取淮安。安丰城陷，在旧馆擒获吴将吕珍。此后攻占湖州、平江，冯胜功劳仅次于常遇春，再升为右都督。此后，冯胜跟随徐达北征，攻下山东诸州郡。
南征北战.洪武元年（1368年），朱元璋称帝，冯胜兼任太子右詹事。因犯小罪而被贬官，任都督同知。随后，冯胜率军逆河而上，取汴梁、洛阳，攻下陕州，直趋潼关。守将夜逃，于是夺