后，冯胜被授为开国辅运推诚宣力武臣、特进荣禄大夫、右柱国，参与军国大事，并封为宋国公，年禄三千石，并被授予丹书铁券。铁券中谓冯胜兄弟亲同骨肉，十余年间，除肘腋之患，建爪牙之功，平定中原，佐成天下。所以对冯胜称赞备至。洪武五年，因冯胜效力四方，因而与魏国公徐达、曹国公李文忠分别被赐给彤弓。洪武五年，明军十五万兵分三路，出击漠北，即明太祖第二次北伐。命冯胜为征西将军，率副将军陈德、傅友德等从西路出击，攻取甘肃。到兰州时，傅友德率领骁骑为前锋，再败元军，冯胜复败之于扫林山。到达甘肃，元将上都驴出迎投降。到达亦