直奉战争中，他由当初所属的直系转投冯玉祥所率第3路军。冯发动北京政变（首都革命）后，他追随冯，撃破直系。此后，冯所率的国民军採取协调姿态，马福祥陆续被剥夺各种权限。1925年（民国14年）他调任西北边防会办。
国民政府的活动.国民政府北伐结束后，马福祥接近蒋介石，任中国国民党中央候补执行委员。此后，依托马福祥和蒋介石，马鸿逵不断扩大军事和政治权力。马福祥自己于1929年（民国18年）11月任青岛市长。1930年（民国19年）3月，他任安徽省政府主席。同年10月，他任蒙藏委员会委员长