身淮军将领刘铭传的“铭军”，在差遣队当差，后来慢慢地升到哨长和哨官，参加平定陕甘回乱，之后随左宗棠进军新疆。随军从新疆调防内地进驻山东济宁。冯有茂在济宁与当地妇女游氏结婚，次年生长子冯基道，（共有七个儿子，其中冯玉祥是次子。）长子出世次年，铭军解散。文盲的冯有茂南下返回老家，考武举人未成，生活无着，不得已，又重新入伍，随淮军至直隶青县兴集镇驻防。光绪八年（1882年）9月26日，生下次子冯玉祥，当时按族谱起名为冯基善。这时李鸿章为直隶总督，淮军在保定府“五营练军”，冯有茂携家到保定府，保定成为冯玉祥儿童