初，他加入了安徽都督柏文蔚军。1913年（民国2年），他转投张宗昌手下，后任营长。1917年（民国6年），张宗昌被冯国璋任命为第6混成旅旅长，褚玉璞仍任其手下营长。同年，张任暂编陆军第1师师长，褚玉璞升任团长。1921年（民国10年）张宗昌的军队在江西省丧失，褚玉璞随张宗昌转投奉系。此后，他历任第3混成旅第50团团长、第28混成旅旅长。1926年（民国15年），他任直鲁联军第1军副军长兼前敌总指挥，击破冯玉祥的国民军。因此功绩，他被任命为直隷军务督办兼直隷省长。1928年（民国17年）奉系在同中国国民党