顾问，直皖战争之际任侦探队长。后来他任奉天东边镇守使兼左路巡防队统领。翌年，他升任第11混成旅旅长，1923年（民国12年）调任第7混成旅旅长。1925年（民国14年）任第11师师长，1926年（民国15年）升任安国军第12军军长。同年4月，汤玉麟任热河都统，直到1933年（民国22年）的约7年。
放弃热河省.1928年（民国17年）张作霖在皇姑屯事件中被关东军刺杀，其子张学良继位，改立青天白日红旗，归顺国民政府，史称东北易帜。汤玉麟遂改任热河省政府主席。他还兼任中国国民党热河省党