进入冯玉祥所属骑兵第二支队担任队长。当年9月，第二次直奉战争爆发，陈镜湖率部队参与作战，并以热河民军司令的身份率部随宋哲元进驻承德。1924年底，陈镜湖一度返回建平县招募兵力，被奉系军阀发现后撤走。1925年初担任中共北方区委热河工委负责人。当年3月，孙中山在北京去世，陈镜湖以热河代表的身份赶赴北京参加悼念活动，并出席了国民会议促成会。1925年5月至10月，担任中共热河特别区工作委员会书记，当年冬天担任内蒙古工农兵大同盟执行委员。1926年春，陈镜湖率领国民军下属的内蒙古特别民军骑兵第二纵队，随冯玉祥与讨