1922年8月，陈镜湖考入南开大学文科，主攻英文、法文和政治。在校期间，陈镜湖创办了向明学会。1923年参加中国社会主义青年团，负责天津团地方执行委员会的组织工作。同年转为中国共产党党员，成为了东北地区第一位中国共产党党员。此后，陈镜湖以个人身份加入中国国民党。1924年以直隶省代表的身份赶赴广州参加中国国民党第一次全国代表大会。会后，陈镜湖被派往内蒙古地区开展地下工作和兵运工作，并进入冯玉祥所属骑兵第二支队担任队长。当年9月，第二次直奉战争爆发，陈镜湖率部队参与作战，并以热河民军司令的身份率部随宋哲元进驻