其叔父创办的惠安螺阳中学学习。在校期间，他结识了革命党人许卓然，经其介绍，1925年秋到厦门投考黄埔军校第四期，被录取。 在黄埔期间，他是国民党的左派党员，他对党代表廖仲恺亲近，反对右派学生组织——孙文主义学会。1926年底他从军校毕业，即参加国民革命军北伐。参加了汀泗桥战役，同年七月升任连长。当国民革命军进入福建时，连谋任营长，于1927年至1931年间在泉州惠安、仙游等地驻防。 1932年至1935年，连谋在厦门海上公安部门任职。1936年被引荐给康泽和戴笠，加入军统，并随之上庐山，在康、戴