连谋幼年在家乡安兜村念私塾，1920年秋进入坝头小学读高等小学，1924年7月到其叔父创办的惠安螺阳中学学习。在校期间，他结识了革命党人许卓然，经其介绍，1925年秋到厦门投考黄埔军校第四期，被录取。 在黄埔期间，他是国民党的左派党员，他对党代表廖仲恺亲近，反对右派学生组织——孙文主义学会。1926年底他从军校毕业，即参加国民革命军北伐。参加了汀泗桥战役，同年七月升任连长。当国民革命军进入福建时，连谋任营长，于1927年至1931年间在泉州惠安、仙游等地驻防。 1932年至1935年，连谋在厦门海