青年党迁往台湾，党主席曾琦却在1950年于美国过世。其后代主席李璜亦未至台湾，导致党内长期分裂。在这段期间，也曾经与民社党、台籍菁英、雷震等人，共同筹组新的政党「中国民主党」，然而在之后遭到国民党分化，以及恐惧该党成为台湾人的政党而退出。直到1968年左舜生来台，推动党的团结，并促请李璜回国，才于次年完成党的形式团结。青年党与民社党由于参与制宪，成为党禁之下台湾合法的两个在野党。1980年代由党籍增额立委谢学贤领导的青年委员会，在李璜支持下，试图进行党的改造，遭到内部其他团体的杯葛，党禁开放后，成员分裂自组