选台北市长，刘兆玄义不容辞多次力挺协助。1999年9月21日凌晨，台湾中部发生7.3级的大地震，造成死亡2400多人，建筑损毁10万幢以上，经济损失超过新台币3600亿元。时任行政院副院长的刘兆玄担任救灾执行长，坐镇台中近三个月，完成抢救及灾民安置，获李登辉总统颁一等景星勋章。
2000年后.2000年总统大选中国国民党失利后，刘也辞去行政院副院长一职，并出任国民党主席连战的文胆。刘兆玄曾多次力劝国民党大幅度的改革调整，包括订定排黑条款，将不符合资格的国民党公职人员开除党籍、将党产