内改革成果有限，国民党也未能在2004总统大选赢回执政权。2004年8月，出任东吴大学校长，重回学术界工作，将东吴大学定位为杰出教学之大学。2006年，东吴大学在教育部第一届奖励大学教学卓越计画评比中获全国第一名。2008年3月，中国国民党胜出总统选举。刘兆玄接受总统当选人马英九的组阁邀请，媒体谣传他将出任行政院长，尽管他初时否认，但渐渐演变为默认，4月10日，刘兆玄亲口证实，将接任行政院长。5月20日出任行政院长，并卸下东吴大学校长职务，由副校长马君梅暂代。虽然在5月30日第一次到立法院施政报告时