俊雄出任中华民国总统府秘书长，八掌溪事件后转任行政院副院长。2000年10月，张俊雄接替唐飞出任行政院长，成为第一位民进党籍的行政院长。张俊雄任内，宣佈停建核四一事引发立法院的强烈反弹；2002年1月，张俊雄在立法院改选后辞去行政院长一职，行政院长改由游钖堃接任。同年，原任考试院院长许水德任期届满。陈水扁原想提名他出任考试院长，但他的「双人枕头」问题在这段期间再度被激化，他与妻子徐瑞英离婚，但即同情妇朱阿英结婚。以免被招人话柄，在民进党秘书长非专职化改革失败后，兼任党主席的陈水扁任命他出任民进党秘书长。