马英九市长任内，续任台北市副市长。2004年8月1日，从台北市副市长卸任。2014年10月24日，因为认为国民党的许多施政作为背离三民主义，在2014年台北市市长选举中白秀雄出面支持无党籍参选人柯文哲。在柯文哲当选市长后，担任柯文哲市政顾问与「社会局局长遴选委员会」召集人。12月19日，因为不满柯文哲宣布台大医院创伤医学部医师许立民将出任台北市政府社会局局长，白秀雄与社会局局长遴选委员会其他11位遴选委员发表具名抗议声明，并宣布辞去市政顾问一职。2015年8月19日，白秀雄与郑龙水等人成立社会福