陈水扁欣赏而获升为国防部副部长，后期拒绝陈水扁要他出任退辅会主委的邀请，并加入陈水扁三一九枪击案真相调查委员会。2008年，马英九不顾社会反对下，让其出任马英九政府首位国防部长，也是史上第二位台湾本省籍国防部长。是继唐飞与李天羽以来，第三位空军出身的国防部部长。2012年4月，因涉入江国庆案，已遭到中华民国国防部求偿新台币1474万714元。
国防部长任内言行.
因本省人背景而出任国防部长.2008年，马英九当选总统，当时陈肇敏已退伍，马英九却挑选离开军中四年