De Hoop Scheffer var partiledare för Kristdemokratisk appell 1997–2001 och Nederländernas utrikesminister 2002–2003. I den senare kapaciteten spelade han en viktig roll i beslutet om att delta i invasionen av Irak 2003. Han valdes 2004 till Natos 11:e generalsekreterare, och satt på posten till 2009, då han efterträddes av Anders Fogh Rasmussen.