Som försvarsminister ledde Jensby förhandlingarna om en politisk överenskommelse bland Folketingets partier om inriktningen på det danska försvaret, bl.a. med ökad satsning på fredsbevarande styrkor och internationellt samarbete. Han hamnade i blåsväder efter att Frank Søholm Grevil, major i den danska underrättelsetjänsten (Forsvarets Efterretningstjeneste, FE), i danska medier påstod att interventionen i Irak 2003, som Danmark deltagit i, vilade på falska grunder. I en intervju med TV 2 refererade Jensby i ärendet till Udvalget vedrørende Efterretningstjenesterne, ett politiskt kontrollorgan över de danska underrättelsetjänsterna. Detta ansågs bryta mot reglerna, då organets medlemmar, däribland Jensby, har tystnadsplikt. Då han förklarade att reglerna var oklara och kanske inte gällde ministern motarbetades han av både statsminister Anders Fogh Rasmussen och justitieminister Lene Espersen, som menade att reglerna gällde alla. Dessa händelser ledde till att Jensby avgick som minister 24 april 2004 och ersattes av Søren Gade.