Jensen ble innvalgt i Folketinget i 1987 hvor han satt inntil han trakk seg i 2007. I årene 1994-1996 var han forskningsminister, deretter i årene 1997-2001 justisminister i Poul Nyrup Rasmussens tredje regjering. Etter hans avgang fra Folketinget var han direktør for Telecom Scandinavia og bransjeforeningen Danske Advokater.