Han spilte for Brøndby IF fra 1986 til 1988 da han gikk til Hamburger SV, der spilte han 47 kamper før han i 1990 gikk tilbake til Brøndby. Han var i Brøndby i 2 nye år før han gikk til Arsenal FC i 1992. Han var i Arsenal frem til 1996 og selv om han fikk med seg 97 kamper ble ikke oppholdet i Arsenal beskrevet som en suksess. I 1996 var han igjen tilbake i Brøndby og han fikk med seg 90 kamper og scoret 3 mål før han i 1999 gikk til Herfølge BK. Her var han både spiller og hovedtrener. Her opplevde han sin største suksess i dansk serie da han ledet Herfølge frem til gull i den danske superligaen. Med denne prestasjonen ble han kåret til årets trener i Danmark. Men suksessen fortsatte ikke for Jensen, året etter rykket Herfølge ned fra superligaen.