Joe Jensen iniziò la propria carriera nel campionato giovanile della USHL con la maglia dei Sioux Falls Stampede. Dopo due stagioni si iscrisse alla St. Cloud State University, istituto appartenente al campionato della NCAA; in quattro stagioni totalizzò 153 presenze e mise a segno 100 punti, frutto di 45 reti e 55 assist. Nel Draft 2003 su selezionato in 232ª posizione assoluta dai Pittsburgh Penguins.