Jeremies vestì per la prima volta la maglia della nazionale tedesca il 15 novembre 1997, in un'amichevole con il Sudafrica. Quindi giocò i Mondiali 1998, in occasione dei quali il comico tedesco Harald Schmidt lo soprannominò "Jens Jerenaldo". Jeremies fu allontanato dalla nazionale in seguito a Euro 2000 in quanto durante la preparazione aveva definito la squadra "patetica"; fu in seguito riammesso e prese parte ai Mondiali 2002. Si ritirò dal calcio internazionale dopo l'uscita della Germania a Euro 2004 per concentrarsi sul Bayern Monaco.