Nell'estate 2002 passa ai tedeschi del per tre anni, dove nella stagione 2003-2004 vince il Campionato Tedesco e una Coppa di Germania. Dopo questi successi il c.t. Otto Rehhagel lo porta all'Europeo del 2004 vinto dalla Grecia dove Charisteas diventa un eroe nazionale segnando il goal nella finale. Nella Champions League 2004/2005 segna anche un paio di goal importanti per il cammino della sua squadra in questa competizione.