Rommedahl spilte ungdomsfotball for flere klubber, bl.a. B 93 og Lyngby FC. Han debuterte i seniorsammenheng i 1995 for Lyngby, som spilte i den danske superligaen.