Mellberg regnes som en av Sveriges beste backer. Tidligere har han spilt for Degerfors, AIK, spanske Racing Santander, Aston Villa, Juventus og den greske klubben Olympiakos. Under oppholdet i Santander debuterte Mellberg på , og fikk sin mesterskapsdebut i EM 2000.