Mjällby pelasi Ruotsin maajoukkueessa 49 maaottelua ja teki neljä maalia. EM-kisoissa hän pelasi vuosina 2000 ja 2004 sekä MM-kisoissa vuonna 2002, jolloin hän oli joukkueen kapteeni. Mjällby lopetti aktiiviuransa toukokuussa 2006 vammojen takia. Hän on nykyään Viasat Sportin jalkapalloasiantuntija.