Hij maakte zijn debuut voor de Zweedse nationale ploeg op 12 maart 1997 in de vriendschappelijke wedstrijd tegen Israël (0-1) in Tel Aviv. In totaal speelde hij 49 interlands waarin hij vier keer kon scoren. Mjällby speelde op het WK 2002 (waar hij aanvoerder was), het EK 2000 en het EK 2004.