2000 februárjában mutatkozott be a svéd válogatottban, Olaszország ellen. 2000-es labdarúgó-Európa-bajnokság összes mérkőzésén míg a skandinávok ott voltak játszott és nem is akárhogyan. Rengeteg mentése és pontos passza volt. Szerepelt 4 darab Eb-n (Labdarúgó-Európa-bajnokság) és 2 darab Vb-n (Labdarúgó-világbajnokság). A 2004-es labdarúgó-Európa-bajnokságon hatalmas játékot mutatott be, és bekerült az All-Stars csapatba. Árnyék annyi teljesítményén, hogy a negyeddöntőben ő is kihagyta a büntetőt a tizenegyes párbajban, és ezzel Hollandia jutott tovább. Miután Johan Mjällby visszavonult a válogatottságtól Mellberg kapta meg a csapatkapiányi karszalagot. Egészen a 2006-os vb-ig (2006-os labdarúgó-világbajnokság). Balhé is volt meg Mellberg is lemondott róla. A 2012-es labdarúgó-Európa-bajnokság után lemondta a válogatottságot. 12 évig volt válogatott. 117 alkalommal szerepelt és 8 gólt szerzett.