In 2002 zei hij de nationale ploeg vaarwel. In 2004 maakte Larsson echter weer deel uit van de nationale ploeg nadat zo'n 120.000 Zweden een petitie hadden getekend om Larsson hiertoe te overtuigen. Zweden verraste op het Europees Kampioenschap 2004 in Portugal met bij wijlen wervelend voetbal onder impuls van onder anderen Larsson. Na het EK bleef Larsson zich beschikbaar stellen voor Zweden. Hij vormde in de nationale ploeg een aanvalsduo met Zlatan Ibrahimović. Van het duo Larsson-Ibrahimovic werd tijdens het WK 2006 veel verwacht, maar het tweetal stelde net als de hele Zweedse ploeg teleur. Met moeite werd de achtste finale bereikt, waarin Duitsland echter redelijk gemakkelijk met 2-0 won. Aan het begin van de tweede helft kon Larsson uit een strafschop Zweden nog terug in de wedstrijd brengen, maar hij schoot hoog over. Na afloop van het toernooi verklaarde hij zijn interlandloopbaan te beëindigen Later kwam hij terug op die beslissing.