Schon für die schwedische U-21-Auswahl lief er 16-mal auf. Für die A-Auswahl Schwedens gab er sein Debüt im Januar 2001 gegen die Färöer (0:0). Er kam in keinem Qualifikationsspiel für die Europameisterschaft 2004 zum Einsatz, konnte sich jedoch durch seine Leistung in den Vorbereitungsspielen zu diesem Turnier in das schwedische Aufgebot spielen und kam in Portugal in allen vier Spielen zum Einsatz. Seitdem war er Stammspieler der schwedischen Auswahl und wurde von Nationaltrainer Lars Lagerbäck in den Kader bei der Weltmeisterschaft 2006 und der Europameisterschaft 2008 berufen. Wilhelmsson nahm auch an der Europameisterschaft 2012 teil und kam dort in allen drei Vorrundenspielen zum Einsatz, als die Auswahl in der Gruppenphase scheiterte.