Granqvist fikk sin landslagsdebut for i en vennskapskamp mot den 23. januar 2006 (0–0). Hans første scoring for Sverige kom i kampen mot den 7. september 2010 (6–0), da han kom inn som innbytter for en utvist Olof Mellberg. Han ble tatt ut i den svenske troppen til EM i fotball 2008, hvor han var ubrukt reserve og ikke fikk spille noen av Sveriges gruppespillkamper. Granqvist ble på nytt tatt ut til EM i fotball 2012 av landslagstrener Erik Hamrén.