Granqvist begynte sin fotballkarriere hos sin lokale klubb Påarps GIF før han i 2004 meldte overgang til Helsingborgs IF, hvor han fikk sin seriedebut i Allsvenskan samme år. I 2006 hadde han etablert seg på førstelaget og fått vervet som lagkaptein. I 2006 vant Helsingborgs IF den Svenska Cupen med 2–0 over Gefle IF, hvor Granqvist var kaptein og hvor laget bestod av blant andre storspillere som Henrik Larsson, Andreas Jakobsson og Daniel Andersson.