Gunnarsson signerte en treårskontrakt for den engelske Championship-klubben 17. juni 2008, etter en overgang som inkluderte en ikke oppgitt overgangssum. Gunnarsson spilte sin første kamp for klubben i første kamp den påfølgende sesongen, da laget slo 3–1. Karrierens første mål scoret han mot Premier League-klubben da lagene møttes i FA-cupen 14. februar 2009. I løpet av sin periode i Coventry City førte økt oppmerksomhet fra Premier League-klubber til at Coventry forbedret hans kontraktsbetingelser. Gunnarssons første seriemål ble scoret da Coventry City møtte 7. april 2009. Gunnarsson ble i sin første sesong for Coventry City kåret til årets spiller av klubbens supportere, samt i klubbens .