Mittfältaren sköt in från baren inom några sekunder efter att ha satt sig på Adam Armstrongs huvud.
Bradford, vars outsidehopp om automatisk League One-kampanj nu är borta, gick nära genom Josh Cullen och Jamie Proctor.
Deras eländiga kväll var klar när Steven Davies skickades iväg för en off-the-ball incident.
Bantams har sjunkit till femte men stanna i play-off platser, medan Coventry är 11: e, sex poäng blyga av de sex bästa, efter sin andra seger på fyra dagar.
Sky Blues chef Tony Mowbray berättade för BBC Coventry & Warwickshire:
"Andy Rose är en bra spelare. Han har en bra framtid på den här klubben. Jag hade ett långt samtal med honom innan matchen, eftersom han var den enda förändringen från helgen.
"Han är en fantastisk idrottsman. Han är 6ft 2ins, han kan styra det, han kan springa, han kan spraya långa pass. Hans tid kommer att komma.
"Målen hade torkat upp och vi förlorade matcher, men jag har alltid varit stolt över mina spelare. Jag har aldrig behövt ifrågasätta deras önskan."
Substitute Andy Rose gjorde med sin första touch som Coventry City kantad till seger över 10-man Bradford City.