Mediauppspelning stöds inte på den här enheten
Sean Geddes två mål hjälpte konferensen norra sidan genom på bekostnad av League One Sky Blues, Cup vinnare 1987.
League Two Portsmouth, vinnare 2008, lämnade det sent att dra 2-2 hemma med Conference Club Aldershot.
Northern Premier Blyth Spartans slog Conference Altrincham 4-1 för att ta deras plats i nästa omgång.
Mediauppspelning stöds inte på den här enheten
Worcester tog full fördel efter Coventry målvakt Lee Burge skickades iväg i första halvan för att surra ut på besök strejkaren Daniel Nti.
Geddes gjorde resultatet straff och lagt till ett andra mål 10 minuter in i andra halvlek.
Coventry's Reda Johnson missade ett straff innan pausen och trots att han gjorde mål sent, Worcester höll på.
"Vi var den bättre sidan," Worcester manager Carl Heeley berättade BBC Sport. "Vi är nio matcher oslagbara nu, så vi är en bra fotbollssida. Men att komma till en League One klubb och slå dem på sin egen plats - det är en lysande dag."
Coventry boss Steven Pressley sa: "Detta nederlag rankas som en av de värsta i klubbens historia."
Blyths Robbie Dale höll sitt rekord av poäng i varje omgång av säsongens tävling med två mot Altrincham, medan Danny Maguire också gjorde två mål för laget från den sjunde nivån av engelsk fotboll.
Aldershot var nio minuter från en berömd seger över deras Hampshire rivaler, men Danny Hollands huvud förtjänade den tidigare Premier League sidan en repris.
Bradford City kom bakifrån mot icke-league opposition, övervinna en tidig FC Halifax Town mål att vinna 2-1 tack vare två mål i snabb följd tidigt i andra halvlek.
Två avböjda mål från Gary McSheffrey var tillräckligt för att ge Scunthorpe United seger på Forest Green Rovers, medan League One par Chesterfield och Colchester satte sex förbi Braintree respektive Gosport Borough.
Maidstone United, av Ryman Premier Division, höll Stevenage av League Two till en 0-0 dragning, medan en bristlös möte mellan Notts County och Accrington Stanley slutade i samma poänglinje.
Rob Ramshaw slog en hatt-trick som Gateshead lättade till en 4-0 seger bort på Norton United, medan Wrexham är också i den andra omgången efter en 3-0 seger hemma till andra konferensen sidan Woking.
Den andra omgången dragning sker på måndag klockan 19:00 GMT. Du kan se det live på BBC Two och BBC Sport webbplats.
Worcester City slog Coventry City 2-1 för att producera den största chocken av söndagens FA Cup första omgången slipsar.