Jankovic, den 28:e fröet, slog den tjeckiska världen nummer två 3-6 7-5 6-4.
Det markerade första gången sedan 2009 att två-tiden Wimbledon vinnare Kvitova, 25, har misslyckats med att göra åtminstone kvartsfinalen på All England Club.
Jankovic, 30, kommer att möta 2012 finalisten Agnieszka Radwanska i de senaste 16.
Kvitova hade varit i scintilling form på väg in i matchen, kommer genom sina första två rundor på totalt 93 minuter.
Inledningsvis såg det ut som hon skulle fortsätta den formen mot Jankovic som hon vann den första uppsättningen 6-3 på bara 35 minuter.
Men Jankovic gav inte upp och bröt bestämt i 12: e spelet, när Kvitova körde en förhand in i nätet.
Mediauppspelning stöds inte på den här enheten
En spänd sista set gick med serve tills 10: e matchen när Kvitova plötsligt skakas, gör ett antal fel att gå från 30-kärlek upp till spår 40-30 och ge Jankovic sin första match punkt.
Kvitova slog sedan nätet med en backhand och Jankovic föll till golvet när segern bekräftades.
Besegra för Kvitova lämnar bara Serena Williams, Maria Sharapova, Lucie Safarova och Caroline Wozniacki som den sista återstående topp 10 frön på väg in i den andra veckan.
World nummer fem Wozniacki framskred genom att slå Camila Giorgi i raka uppsättningar.
Danmarks Wozniacki, som förlorade till italienska Giorgi på 2013 US Open, tog bara 72 minuter att vinna den tredje omgången match 6-2 6-2.
Den tidigare världen nummer ett kommer nästa spela 20: e frö Garbine Muguruza, som bedövade 10: e frö Angelique Kerber 7-6 (14-12) 1-6 6-2 till framsteg.
Kerber är en före detta Wimbledon semifinalist men den tyska möter en motståndare som har form när det gäller att orsaka chocker, efter att ha slagit Serena Williams på förra årets Franska Öppna.
Spaniard Muguruza, som hade vunnit bara en gång i två tidigare Wimbledon besök, fångade ögat när hon kom ut på toppen av en episk första uppsättning, lösa slips-break med en drive volley innan pressande Kerber att slå en förhand bred.
Mediauppspelning stöds inte på den här enheten
Kerber kämpade tillbaka i den andra uppsättningen men wobbled i den tredje, släppa henne tjänar två gånger som Muguruza hävdade en imponerande hårbotten.
Sabine Lisickis förhoppningar om att nå en första Wimbledonfinal sedan 2013 avslutades då den 18:e såddtysken slogs i raka uppsättningar av 15:e fröet Timea Bacsinszky. Lisicki kunde inte hantera Bacsinszky som schweizaren vann 6-3 6-2.
Bacsinszkys fjärde-round motståndare är Rumäniens Monica Niculescu, 27, som är klar till andra veckan på Wimbledon för första gången efter att ha slagit 23-åriga tjeckiska spelaren Kristyna Pliskova 6-3 7-5.
Det är andra gången i Niculescus karriär som hon har gjort det till den fjärde omgången av en Grand Slam, efter att ha kommit så långt på 2011 US Open.
Radwanska, 26, iscensatte en andra match för att se utanför Australian Casey Dellacqua 6-1 6-4.
Den polska 13: e fröet gjorde kort arbete av Dellacqua i den första uppsättningen, men befann sig 4-0 ner i den andra innan du vann sex raka matcher till framsteg.
Slutligen vann den amerikanska världen nummer 21 Madison Keys också i raka uppsättningar, övervinna Tysklands Tatjana Maria 6-4 6-4.
Nycklarna kommer att spela 122:a-rankade kval Olga Govortsova efter den vitryska slå Magdalena Rybarikova Slovakien 7-6 (7-4) 6-3.
Försvarsmästare Petra Kvitova drabbades av en chock tidigt Wimbledon exit som tidigare värld nummer ett Jelena Jankovic kämpade tillbaka för att säkra en tredje-round seger.