Aidi Boothroyds sida föll efter till Martin Chrien i första halvlek.
Alfie Mawson rusade in i en equalizer innan en mäktig Nathan Redmond strejk gav England seger.
De Tre Lions är topp i Grupp A på fyra punkter och kommer att garantera en plats i de sista fyra genom att slå värdar Polen i torsdagens sista gruppspel.
Endast vinnarna i var och en av de tre grupperna går igenom till semifinalen, tillsammans med den bästa tvåan.
En 90-minuters polsk utjämnare mot Sverige i den andra gruppmatchen på måndagen förenklade situationen för England. Om Sverige hade hållit på för seger skulle de vara nivå på poäng och målskillnad inför torsdagens avgörande fixturer.
Återupplev Englands seger mot Slovakien
England nådde EM-finalen 2009 under 21, men deras rekord sedan dess har varit enormt nedslående.
De misslyckades med att komma ur gruppstadiet 2011 och 2013 och såg i verklig fara för en annan tidig avfart efter en drabbning första 45 minuter mot Slovakien i Kielce.
Efter att ha hanterat bara ett skott på mål i 0-0 draget med Sverige i sin gruppöppnare, såg England återigen lätt i attack. De var obetänksamma i besittning och saknade uppfinning.
Deras chanser att göra poäng verkade ännu mer osannolikt när Slovakien stängde leden efter att gå vidare, Chriens huvud looping över Everton s £ 30m målvakt Jordan Pickford.
Men en halvtidsförändring förde med sig en förändring av förmögenheter.
Norwich framåt Jacob Murphy ersatte Mason Holgate vid höger-back och inom fem minuter producerade han korset som ledde till Mawsons equalizer.
Målet resulterade i att Slovakien - i jakt på en seger som skulle flytta dem till sex punkter och i ledningen av gruppen - övergav sin försiktiga strategi i jakten på en vinnare och som spelade i Englands händer.
En misslyckad Slovakien attack ledde till England bryta tre mot två, och Redmond gjorde bra för att skära in i hans markör innan du kör en ansträngning i det avlägsna hörnet med hjälp av en deformation.
Det var långt ifrån övertygande Englands prestationer, men ändå ett tillfredsställande resultat i en skrämmande atmosfär.
England har nu sitt öde i egna händer - slå Polen på torsdag och de är i de sista fyra.
Det kunde dock ha blivit mycket komplicerat om Sverige hade hållit fast vid sin 2-1 ledning i slutskedet av matchen mot Polen.
Om de hade tagit de tre punkterna i det spelet och både England och Sverige vann sin sista grupp fixturer med samma poänglinje skulle de båda ha varit nivå på poäng, målskillnad och mål gjorde.
Det innebar att det skulle ha varit ner till disciplinära punkter och slutligen koefficient rankning för att bestämma gruppvinnaren.
Som det var, Dawid Konownacki kyligt konverterade en skada-tid straff för att tjäna Polen en dragning och hålla värdlandets förhoppningar om en plats i de senaste fyra levande. De måste slå England på torsdag för att kunna göra framsteg.
BBC Radio 5 lives viktigaste fotbollskorrespondent Ian Dennis:
Jag tyckte det såg dystert ut för England på halvtid, men till deras ära svarade de på trycket att komma bakifrån i deras "must-win" tävling och visade motståndskraft att absorbera sent slovakiska tryck.
Aidiy Boothroyd ändrade systemet för denna match och spelade med en diamant - och medan England hade en hel del egendom jag trodde att de fortfarande saknade penetration i de första 45 minuterna och spelade framför Slovakien, fortfarande kämpar för kreativitet.
Jag vet att England var besviken över att medge målet halvvägs igenom första halvlek men jag tyckte att den centrala defensiva parningen av Calum Chambers och Alfie Mawson var utmärkt, särskilt i andra halvlek.
Halvtidsskiftet från Boothroyd betalade utdelning som substitut Jacob Murphy levererade ett kors som styrdes av Mawson - och bytet av system såg också Redmond inblandade mer.
England är av avgörande betydelse för att göra framsteg. Jag tror inte att vi har ännu att se en konsekvent prestation över 90 minuter här i Polen och James Ward-Prowse berättade efter måndagens match att han känner att de ännu inte når sin fulla potential.
Men kom ihåg, det är inte hur du börjar turnering fotboll men hur du avslutar och denna seger, uppnås under press, bör ses som en riktig språngbräda.
Englands sista grupp match mot Polen på torsdag kommer att live på BBC Radio 5 live
England Under-21 boss Aidi Boothroyd: "Om vi förlorade eller drog spelet var vi ute. Så vi var tvungna att vara djärva, hålla oss i mixen. Vi gjorde det. Nu har vi lagt detta till sängs vi har en riktigt tuff match som kommer upp mot Polen. Vi vill göra framsteg, vi vill göra bra ifrån oss.
"Nervös? Jag tycker det är rättvist. Den extra spelaren i mittfältet var att göra dem mindre nervösa och ge dem mer av ett alternativ på planen.
"[Polen på torsdag] kommer att bli svårt. Vi har välkomnats in i staden av våra värdar och jag är säker på att det blir en bra match och en bra fotbollsmatch. Vi måste vara som bäst."
England Under-21 försvarare Alfie Mawson, om vad som sades på halvtid: "Det blev lite upphettat, faktiskt. Många spelare var frustrerade. Jag var så frustrerad över målet.
"Men Aidi var lugn och lugnade ner alla. Vi sa att vi behövde göra det rätta.
"Tillgodohavande till oss och vi gjorde vad vi behövde göra. Vi tar det inte på ett negativt sätt. Vi är alla män om det. Vi kunde lätt ha rasat på 1-0 ner men vi reste oss upp och passerade den med flygande färger."
Slovakien Under-21 chef Pavel Hapal: "Det fanns två enskilda fel som resulterade i mål. England har en mycket stark trupp men jag är stolt över mitt team eftersom vi skapade stor press de senaste 30 minuterna.
"Jag är inte säker på hur ofta man ser England försöka fördröja spelet, vilket var fallet här."
Match slutar, Slovakien U21 1, England U21 2.
Andra halvlek, Slovakien U21 1, England U21 2.
Lewis Baker (England U21) visas det gula kortet.
Handboll av Lewis Baker (England U21).
Hörnet, England U21. Översatt av Milan Skriniar.
Foul av László Bénes (Slovakien U21).
Lewis Baker (England U21) vinner en frispark i den defensiva halvan.
Substitution, England U21. Cauley Woodrow ersätter Tammy Abraham.
Försök blockerat. Albert Rusnák (Slovakien U21) höger fotade skott från utsidan av lådan är blockerad.
Hörnet, Slovakien U21. Förföljd av Lewis Baker.
Jacob Murphy (England U21) visas det gula kortet för en dålig foul.
Foul av Jacob Murphy (England U21).
Lukas Haraslin (Slovakien U21) vinner en frispark på vänsterflygeln.
Handboll av Tammy Abraham (England U21).
Substitution, England U21. Demarai Gray ersätter John Swift.
Nathaniel Chalobah (England U21) vinner en frispark i den defensiva halvan.
Foul av Pavol Safranko (Slovakien U21).
Försening över. De är redo att fortsätta.
Försening i match Tammy Abraham (England U21) på grund av en skada.
Försök blockerat. László Bénes (Slovakien U21) vänster fotade skott utanför lådan är blockerad.
Hörnet, Slovakien U21. Förföljd av Jacob Murphy.
Substitution, Slovakien U21. Lukas Haraslin ersätter Jaroslav Mihálik.
Försök missade. Albert Rusnák (Slovakien U21) höger fotade skott från utsidan av lådan missar till vänster. Hjälpt av László Bénes.
Försöket räddades. John Swift (England U21) höger fotade skott från utsidan av lådan sparas i nedre högra hörnet. Hjälpt av Nathan Redmond.
Tammy Abraham (England U21) vinner en frispark på högerkanten.
Foul av Milan Skriniar (Slovakien U21).
Substitution, Slovakien U21. László Bénes ersätter Martin Chrien.
Substitution, Slovakien U21. Pavol Safranko ersätter Adam Zrel'ák.
Robert Mazán (Slovakien U21) visas det gula kortet för en dålig foul.
Jacob Murphy (England U21) vinner en frispark i defensiva halvan.
Foul av Robert Mazán (Slovakien U21).
Försök missade. Martin Chrien (Slovakien U21) vänster fotade skott från utsidan lådan är hög och bred till vänster.
Försök blockerat. Milan Skriniar (Slovakia U21) huvudet från mitten av rutan är blockerad. Hjälpt av Albert Rusnák med ett kors.
Hörnet, Slovakien U21. Förföljd av Ben Chilwell.
Mål!  Slovakien U21 1, England U21 2. Nathan Redmond (England U21) höger fotade skott från vänster sida av lådan till övre högra hörnet. Hjälpt av James Ward-Prowse.
Alfie Mawson (England U21) vinner en frispark i den defensiva halvan.
Foul av Matus Bero (Slovakien U21).
Försök missade. Matus Bero (Slovakien U21) vänster fotade skott från utsidan lådan är nära, men missar till höger. Hjälpt av Jaroslav Mihálik.
Försök blockerat. Robert Mazán (Slovakien U21) vänster fotade skott utanför lådan är blockerad. Hjälpt av Stanislav Lobotka.
Försöket räddades. Jacob Murphy (England U21) vänster fotade skott från utsidan boxen sparas i mitten av målet. Hjälpt av Nathaniel Chalobah.
England är en seger bort från en plats i European Under-21 Championship semi-final efter att ha kommit bakifrån för att slå Slovakien på måndag.