Mediauppspelning stöds inte på den här enheten
Neilson, som förväntades ansluta sig till MK Dons, såg sin sidoled när Robbie Muirhead konverterade Björn Johnsens kors.
Joe Dodoo volleyed in i Hearts nätet tidigt i andra halvlek men lagkamrat Harry Forrester var flaggad offside.
Jamie Walker centrerade för en omärkt Muirhead att avfyra sin andra som Rangers "defensiva svagheter var återigen blottad.
Ett sent Joe Garner-huvud nickades av Faycal Rherras för att bevara Hearts rena lakan.
Seger innebar att Hearts gick före Rangers på målskillnad, med båda sidor åtta poäng bakom ledare Celtic, som har tre matcher i handen.
Tynecastle män besöker Ross County på lördag när Rangers värd Aberdeen, som spårar Mark Warburton sida med två poäng, men har spelat två matcher färre.
Mediauppspelning stöds inte på den här enheten
Hemsidan frodades genom att svärma över Rangers bräckliga försvar. Deras dominans byggde på trängsel och hasting besökarna, men belönas av individer som är sluga i kritiska ögonblick.
Muirhead gav de avslutande touchs, men de höga displayer kom från Johnsen och Arnaud Djoum, vars prestation skev Rangers.
Johnsen var ospelbar ibland, kapabel att få bollen ner från huvudet höjd och skickligt snärta den i straffområdet och nästan poäng.
Den långa, gängliga figuren bröt nästan dödläget med en rubrik som förde en flygande räddning från Wes Foderingham, då var avgörande i Muirheads öppnare, med en flick och sedan korset som angriparen konverterade på baksidan inlägget.
Djoum var peerless i mittfältet, hålla bollen i trånga situationer och aldrig panik i rörelse i hålet framför Rangers försvar.
Det andra målet var en skickligt utförd motattack, med Muirhead åter avsluta på baksidan post efter Walker leverans från höger.
Hjärtan gav knappt upp och hävdade våldsamt, men förgäves, för ett straff efter att Rherras gick ner precis i lådan efter att ha fått fel sida av substitut Michael O'Halloran.
För Neilson, på hans troliga svansång som Hearts boss, hans sida levererade ett passande farväl och fansen sjöng hans namn i hyllning i slutet.
James Tavernier var postad saknas för båda målen, men han var inte ensam i att misslyckas med att leverera för besökarna. Endast Foderingham - som höll mållinjen på två med en rad räddningar, inklusive en som sköt en Johnsen andra halv skott runt inlägget - steg till tillfället.
Matt Crooks gjorde sin första start, men för en lång, fysiskt imponerande figur kunde han inte få sin närvaro att kännas i mittfältet.
Rangers, som har hållit bara en ren lakan hemifrån på ligan plikt denna term, aldrig tilläts att bosätta sig i spelet, med Hearts pressande när Foderingham och center-backs hade bollen, och resultatet var en delad prestanda.
Det fanns ett ögonblick av frustration för besökarna när Dodoos ansträngningar uteslöts, även om det verkade ett korrekt samtal eftersom Forrester var offside och i linje med Hearts målvakt Jack Hamilton.
Även när Dodoos ersättare Garner vände en rubrik mot övre hörnet sent på, Rherras var till hands för att rensa.
Rangers hade inget svar på Hearts "engagemang uppvisning. Även i besittning, vilket Warburton betonar, var de slitna och osäkra. Det var inte övertygande, och spel står på spel mot Aberdeen och Hearts igen.
Derby manager Steve McClaren tog en plats i regissörslådan innan matchen, för att titta Callum Paterson i första hand. Hjärtan och Skottland var ibland defensivt misstänkta, men han var också ett angreppshot.
Ett skott i första halvlek tvingade Foderingham att försiktigt skjuta bort bollen. Och det var Patersons skottkastning som skapade en chans för Johnsen i första halvlek.
Hjärtan vet att de kommer att förlora spelaren, antingen under sommaren eller i januari om ett erbjudande kommer in som är mer än den utvecklingsavgift de skulle få om han lämnade som en fri agent.
Om det fanns ett ögonblick som sammanfattade spelet upp, kunde det ha varit Paterson vinna en våldsam tackling med Andy Halliday i första halvan, sedan surge upfield.
Halliday lämnades kluven på marken, klagande och hjälplös. Hans team var likadana.
Hearts' Robbie Neilson: "Det handlar inte om mig, det handlar om spelarna och klubben få andra i ligan, efter den senaste nedflyttningen och den långa resan, det är fenomenalt för hela klubben."
Läs mer från Neilson här.
Rangers 'Mark Warburton: "Honesty är den bästa politiken, du kan maskera över det och säga att vi skulle ha haft offside mål och vi hade en rensad från linjen - nej.
"Ikväll som en grupp spelare tyckte vi inte att vi var bra nog och vad vi måste göra är att svara mycket positivt och ser fram emot spelet mot Aberdeen."
Matchen slutar, hjärtat av Midlotian 2, Rangers 0.
Andra halvan slutar, hjärta av Midlotian 2, Rangers 0.
Försök missade. Jason Holt (Rangers) höger fotade skott från utsidan lådan är nära, men missar till höger.
Foul av Arnaud Djoum (Hjärtat av Midlotian).
Andy Halliday (Rangers) vinner en frispark i anfallshalvan.
Callum Paterson (Hjärtat av Midlotian) vinner en frispark i defensiva halvan.
Foul av Joe Garner (Rangers).
Försök missade. Joe Garner (Rangers) höger fotade skott från mitten av lådan är nära, men missar till höger.
Foul av Callum Paterson (Hjärtat av Midlotian).
Jason Holt (Rangers) vinner en frispark i den defensiva halvan.
Substitution, Midlotians hjärta. Conor Sammon ersätter Björn Johnsen.
Försök blockerat. Joe Garner (Rangers) höger fotade skott från mitten av lådan är blockerad.
Hörnet, Rangers. Sammankallad av Jamie Walker.
Foul av Jamie Walker (Hjärtat av Midlotian).
James Tavernier (Rangers) vinner en frispark på vänsterflygeln.
Hörnet, Rangers. Förföljd av Arnaud Djoum.
Substitution, Midlotians hjärta. Liam Smith ersätter Don Cowie.
Foul av Jamie Walker (Hjärtat av Midlotian).
Joe Garner (Rangers) vinner en frispark i den defensiva halvan.
Substitution, Midlotians hjärta. Prins Buaben ersätter Robbie Muirhead.
John Souttar (Hjärtat av Midlotian) visas det gula kortet för en dålig foul.
Foul av John Souttar (Hjärtat av Midlotian).
Rob Kiernan (Rangers) vinner en frispark i anfallshalvan.
Hörnet, hjärtat av Midlotian. Förföljd av Rob Kiernan.
Arnaud Djoum (Hjärtat av Midlotian) vinner en frispark i defensiva halvan.
Foul av Joe Garner (Rangers).
Försök blockerat. Jason Holt (Rangers) vänster fotade skott utanför lådan är blockerad.
Foul av Björn Johnsen (Hjärtat av Midlotian).
Andy Halliday (Rangers) vinner en frispark i anfallshalvan.
Substitution, Rangers. Barrie McKay ersätter Matt Crooks.
Substitution, Rangers. Joe Garner ersätter Joseph Dodoo.
Foul av Robbie Muirhead (Hjärtat av Midlotian).
Michael O'Halloran (Rangers) vinner en frispark på högerkanten.
Foul av Arnaud Djoum (Hjärtat av Midlotian).
Danny Wilson (Rangers) vinner en frispark i anfallshalvan.
Försöket räddades. Björn Johnsen (Heart of Midlotian) höger fotade skott från vänster sida av lådan sparas i nedre högra hörnet.
Substitution, Rangers. Michael O'Halloran ersätter Harry Forrester.
Mål!  Hjärtan av Midlotian 2, Rangers 0. Robbie Muirhead (Hjärtat av Midlotian) vänster fotade skott från mycket nära håll till nedre vänstra hörnet. Hjälpt av Jamie Walker.
Hörnet, hjärtat av Midlotian. Förföljd av Lee Wallace.
Hörnet, hjärtat av Midlotian. Förföljd av Wes Foderingham.
Hearts slog Rangers att gå andra i skotska Premiership i vad som kunde vara Robbie Neilson sista match i ledningen.