Serbien strejkade på Georginio Wijnaldums kors med sju minuter kvar av chef Rafael Benitez hemdebut.
Jermain Defoe hade förtrollat besökarna strax före rasten.
Dragningen lämnar både i botten tre, med 18: e-placerade Sunderland en punkt och en plats framför Newcastle men två punkter från säkerhet.
Det är ett resultat som avslutar en fyra-spel förlorar strimma för Newcastle, där Steve McClaren sparkades som chef och ersattes av tidigare Liverpool och Chelsea boss Benitez.
Sunderland har ritat sina tre senaste matcher.
Mediauppspelning stöds inte på den här enheten
Även om inte segern de så illa behövde, draget betyder Newcastle har avslutat en sex-match förlorar strimma mot sina våldsamma rivaler, som går tillbaka till april 2013.
Detta var det minsta de behövde efter Norwichs seger på West Brom på lördagen hade öppnat lite dagsljus mellan de 17: e-placerade Kanarieöarna och de nedre tre.
Och trots den stora utmaning som fortfarande ligger framför oss, kommer det sätt på vilket de klöste sig till en punkt att ge Benitez hopp om att han kan skapa en flykt handling under de kommande två månaderna.
För en stor del av spelet en något trasig och illa disciplinerad Newcastle var näst bäst till en Sunderland sida som har ingjutits med en förnyad effektivitet och anda av manager Sam Allardyce.
Efter att ha fallit efter, erbjöd hemmasidan massor av ansträngning men värdefull liten kvalitet i den andra halvan, med en Ayoze Perez volley på baksidan post, som rensades av linjen av Yann M'Vila, den närmaste de kom till ett mål.
Men Mitrovics sena intervention - den sjätte har han gjort sedan han gick med i klubben förra sommaren för £ 15m - ger dem förtroende innan sex April fixturer som kommer att gå långt för att avgöra deras öde.
Nästa steg: Norwich vid Carrow Road den 2 april.
Sunderland var sju minuter från att flytta ut ur nedflyttningszonen så att hitta sig i botten tre på väg in i den internationella pausen är ett obestridligt slag.
Detta är ett spel de borde ha vunnit. De spelade mer som en enhet hela och skapade de bättre chanserna.
Defoes mål - att komma efter Rob Elliot hade sparat ett skott från Fabio Borini och Chancel Mbemba hade misslyckats med att ordentligt huvudet klart - var hans åttonde i hans senaste 11 framträdanden, men han kunde ha gjort mer.
Innan hans öppnare sköt han från insidan av lådan och petade en första gången skott från Borini kors inches förbi nära stolpen.
Och hade Elliott inte producerat en underbar enhands spara för att förneka Patrick van Aanholts vinklade 12-yards drive, skulle det ha varit 2-0 precis före timmarkeringen.
I slutändan, men det var deras defensiva bräcklighet som kostade dem som en DeAndre Yedlin foul kasta sätta upp flytta från vilken Mitrovic gjorde det 39: e målet Black Cats har medgett bort från hemmet denna kampanj och utökat sin körning av spel utan ett rent ark till 17.
Newcastle boss Rafa Benitez: "Det positiva för mig är att vi har åtta matcher att spela och reaktionen idag från spelarna var positiv.
"Att vinna skulle ha varit perfekt men när du förlorar i första halvlek och behålla samma gap, det är positivt.
"Det viktigaste var att fansen stödde oss idag och vi vill att i varje spel.
"Jag tror att vi kan stanna uppe. Vi måste fortsätta arbeta, jag tror att de kan spela bättre och från vad jag har sett idag i andra halvan, de kan göra bra."
Mediauppspelning stöds inte på den här enheten
Sunderland boss Sam Allardyce: "För mig, om vi inte börjar få dessa rena lakan det kommer att bli ett stort problem. Vi är ett lag som måste göra mål två gånger för att vinna.
"Tyvärr fick vi inte det andra målet och vi medgav sent igen. Vi hade chansen att lägga spelet i säng, men missade dem.
"Andra halvan, jag vet inte varför vi satt i och lät Newcastle komma mot oss. Kanske var det storleken på spelet, men i slutändan har vi inte gjort det och det är två poäng tappade.
"Vi borde ha vunnit den här. Vi behöver fyra vinster från de senaste åtta, så det är nu måste-vinna snarare än dra. "
Newcastle resa till Norwich den 2 april (15:00 BST) innan du besöker Southampton en vecka senare.
Sunderland är hem till West Brom den 2 april (15:00 BST) och ledare Leicester den 10 april (13:30 BST) innan de reser till Norwich själva den 16 april (12:45 BST).
Aleksandar Mitrovic räddade en punkt för Newcastle mot nedflyttning rivaler Sunderland som en våldsamt ifrågasatt Tyne-Wear derby slutade i en dragning.