Den superbe Jonathan Sexton sparkade Irland in i en 6-0 ledning innan Handre Pollard svarade innan pausen.
Rhys Rudocks försök direkt efter halvtid bidrog till att öka Irlands bly till 13-3 innan Marcell Coetzees poäng sänkte marginalen till tre poäng.
Men, ytterligare två Sexton straff och Tommy Bowe försök sätta spelet utom synhåll innan JP Pietersens sena poäng.
Springboks gick in i spelet heta favoriter efter att ha slagit Nya Zeeland för en månad sedan men fann sig oförmögna att matcha Irlands anmärkningsvärda beslutsamhet.
Ruddock var en sen inkludering i Irland laget efter det ursprungliga urvalet Chris Henry uteslöts från sjukdom.
Irland hade hjältar hela sin pitch med prop Jack McGrath modig i scrum och vid sammanbrottet men det fanns ingen tvekan om att Sexton förtjänade sin man-of-the-match ära.
Den irländska flyghalvan vann slutgiltigt sin duell med framväxande Springboks flyghalva Handre Pollard som hemmasidan effektivt riktade båda Sydafrika halvbackar.
Springboks scrum-halv Francois Hougaard uthärdade en mardrömskväll då Sydafrikas ryggrörelser till stor del begränsades till körningar från livlig fullback Willie le Roux.
Joe Schmidts spelare visade också en hänsynslöshet i slutet 15 minuter efter ersättning horans Adriaan Strauss synd-binning följdes av Bowes match-clinching försök.
Med Sexton orkestrering blandade irländarna effektivt ett sparkande och löpande spel i de tidiga stadierna och flugan-halva sparkade öppningspunkterna i den åttonde minuten efter McGrath hade out-duelled Jannie du Plessis i en scrum.
Irland, minus vanlig hora Rory Best, kämpade i ett par tidiga line-outs och hade en flykt i 13: e minuten som Hougaard s fumla vid basen av en ruck strax utanför linjen tillät McGrath att hacka till säkerhet.
Sextons 24-minutersstraff ökade Irlands ledning innan hemskummet började knaka för första gången.
Mediauppspelning stöds inte på den här enheten
Sydafrikas dominans tvingade fram två sparkbara straff på tre minuter, men deras beslut att jaga försök från line-out slog tillbaka vid båda tillfällena som det irländska försvaret höll fast.
Pollard öppnade till slut Sydafrikas konto innan pausen för att minska marginalen till tre och besökarna måste ha förblivit säkra när de trängde in i omklädningsrummen.
Men de gungades inom två minuter efter omstarten av Rudocks avgörande försök.
Unga irländska centrum Robbie Henshaws fantastiska kick hade tvingat Le Roux att medge en line-out djupt i Springboks territorium och Ruddock sprack igenom för att göra mål efter att Devin Toner hade skjutit för att vinna Sean Cronins kast.
Sextons omvandling ökade Irlands ledning till 13-3, men det fanns fortfarande 36 minuters handling kvar.
Besökarna tittade tillbaka i tävlingen på 57 minuter när Coetzee trängde sig över efter alternativet att vrida ner en lätt tre punkter slutligen bar frukt.
Pollards omvandling minskade marginalen till tre men avgörande Irland fördubblade sin fördel inom sex minuter när Sexton straffade Duane Vermeulens höga tackling på Jamie Heaslip.
Bakkies Botha introducerades bredd 15 minuter kvar men sydafrikanerna fick sedan en hammare slag som ersättning hora Strauss var gult kort för sin höga tackling på Rob Kearney.
Med sina numeriska fördelar producerade irländarna intensiva påtryckningar på 70:e minuten och det gav Sextons fjärde straff för matchen eftersom det inte skulle bli någon upprepning av hans avgörande sena miss mot All Blacks för 12 månader sedan.
Irlands anmärkningsvärda seger säkrades inom två minuter när Murrays perfekt viktade chip i bakom försvaret togs av Bowe innan han dök över linjen.
Den magnifika Sexton landade konverteringen innan han drogs i land och hans ersättare Ian Madigan sedan kom in på scoring akt med en annan straff innan en Aviva Stadium närvaro som verkade bedövad av omfattningen av hem segern.
Pietersen sprang i Sydafrikas andra försök i de avslutande sekunderna men var det var lite tröst för besökarna.
TEAM
Irland: Rob Kearney; Tommy Bowe, Jared Payne, Robbie Henshaw, Simon Zebo; Jonathan Sexton, Conor Murray; Jack McGrath, Sean Cronin, Mike Ross; Devin Toner, Paul O'Connell; Peter O'Mahony, Rhys Ruddock, Jamie Heaslip.
Ersättningar: Richardt Strauss för Cronin 60 minuter, Dave Kilcoyne för McGrath 73, Rodney Ah Du för Ross 73, Mike McCarthy för Toner 73, Tommy O'Donnell för O'Mahony 71, Eoin Reddan för Payne 78, Ian Madigan för Sexton 75, Felix Jones för Kearney 75.
Sydafrika: Willie le Roux; Cornal Hendricks, Jan Serfontein, Jean de Villiers (kapt), Bryan Habana; Handre Pollard, Francois Hougaard; Tendai Mtawarira, Bismarck du Plessis, Jannie du Plessis; Eben Etzebeth, Victor Matfield; Marcell Coetzee, Teboho Mohoje, Duane Vermeulen.
Ersättningar: Adriaan Strauss för Bismarck du Plessis 51, Trevor Nyakane för Mtawarira 66, Coenie Oosthuizen för Jannie du Plessis 71, Bakkies Botha för Etzebeth 65, Schalk Burger för Mohoje 47, Cobus Reinach för Hougaard 57, Pat Lambie för Pollard 66, JP Pietersen för Hendricks 50
Domare: Romain Poite (Frankrike)
Understyrka Irland producerade en uppvisning av disciplin och uppfinning för att bedöva de i form Springboks i Dublin.