Den anmärkningsvärda segern betyder att Devils har en fem-punkts fördel framför den andra-placerade Giants.
Ny signering Jerome Leduc gjorde mål två gånger och Mike Forney fick den andra när Giants tog kontroll över tävlingen.
Mark Richardson gav Cardiff hopp och Sean Bentivio fick tillbaka det till 3-2 innan Joey Haddard utjämnade och Patrick Asselin nettade vinnaren.
Det var en förödande sista period för jättarna som hade hoppats på att hugga ner Devils leder till en enda punkt.
Nu måste Derrick Walsers män plocka upp sig själva omedelbart när de är värd Cardiff igen i Belfast på lördag kväll.
Som anstår en sammandrabbning mellan de två bästa lagen, började spelet i en frenetisk takt som varade hela den första perioden.
Båda vakterna hölls upptagna men det var Devils Ben Bowns som blev slagen först som debutant Giant Leduc, undertecknat endast denna vecka, avslutade med enplomb framför målet att ge hemmasidan ledningen i 14: e minuten.
Med 48 sekunder av perioden kvar, ett Forney skott smög förbi den osynta Bowns att höja taket vid SSE Arena när Giants ryckte en två mål fördel.
Leduc fina start i en Giants skjorta fortsatte i den andra perioden när han slog i sitt andra mål i natten för att göra det 3-0 på en Belfast power play.
Besökarna var inte skrämmande av detta underskott och kom tillbaka hårt på Giants med ett antal imponerande räddningar från Stephen Murphy hålla tre mål marginalen intakt.
Men det fanns en allsmäktig vändning i berättelsen. Devils slog tidigt i den sista perioden när Richardson pilade pucken i övre hörnet av nätet förbi Murphy.
Nu var det den lilla men vokala kontingenten av fans från Wales som gjorde allt oväsen i arenan när mållinjen blev 3-2 som en Bentivoglio skott avleds in i nätet utanför Giants spelare-coach Walser, sätta upp en spänd final.
Haddard gjorde sedan 3-3 med mindre än sex minuter kvar.
Sedan, otroligt, Patrick Asselins närområde avslutade en anmärkningsvärd omsvängning av Devils i vad som mycket väl kunde ha varit ett stort steg mot Elite League titeln.
Ledare Cardiff Devils kom från 3-0 ner för att slå sina främsta rivaler för Elite League titel i Belfast.