Mitch Garbutt öppnade poäng för Leeds, men Dorns diskant och försöker från Denny Solomona och Joel Monaghan gjorde det 30-6 till Cas vid pausen.
Solomona lade till sin andra efter ett misstag från Ash Handley, som snart korsade för Leeds, men Gadwin Springer och Ben Crooks förlängde ledningen.
Grant Millington tog Cass över 50 poäng efter fint arbete från Luke Gale.
Nederlaget var den 11: e för säsongen för de regerande Super League mästare och andra gången de hade medgett 50 poäng denna kampanj efter deras 56-12 förlust till Widnes i februari.
Rhinos hade få svar att ta itu med Tigers veteran full-back Dorn i sin första match tillbaka efter två månader ut med en hamstring skada.
Den 33-årige samlade Junior Moors offload för att korsa för hans första innan samla Gale kick i rymden för att göra mål under inläggen.
Den australiensiska sedan avslutade sin hatt-trick strax efter 30-minuters märket som Mike McMeeken pass lämnade honom med en enkel finish.
Castleford flytta över Wakefield och Widnes till sjätte i bordet.
Leeds Rhinos: Golding; Handley, Watkins, Keinhorst, Hardaker; McGuire, Lilley; Galloway, Burrow, Garbutt, Jones-Buchanan, Ferres, Cuthbertson.
Ersättningar: Mullally, Sutcliffe, Achurch, Walters.
Castleford Tigers: Dorn; Flynn, Crooks, Monaghan, Solomona; McShane, Gale; Patrick, Milner, Jewitt, McMeeken, Moors, Massey.
Ersättningar: Cook, Millington, Springer, Tickle.
Domare: Richard Silverwood
Luke Dorn gjorde en första halv hatt-trick som Castleford Tigers dumpade Super Leagues nedre sida Leeds Rhinos.