Faits: A. A._ est décédé le 11 janvier 2009, laissant comme héritiers légaux et testamentaires son épouse, Z._, ainsi que ses deux fils, X._ et Y._. L'inscription au registre foncier des transferts de propriété des immeubles du défunt à ses hoirs a donné lieu, le 10 juillet 2009, à une décision d'émolument d'un montant de 6'017 fr.85 (dont 5'445 fr d'émolument ad valorem) de l'Office du registre foncier de l'arrondissement du Littoral et du Val de Travers. Saisi par les héritiers d'un recours contre cette décision, le Département de la gestion du territoire l'a rejeté par prononcé du 6 novembre 2009. Il a retenu que l'émolument réclamé avait été établi de manière exacte, qu'il reposait sur une loi au sens formel et qu'il respectait tant le principe de la couverture des frais que celui de l'équivalence. Les trois héritiers ont saisi le Tribunal administratif (actuellement Cour de droit public du Tribunal cantonal du canton de Neuchâtel; ci-après: le Tribunal cantonal) d'un recours contre cette décision, lequel a été rejeté par jugement du 8 décembre 2011. B. Z._, X._ et Y._ forment un recours au Tribunal fédéral contre le jugement du 8 décembre 2011 du Tribunal cantonal. Outre l'effet suspensif, ils requièrent l'annulation de l'arrêt du Tribunal cantonal, de la décision du 6 novembre 2009 et de celle du registre foncier du 10 juillet 2009 sous suite de frais et dépens. Le 12 janvier 2012, le Président de la IIe Cour de droit public du Tribunal fédéral a rejeté la requête d'effet suspensif. Le Département de la gestion du territoire ainsi que le Tribunal cantonal ont conclu au rejet du recours sous suite de frais.