Erwägungen:
1. Mit Entscheid vom 26. Januar 2012 erteilte die Einzelrichterin des Bezirksgerichts A._ dem Beschwerdegegner in der Betreibung Nr. xxxx B._ definitive Rechtsöffnung für Fr. 1'822.85. Das Obergericht des Kantons Luzern trat mit Entscheid vom 27. März 2012 auf eine dagegen erhobene Beschwerde des Beschwerdeführers nicht ein. Der Beschwerdeführer hat diesen Entscheid mit Verfassungsbeschwerde beim Bundesgericht angefochten. Er verlangt sinngemäss dessen Aufhebung.
2. 2.1 In der Beschwerde ist in Auseinandersetzung mit den Erwägungen des angefochtenen Entscheids darzulegen, welche Rechte der beschwerdeführenden Partei durch das kantonale Gericht verletzt worden sind (<ref-law>; <ref-ruling> E. 2.1 S. 245), wobei eine allfällige Verletzung verfassungsmässiger Rechte vom Bundesgericht nicht von Amtes wegen geprüft wird, sondern nur dann, wenn solche Rügen in der Beschwerdeschrift ausdrücklich erhoben und begründet werden (<ref-law>; <ref-ruling> E. 1.2 S. 234).
2.2 Das Obergericht hat erwogen, der Beschwerdeführer setze sich in seiner Eingabe mit den Erwägungen der Vorinstanz nicht auseinander, sondern beschränke sich darauf, den Inhalt seiner Stellungnahme zuhanden des Bezirksgerichts A._ wörtlich wiederzugeben. Damit vermöge seine Eingabe den Begründungsanforderungen nicht zu genügen. Auf die Beschwerde sei demnach nicht einzutreten. Selbst wenn auf die Beschwerde einzutreten wäre, wäre diese abzuweisen, zumal der Beschwerdeführer verkenne, dass das dem Verlustschein zugrunde liegende rechtskräftige Urteil des Amtsgerichts Luzern-Land vom 22. September 2003 einen definitiven Rechtsöffnungstitel darstelle und der Beschwerdeführer dagegen keine der Einwendungen gemäss <ref-law> (Tilgung, Stundung, Verjährung) geltend mache.
2.3 Der Beschwerdeführer setzt sich mit den vorinstanzlichen Erwägungen in keiner Weise auseinander und legt somit nicht den aufgeführten Begründungsanforderungen entsprechend dar, inwiefern die Vorinstanz Bundesrecht verletzt haben soll.
2.4 Auf die offensichtlich ungenügend begründete und damit unzulässige Verfassungsbeschwerde ist somit im vereinfachten Verfahren (<ref-law>) durch die Präsidentin der Abteilung unter Kostenfolge für den Beschwerdeführer (<ref-law>) nicht einzutreten.

Demnach erkennt die Präsidentin:
1. Auf die Verfassungsbeschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 200.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Luzern, 2. Abteilung, schriftlich mitgeteilt.
Lausanne, 18. Mai 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zbinden