Sachverhalt:
A. Auf Begehren der X._ AG stellte das Betreibungsamt Schwyz dem Kanton Schwyz am 3. August 2011 im Betreibungsverfahren Nr. 1 einen Zahlungsbefehl über Fr. 590.-- zu. Als Grund der Forderung wurde vermerkt: "Rückbehalt ohne jeglichen Rechtsanspruch"'. Zudem wurde auf das bundesgerichtliche Urteil 5A_494/2010 vom 12. November 2010 verwiesen. Der Kanton Schwyz erhob gleichentags Rechtsvorschlag.
B. Am 15. August 2011 ersuchte die X._ AG beim Bezirksgericht Schwyz um Gewährung der definitiven Rechtsöffnung für den in Betreibung gesetzten Betrag. Sie machte unter Hinweis auf verschiedene Belege geltend, das Bundesgericht habe die ihr vom Kantonsgericht Schwyz auferlegte Busse auf Beschwerde hin am 12. November 2010 aufgehoben, weshalb ihr der Kanton Schwyz die Rückzahlung des bereits bezahlten Betrages schulde. Der Einzelrichter wies das Gesuch im Anschluss an die mündliche Rechtsöffnungsverhandlung am 21. September 2011 ab und auferlegte die Gerichtskosten von Fr. 150.-- beiden Parteien je zur Hälfte, unter Wettschlagung der Parteikosten.
C. Einzig der Kanton Schwyz gelangte gegen diese Verfügung mit Beschwerde an das Kantonsgericht Schwyz. Er verlangte, dass die Gerichtsgebühr des Rechtsöffnungsverfahrens vollumfänglich der X._ AG oder dem Bezirk Schwyz auferlegt und ihm hierfür eine angemessene Entschädigung zugesprochen werde. Mit Beschluss vom 23. November 2011 hiess das Kantonsgericht die Beschwerde gut, auferlegte die Gerichtsgebühr für das Rechtsöffnungsverfahren je hälftig der X._ AG und dem Bezirk Schwyz und sprach dem Kanton Schwyz eine Parteientschädigung für beide Instanzen von Fr. 400.-- zu. Die Kosten des Beschwerdeverfahrens von Fr. 200.-- auferlegte es der X._ AG.
D. Die X._ AG ist gegen den kantonsgerichtlichen Beschluss mit Beschwerde in Zivilsachen vom 13. Dezember 2011 an das Bundesgericht gelangt. Die Beschwerdeführerin beantragt im Wesentlichen, die Kosten- und Entschädigungsfolgen des Rechtsöffnungs- und des kantonalen Beschwerdeverfahrens ausgangsgemäss zu verlegen.
Der Kanton Schwyz beantragt, auf die Beschwerde nicht einzutreten, allenfalls diese abzuweisen. Das Kantonsgericht hat vorerst auf eine Vernehmlassung verzichtet und sich alsdann innert laufender Frist zur Sache geäussert. Die Beschwerdeführerin hat auf diese Eingaben geantwortet.
Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Beschwerdeentscheid über die Kosten- und Entschädigungsfolgen einer Zwangsvollstreckungssache (Art. 72 Abs. 2 lit. a, Art. 75 Abs. 1 und Art. 90 BGG). Da der Streitwert den gesetzlichen Mindestbetrag von Fr. 30'000.-- nicht erreicht und die Beschwerdeführerin zwar eine Rechtsfrage von grundsätzlicher Bedeutung behauptet, indes keine Begründung vorlegt (Art. 74 BGG; BGE 136 II 489 E. 2.6 S. 493 f.), ist ihre Eingabe als subsidiäre Verfassungsbeschwerde entgegenzunehmen.
1.2 Mit der subsidiären Verfassungsbeschwerde kann die Verletzung verfassungsmässiger Rechte geltend gemacht werden (Art. 116 BGG). Auch die Anwendung von Bundesgesetzen wird in diesem Rahmen nur auf Willkür, d.h. auf eine Verletzung von Art. 9 BV hin geprüft (zum Willkürbegriff vgl. BGE 134 II 124 E. 4.1 S. 133). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat, es kann diese Feststellungen nur berichtigen oder ergänzen, wenn sie auf einer Verletzung verfassungsmässiger Rechte beruhen (Art. 118 i.V.m. Art. 116 BGG).
1.3 Für die Verletzung verfassungsmässiger Rechte gilt das Rügeprinzip (Art. 117 i.V.m. Art. 106 Abs. 2 BGG). In der Beschwerde muss präzise angegeben werden, welches verfassungsmässige Recht verletzt wurde, und substanziiert anhand der Erwägungen des angefochtenen Entscheids dargelegt werden, worin die Verletzung besteht. Das Bundesgericht prüft nur ausdrücklich vorgebrachte, klar und detailliert erhobene sowie, soweit möglich, belegte Rügen. Genügt die Beschwerdeschrift diesen Begründungsanforderungen nicht, ist darauf nicht einzutreten (BGE 136 I 332 E. 2.1 S. 334; 134 V 138 E. 2.1 S. 143).
2. 2.1 Anfechtungsobjekt vor Bundesgericht ist einzig der Entscheid der letzten kantonalen Instanz, womit über die Beschwerde der Betreibungsschuldnerin betreffend die Kosten- und Entschädigungsfolgen des Rechtsöffnungsverfahrens befunden worden ist (Art. 75 Abs. 1 BGG). Da die Beschwerdeführerin den erstinstanzlichen Rechtsöffnungsentscheid nicht angefochten und damit den kantonalen Instanzenzug nicht ausgeschöpft hat, kann sie sich nunmehr zur in Betreibung gesetzten Forderung nicht äussern. Ebenso wenig ist sie befugt, den ihr vom Rechtsöffnungsrichter bereits auferlegten Kostenanteil vor Bundesgericht in Frage zu stellen. Soweit im erstinstanzlichen Verfahren dem Bezirk Schwyz ein Kostenanteil angelastet worden ist, ist sie dadurch nicht beschwert und insoweit nicht zur Beschwerde berechtigt (Art. 76 Abs. 1 lit. b BGG).
2.2 Das Bundesgericht nimmt sodann zu den allgemein gehaltenen Vorwürfen gegen die Arbeitsweise der Schwyzer Justiz nicht Stellung und erteilt ihren Mitgliedern auch keine Anweisungen oder gar Rügen. Es kann einzig als Rechtsmittelinstanz angerufen werden und übt seit dem Inkrafttreten des Bundesgerichtsgesetzes am 1. Januar 2007 keine Aufsichtsfunktionen mehr aus (vgl. Art. 15 SchKG). Daraus folgt auch, dass zur Beschwerde nur befugt ist, wer konkrete eigene Interessen, nicht aber solche allgemeiner und öffentlicher Natur geltend macht. Diese Rechtslage ist der Beschwerdeführerin bereits in einer sie betreffenden Angelegenheit erörtert worden, worauf verwiesen wird (Urteil 5A_494/2010 vom 12. November 2010 E. 4).
2.3 Wer das Mitglied einer Behörde wegen Befangenheit ablehnt, muss dies umgehend nach Kenntnis des Grundes geltend machen (BGE 134 I 20 E. 4.3 S. 21). Das Kantonsgericht teilte der Beschwerdeführerin im Verlaufe des Verfahrens die Namen der mitwirkenden Richter mit, aus welchem Schreiben sich auch die Person des Gerichtsschreibers ergibt. Darauf hätte die Beschwerdeführerin mit einem Ablehnungsgesuch reagieren müssen, was sie nicht getan hat. Damit erweist sich der nunmehr erhobene Vorwurf der Befangenheit der mitwirkenden Kantonsrichter sowie des Gerichtsschreibers als verspätet. Soweit schliesslich seitens der Beschwerdeführerin Vorwürfe gegen Personen erhoben, die an der Entscheidfindung im konkreten Verfahren gar nicht beteiligt waren, bleiben diese unbeantwortet. Dies gilt auch für die bereits im kantonalen Verfahren erhobene, aber vor Bundesgericht nicht näher begründete Forderung nach einem unabhängigen Gericht, da die Vorinstanz "gegen sich selber prozessiere". Im Weiteren kann - was den Hinweis der Beschwerdeführerin auf die Betreibungsforderung betrifft - ohnehin nicht der Ausstand einer Gerichtsperson verlangt werden, nur weil eine Forderung des Staatswesens im Streite steht, in dessen Dienst sie steht (vgl. BGE 97 III 105 E. 3 S. 106).
3. 3.1 Das Kantonsgericht hat die Beschwerde des Kantons Schwyz gegen die Kosten- und Entschädigungsfolgen des Rechtsöffnungsverfahrens gutgeheissen. Es hat die Gerichtskosten des erstinstanzlichen Verfahrens von Fr. 150.-- je hälftig der Betreibungsgläubigerin und dem Bezirk Schwyz auferlegt. Zudem hat es dem Kanton Schwyz für beide Instanzen eine Parteientschädigung von Fr. 400.-- zugesprochen. Die Kosten des Rechtsmittelverfahrens von Fr. 200.-- hat die Vorinstanz der Betreibungsgläubigerin auferlegt.
3.2 Gemäss den allgemeinen zivilprozessualen Grundsätzen hat im Verfahren der Rechtsöffnung bzw. Beschwerde die unterliegende Partei die Prozesskosten zu tragen (Art. 106 Abs. 1 und 2 ZPO; vgl. D. STAEHELIN, in: Basler Kommentar zum Bundesgesetz über Schuldbetreibung und Konkurs, 2. Aufl. 2010, N. 72, 93 zu Art. 84). Wie die Beschwerdeführerin zu Recht betont, ist der Kanton Schwyz mit seinen Anträgen im vorinstanzlichen Verfahren nur teilweise durchgedrungen. Statt wie verlangt die gesamten Gerichtskosten der Gegenpartei oder dem Bezirk Schwyz aufzuerlegen, nahm die Vorinstanz eine hälftige Teilung vor. Wenn auch die Kritik an der konkreten Kostenregelung des Rechtsöffnungsverfahrens seitens der Beschwerdeführerin unzulässig ist (E. 2.1), so kann sie sich zu den Kostenfolgen des kantonalen Beschwerdeverfahrens ohne weiteres äussern. Zwar steht der urteilenden Instanz bei der Verlegung der Kosten jeweils ein gewisses Ermessen zu. Die Vorinstanz vermerkte hierzu nur, dass die Kosten ausgangsgemäss von der Beschwerdeführerin zu tragen sind. Angesichts des tatsächlichen kantonalen Verfahrensausgangs ist der Vorwurf der Beschwerdeführerin, die angefochtene Regelung bzw. die vollumfängliche Auferlegung der Gerichtskosten sei willkürlich, durchaus begründet. Eine bloss hälftige Kostenbelastung der Beschwerdeführerin ist demgegenüber angebracht (Art. 107 Abs. 2 BGG).
3.3 Schliesslich wehrt sich die Beschwerdeführerin gegen die Verpflichtung, dem Kanton Schwyz für das Rechtsöffnungsverfahren und das kantonale Beschwerdeverfahren eine Parteientschädigung von insgesamt Fr. 400.-- zu leisten. Sie weist auf den Umstand hin, dass sich der Kanton Schwyz nicht anwaltlich habe vertreten lassen, weshalb praxisgemäss auf die Zusprechung einer Parteientschädigung zu verzichten sei. Die Erstinstanz hat unabhängig vom Ausgang des Verfahrens keiner Seite eine Parteientschädigung zugesprochen, da sich der Betreibungsgläubiger in guten Treuen zur Prozessführung veranlasst gesehen habe. Was als Parteientschädigung gilt, wird in Art. 95 Abs. 3 ZPO festgelegt. Prozessiert eine Partei ohne berufsmässige Vertretung, so hat sie neben dem Ersatz notwendiger Auslagen (Art. 95 Abs. 3 lit. a ZPO) nur in begründeten Fällen Anspruch auf eine angemessene Umtriebsentschädigung (Art. 95 Abs. 3 lit. c ZPO; vgl. D. STAEHELIN, a.a.O., N. 80 zu Art. 84). Die Vorinstanz begründet ihren Entscheid in diesem Punkt nicht. Damit ist nicht nachvollziehbar, weshalb eine Amtsstelle ohne Beizug eines Anwaltes im konkreten Fall Anspruch auf eine Parteientschädigung für ein Gerichtsverfahren haben sollte.
4. Nach dem Gesagten ist der Verfassungsbeschwerde überwiegend Erfolg beschieden, womit sich eine Aufteilung der Gerichtskosten nicht aufdrängt. Der Kanton Schwyz, welcher seine Vermögensinteressen wahrnimmt, trägt die Verfahrenskosten (Art. 66 Abs. 3 BGG). Von der Zusprechung einer Parteientschädigung an die Beschwerdeführerin wird abgesehen, da ihr keine ersatzpflichtigen Auslagen entstanden sind (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. 1.1 Die Verfassungsbeschwerde wird, soweit darauf einzutreten ist, gutgeheissen.
1.2 Der Beschluss des Kantonsgerichts des Kantons Schwyz, Beschwerdekammer, vom 23. November 2011 wird insoweit aufgehoben, als die Beschwerdeführerin verpflichtet wird, den Beschwerdegegner für das erst- und zweitinstanzliche Verfahren zu entschädigen, und ihm die Kosten des vorinstanzlichen Beschwerdeverfahrens auferlegt werden. Die Kosten des vorinstanzlichen Beschwerdeverfahrens von Fr. 200.-- werden den Parteien je zur Hälfte auferlegt.
2. Die Gerichtskosten von Fr. 200.-- für das bundesgerichtliche Verfahren werden dem Beschwerdegegner auferlegt.
3. Dieses Urteil wird den Parteien und dem Kantonsgericht des Kantons Schwyz, Beschwerdekammer, schriftlich mitgeteilt.
Lausanne, 16. April 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Levante