Sachverhalt:
A. Mit Urteil des Einzelrichters der March vom 6. Februar / 9. März 2009 wurde Z._ verpflichtet, für die Kinder S._ (geb. 2002) und T._ (geb. 2004) monatlich im Voraus indexierte Unterhaltsbeiträge von je Fr. 850.-- bis zum 6. Altersjahr und danach von Fr. 950.-- bis zum 12. Altersjahr zu entrichten.
Aufgrund dieses Urteils erhöhte das Fürstliche Landgericht in Vaduz mit Beschluss vom 18. März 2009 eine bereits früher gewährte Bevorschussung des Kindesunterhalts. Es bewilligte die Bevorschussung von Fr. 884.-- und von Fr. 850.-- pro Monat rückwirkend ab März 2009 bis und mit Oktober 2010 (Dispositivziffern 1 und 2). Die Landeskasse des Fürstentums Liechtenstein (FL-Landeskasse) wurde angewiesen, entsprechende Bevorschussungen auszuzahlen (Dispositivziffer 3). Der Unterhaltsschuldner wurde verpflichtet, "ab Zustellung des Beschlusses die geschuldeten Unterhaltsbeiträge in Höhe von CHF 1'734.00 monatlich an die FL-Landeskasse zu bezahlen" (Dispositivziffer 5). Zudem wurde festgestellt, dass die bevorschussten Unterhaltsforderungen von Gesetzes wegen an das Land Liechtenstein übergehen (Dispositivziffer 6).
B. Die Kindsmutter X._ betrieb mit Zahlungsbefehl Nr. ... des Betreibungsamts A._ vom 3. Dezember 2010 Z._ auf Bezahlung von Fr. 1'734.-- nebst 5 % Zins seit 1. November 2010. Als Forderungsgrund wurden die Unterhaltszahlungen für November 2010 gemäss Urteil des Bezirksgerichts March vom 6. Februar 2009 genannt. Z._ erhob Rechtsvorschlag.
C. C.a Am 17. Dezember 2010 ersuchte X._ um definitive Rechtsöffnung für den in Betreibung gesetzten Betrag samt Zins. Mit Verfügung vom 7. Februar 2011 wies das Bezirksgericht March das Rechtsöffnungsbegehren ab. X._ wurde zur Bezahlung einer Parteientschädigung an Z._ verpflichtet.
C.b Gegen diese Verfügung führte X._ Beschwerde an das Kantonsgericht Schwyz, das die Beschwerde mit Beschluss vom 29. Juni 2011 abwies. Es erwog, bei der FL-Landeskasse sei unbestrittenermassen eine Zahlung vom 27. Oktober 2010 in der Höhe von Fr. 1'734.-- eingegangen. Umstritten sei bloss, ob diese Zahlung zur Tilgung der Kinderunterhaltsforderung im entsprechenden Umfang für den Monat November geführt habe. Gemäss Beschluss des Fürstlichen Landgerichts vom 18. März 2009 sei zwar die Dauer der Unterhaltsbevorschussung befristet, nicht aber die Zahlungspflicht von Z._ an die FL-Landeskasse. Diesbezüglich sei vor der Zahlung keine Änderung notifiziert worden. Für die Zahlung vom 27. Oktober 2010 sei derselbe Buchungstext wie im vorangegangenen Monat verwendet worden ("UNTERHALTSBEVORSCHUSSUNG Z._"). Der überwiesene Betrag stimme mit dem im Beschluss festgesetzten Betrag überein. Z._ habe zudem den Differenzbetrag von Fr. 66.-- direkt an X._ (Buchungstext: "UNTERHALT AUSGLEICH") überwiesen. Damit ergebe sich aus den Umständen (Beitragshöhe, Differenzzahlung) ein Wille von Z._ zur Anrechnung an den laufenden Kinderunterhalt. X._ habe sich somit für den November-Unterhalt an die FL-Landeskasse zu halten.
D. Am 23. August 2011 hat X._ (Beschwerdeführerin) Beschwerde in Zivilsachen und Verfassungsbeschwerde erhoben. Sie beantragt die Aufhebung des kantonsgerichtlichen Beschlusses. Ihr sei für den in Betreibung gesetzten Betrag samt Zins definitive Rechtsöffnung zu erteilen. Eventualiter sei die Sache an die Vorinstanz zurückzuweisen. Zudem ersucht sie um aufschiebende Wirkung, da sie erstinstanzlich verpflichtet worden sei, an Z._ (Beschwerdegegner) eine Parteientschädigung zu entrichten.
Das Kantonsgericht hat zum Gesuch um aufschiebende Wirkung keinen Antrag gestellt, sich ihm aber dennoch sinngemäss widersetzt. Der Beschwerdegegner hat sich nicht vernehmen lassen. Mit Präsidialverfügung vom 14. September 2011 ist der Beschwerde in dem Sinne aufschiebende Wirkung zuerkannt worden, als die Vollstreckung der erstinstanzlich zugesprochenen Parteientschädigung einstweilen untersagt wurde.
In der Sache beantragt das Kantonsgericht, auf die Beschwerde in Zivilsachen nicht einzutreten und die Verfassungsbeschwerde abzuweisen, soweit auf sie einzutreten sei. Der Beschwerdegegner beantragt Abweisung der Beschwerde. Zudem ersucht er um unentgeltliche Rechtspflege und Verbeiständung.
Erwägungen:
1. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (BGE 135 III 1 E. 1.1 S. 3 mit Hinweisen).
1.1 Der angefochtene Entscheid betrifft eine Schuldbetreibungs- und Konkurssache, weshalb die Beschwerde in Zivilsachen grundsätzlich zur Verfügung steht (Art. 72 Abs. 2 lit. a BGG). Es handelt sich aber um eine vermögensrechtliche Angelegenheit. Der erforderliche Streitwert von Fr. 30'000.-- (Art. 74 Abs. 1 lit. b BGG) ist vorliegend nicht erreicht.
1.2 Erreicht der Streitwert den massgebenden Betrag nicht, ist die Beschwerde in Zivilsachen dennoch zulässig, wenn sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt (Art. 74 Abs. 2 lit. a BGG). Der Begriff der Rechtsfrage von grundsätzlicher Bedeutung ist restriktiv auszulegen. Eine Frage von grundsätzlicher Bedeutung liegt vor, wenn sie zu einer erheblichen Rechtsunsicherheit führt und daher dringend einer Klärung durch das Bundesgericht bedarf (BGE 135 III 397 E. 1.2 S. 399 mit Hinweisen). In der Beschwerdeschrift ist zu begründen, warum diese Voraussetzung erfüllt ist (Art. 42 Abs. 2 BGG).
1.3 Die Beschwerdeführerin behauptet das Vorliegen von zwei Rechtsfragen mit grundsätzlicher Bedeutung. Zu prüfen sei zum einen, ob bei einer befristeten Zession dem Schuldner der Ablauf der Befristung gemäss Art. 167 OR ausdrücklich mitgeteilt werden müsse. Zum andern sei fraglich, wie die Urkunde gemäss Art. 81 SchKG beschaffen sein müsse, mit der die Tilgung bewiesen werden soll. Es sei zu klären, ob sich aus der Urkunde selber ergeben müsse, welche von mehreren Schulden getilgt worden sei, oder ob es genüge, mit der Vorinstanz Umstände ausserhalb der Urkunde für die Identifikation der getilgten Forderung genügen zu lassen.
1.4 Eine Rechtsfrage von grundsätzlicher Bedeutung liegt nicht vor. Die aufgeworfenen Fragen bedürfen keiner dringenden Klärung durch das Bundesgericht. Sie können sich ohne weiteres auch in Fällen stellen, in denen der Streitwert erreicht ist (vgl. BGE 134 III 267 E. 1.2.3 S. 270 f.). Es kommt hinzu, dass sich die erste aufgeworfene Frage einzig auf einen Nebenpunkt der vorinstanzlichen Begründung bezieht. Mit der zweiten aufgeworfenen Frage zielt die Beschwerdeführerin nicht so sehr auf den Urkundenbegriff von Art. 81 SchKG, sondern kritisiert die Beweiswürdigung der Vorinstanz, welche aus den eingereichten Urkunden (Buchungsbelegen) auf einen Tilgungswillen des Beschwerdegegners geschlossen hat. Damit kann nicht dargetan werden, dass sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt. Die Beschwerde in Zivilsachen ist somit unzulässig.
1.5 Demnach kann die Beschwerdeführerin einzig subsidiäre Verfassungsbeschwerde erheben (Art. 113 BGG). Dies hat sie getan, indem sie in derselben Rechtsschrift (Art. 119 BGG) zusätzlich zur Beschwerde in Zivilsachen eine Verfassungsbeschwerde mit separater Begründung eingereicht hat. Unter diesen Umständen ist auf eine Konversion des als Beschwerde in Zivilsachen bezeichneten Teils in das zulässige Rechtsmittel zu verzichten und lediglich der als Verfassungsbeschwerde bezeichnete Teil der Eingabe zu behandeln.
Mit der Verfassungsbeschwerde kann nur die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Bei Verfassungsrügen gilt das strenge Rügeprinzip (Art. 117 i.V.m. Art. 106 Abs. 2 BGG). Sie müssen in der Beschwerde präzise vorgebracht und begründet werden (BGE 134 I 83 E. 3.2 S. 88; 135 III 397 E. 1.4 S. 400 f.). Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (BGE 135 III 232 E. 1.2 S. 234 mit Hinweisen).
2. 2.1 Die Beschwerdeführerin rügt zunächst eine Verletzung des rechtlichen Gehörs (Art. 29 Abs. 2 BV). Die Vorinstanz habe ihren Entscheid nicht genügend begründet. Sie sei nicht auf ihre Argumente in der kantonalen Beschwerde eingegangen, die gegen die gewählte Begründung sprächen.
Die Beschwerdeführerin erläutert nicht, welche ihrer Argumente in verfassungswidriger Weise übergangen worden sein sollen, sondern verweist auf verschiedene Stellen ihrer Beschwerde an das Kantonsgericht. Sie genügt damit den Begründungsanforderungen nicht. Der blosse Verweis auf Ausführungen in anderen Rechtsschriften ist unzulässig (vgl. BGE 133 II 396 E. 3.1 S. 400 mit Hinweisen).
2.2 Die Beschwerdeführerin rügt ausserdem Verletzungen des Willkürverbots (Art. 9 BV). Bei der Sachverhaltsfeststellung stütze sich die Vorinstanz auf die unbewiesene Behauptung des Beschwerdegegners, er habe am 27. Oktober 2010 den Unterhaltsbetrag für November 2010 bezahlt. Dafür finde sich kein Hinweis in einer Urkunde. Damit werde auch Art. 81 SchKG krass verletzt. Der Beschwerdegegner habe gewusst, dass er mit den Rückzahlungen von bevorschussten Unterhaltszahlungen massiv im Rückstand gewesen sei und er hätte deshalb auch wissen müssen, dass er mit jeder Zahlung an die FL-Landeskasse zuerst früher aufgelaufene Schulden tilge. Willkürlich sei ausserdem die Annahme, der Beschwerdegegner habe nicht gewusst, dass die Bevorschussung im Oktober 2010 endete. Da die Beschwerdeführerin den bezahlten Betrag weder von der FL-Landeskasse herausverlangen könne noch - bei Verweigerung der Rechtsöffnung - vom Beschwerdegegner, sei der vorinstanzliche Entscheid auch im Ergebnis willkürlich.
Auch hier genügt die Beschwerde den Begründungsanforderungen nicht. Die Beschwerdeführerin geht nicht auf die vorinstanzliche Erwägung ein, dass zwar die Dauer der Bevorschussung befristet war, nicht aber die Dauer der Zahlungspflicht des Beschwerdegegners gegenüber der FL-Landeskasse (Dispositivziffer 5 des Beschlusses des Fürstlichen Landgerichts). Sie geht auch nicht auf die konkreten Umstände der Überweisung ein und übergeht insbesondere, dass die Vorinstanz entscheidend auf das im Vergleich zum Vormonat gleichbleibende Zahlungsverhalten und den Buchungstext abgestellt hat, um den Willen des Beschwerdegegners zu bestimmen. Indem sie behauptet, der Beschwerdegegner habe um seinen Zahlungsrückstand gewusst und hätte deshalb wissen müssen, dass er mit seiner Zahlung in erster Linie seine Schulden tilge, schildert sie bloss ihre Sicht der Dinge. Die Vorinstanz hat in dieser Hinsicht keine Feststellungen getroffen, was aber nicht als in willkürlicher Weise lückenhafte Sachverhaltsermittlung gerügt wird. Da sich die Beschwerdeführerin nicht in genügender Weise zu den tragenden Erwägungen des angefochtenen Urteils äussert, erübrigt es sich, auf ihre weiteren Ausführungen einzugehen, mit denen sie Willkür dartun will.
2.3 Auch auf die subsidiäre Verfassungsbeschwerde kann somit nicht eingetreten werden.
3. Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Sie hat dem Beschwerdegegner eine angemessene Parteientschädigung zu entrichten (Art. 68 Abs. 1 BGG).
Der Beschwerdegegner hat ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung gestellt. Dieses ist für den Fall zu beurteilen, dass die ihm zugesprochene Parteientschädigung uneinbringlich sein sollte. Die Gewährung unentgeltlicher Rechtspflege gemäss Art. 64 BGG setzt formell einen Antrag voraus, der ausdrücklich zu stellen, zu begründen und zu belegen ist. Materiell hängt die Gewährung unentgeltlicher Rechtspflege insbesondere vom Nachweis der Bedürftigkeit ab. Es obliegt dem Gesuchsteller, seine aktuellen Einkommens- und Vermögensverhältnisse umfassend aufzuzeigen und soweit wie möglich zu belegen (BGE 125 IV 161 E. 4a S. 164 f.; Urteil 5A_57/2010 vom 2. Juli 2010 E. 7, nicht publiziert in: BGE 136 III 410). Der Beschwerdegegner hat zwar zahlreiche Unterlagen zu seinen Einkommens- und Vermögensverhältnissen eingereicht. Er kommentiert diese jedoch nicht weiter. Es ist unter diesen Umständen nicht Aufgabe des Bundesgerichts, die Belege im Einzelnen zu überprüfen. Es kommt hinzu, dass die geltend gemachten Wohnkosten überrissen scheinen und Belege für die behauptete Schuldentilgung (vgl. BGE 135 I 221 E. 5.1 S. 223 f.) fehlen. Auf das Gesuch ist deshalb mangels genügender Begründung nicht einzutreten.
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in Zivilsachen wird nicht eingetreten.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Auf das Gesuch des Beschwerdegegners um unentgeltliche Rechtspflege und Verbeiständung für das bundesgerichtliche Verfahren wird nicht eingetreten.
4. Die Gerichtskosten von Fr. 500.-- werden der Beschwerdeführerin auferlegt.
5. Die Beschwerdeführerin hat den Beschwerdegegner mit Fr. 500.-- zu entschädigen.
6. Dieses Urteil wird den Parteien und dem Kantonsgericht Schwyz schriftlich mitgeteilt.
Lausanne, 16. Januar 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Zingg