Sachverhalt:
A.
Mit Eheschutzentscheid des Kantonsgerichts Appenzell Ausserrhoden vom 19. August 2008 wurde X._ zu Unterhaltsbeiträgen an seine drei Kinder und an seine Ehefrau Y._ verpflichtet. Der Unterhaltsbeitrag an Y._ wurde später in einem Abänderungsverfahren gesenkt (Entscheid des Kantonsgerichts vom 24. November 2010, bestätigt durch die Justizaufsichtskommission am 30. Mai 2011).
B.
Y._ betrieb X._ mit Zahlungsbefehl Nr. xxx des Betreibungsamts Appenzeller Mittelland vom 6. Februar 2013 für Forderungen von Fr. 49'788.-- nebst Zins zu 5 % seit 1. Februar 2013 sowie von Fr. 2'500.-- nebst Zins zu 5 % seit 1. März 2013. X._ erhob Rechtsvorschlag.
Am 19. Februar 2013 ersuchte Y._ beim Kantonsgericht Appenzell Ausserrhoden um definitive Rechtsöffnung für den in Betreibung gesetzten Betrag. Am 10. Mai 2013 gewährte das Kantonsgericht die definitive Rechtsöffnung für den Betrag von Fr. 49'788.-- nebst 5 % Zins seit dem 1. Februar 2013 und wies das Begehren im Mehrbetrag ab.
C.
Gegen diesen Entscheid erhob X._ am 16. Juli 2013 Beschwerde an das Obergericht Appenzell Ausserrhoden. Am 3. September 2013 fand die mündliche Verhandlung statt. Mit Entscheid vom selben Tag wies das Obergericht die Beschwerde ab.
D.
Am 22. November 2013 hat X._ (Beschwerdeführer) Beschwerde in Zivilsachen an das Bundesgericht erhoben. Er beantragt sinngemäss die Aufhebung des obergerichtlichen Entscheids vom 3. September 2013 und die Abweisung des Gesuchs von Y._ (Beschwerdegegnerin) um definitive Rechtsöffnung. Er verlangt ausserdem die Durchführung einer öffentlichen mündlichen Verhandlung und den Verzicht auf Erhebung von Gerichtskosten. Schliesslich ersucht er um aufschiebende Wirkung.
Nachdem sich weder die Beschwerdegegnerin noch das Obergericht gegen die Gewährung aufschiebender Wirkung ausgesprochen haben, ist das entsprechende Gesuch mit Präsidialverfügung vom 9. Dezember 2013 gutgeheissen worden.
Das Bundesgericht hat die Akten beigezogen, in der Sache aber keine Vernehmlassungen eingeholt.

Erwägungen:
1.
1.1. Die fristgemäss erfolgte Eingabe richtet sich gegen einen mit Beschwerde in Zivilsachen anfechtbaren Entscheid (Art. 72 Abs. 2 lit. a, Art. 74 Abs. 1 lit. b, Art. 75, Art. 90, Art. 100 Abs. 1 BGG).
Mit der Beschwerde in Zivilsachen können Rechtsverletzungen gemäss Art. 95 f. BGG geltend gemacht werden. Das Bundesgericht wendet das Recht grundsätzlich von Amtes wegen an (Art. 106 Abs. 1 BGG; vgl. für Ausnahmen Abs. 2 dieser Norm) und prüft mit freier Kognition, ob der angefochtene Entscheid Recht verletzt. Es befasst sich aber nur mit formell ausreichend begründeten Rügen (Art. 42 Abs. 2 BGG; <ref-ruling> E. 1.1 S. 104 f.). In der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Allgemein gehaltene Einwände, die ohne aufgezeigten oder erkennbaren Zusammenhang mit bestimmten Entscheidungsgründen vorgebracht werden, genügen nicht (<ref-ruling> E. 1.3 S. 584 mit Hinweisen).
Der vorinstanzlich festgestellte Sachverhalt ist für das Bundesgericht grundsätzlich verbindlich (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig - d.h. willkürlich (<ref-ruling> E. 1.5 S. 130 mit Hinweis) - ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1 BGG). Will der Beschwerdeführer die Sachverhaltsfeststellungen der Vorinstanz anfechten, muss er darlegen, inwiefern die genannten Voraussetzungen erfüllt sein sollen (<ref-ruling> E. 4.2 S. 234; <ref-ruling> E. 5.1 S. 356). Bei der Rüge der offensichtlich unrichtigen Sachverhaltsfeststellung gilt das strenge Rügeprinzip (Art. 106 Abs. 2 BGG). Das Bundesgericht prüft in diesem Fall nur klar und detailliert erhobene und, soweit möglich, belegte Rügen; auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (<ref-ruling> E. 2.2 S. 246; <ref-ruling> E. 5.1 S. 356).
1.2. Der Beschwerdeführer ersucht um eine mündliche und öffentliche Verhandlung vor Bundesgericht. Sollte er damit eine mündliche Parteiverhandlung verlangen, so ist darauf hinzuweisen, dass eine solche vor Bundesgericht nur ausnahmsweise stattfindet und die Parteien grundsätzlich keinen Anspruch darauf haben (Art. 57 BGG; Urteil 2C_844/2009 vom 22. November 2010 E. 3.2.3, nicht publ. in: <ref-ruling>, aber in: Pra 100/2011 Nr. 73 S. 520). Entgegen der gesetzlichen Vorgaben begründet er den Antrag auch nicht (oben E. 1.1; Urteil 5A_880/2011 vom 20. Februar 2012 E. 1.5). Eine mündliche Verhandlung hat im Übrigen bereits vor Obergericht stattgefunden. Falls er hingegen eine mündliche und öffentliche Urteilsberatung wünschen sollte, so liegen die Voraussetzungen hiezu nicht vor. Folglich ist auf dem Weg der Aktenzirkulation zu entscheiden (Art. 58 BGG).
2.
Das Obergericht hat erkannt, der Eheschutzentscheid vom 19. August 2008 und der Abänderungsentscheid vom 24. November 2010, auf die sich die Beschwerdegegnerin stütze, stellten definitive Rechtsöffnungstitel dar (Art. 80 SchKG). Entgegen der Ansicht des Beschwerdeführers ändere daran nichts, dass diese Entscheide im summarischen Verfahren ohne volle Kognition ergangen seien. Der Beschwerdeführer habe ausserdem geltend gemacht, die Kinderunterhaltsbeiträge seien bezahlt. Dazu verweise er jedoch einfach auf die Akten, statt genau anzugeben, welchen Betrag er auf welchem Wege beglichen habe. Es liege nicht am Gericht, in den Akten nach Zahlungen zu forschen. Der Beschwerdeführer habe zudem vor Obergericht Kontoauszüge eingereicht. Diese Urkunden seien neu und deshalb unzulässig. Soweit der Beschwerdeführer vorbringe, die Beschwerdegegnerin lebe seit 2005 in einem stabilen Konkubinat und er schulde ihr deshalb keinen Unterhalt mehr, müsse er dies in einem Abänderungsverfahren geltend machen. Schliesslich berufe sich der Beschwerdeführer auf eine Forderung von Fr. 125'000.-- unter dem Titel "Rückforderung des zu Unrecht bezahlten Unterhalts, Schadenersatzansprüche", die er mit der Forderung der Beschwerdegegnerin verrechnen wolle. Dabei handle es sich um ein unzulässiges Novum. Für seine Gegenforderung lege der Beschwerdeführer auch keine Urkunde vor. Eine Tilgung durch Verrechnung könne im Verfahren auf definitive Rechtsöffnung nur berücksichtigt werden, wenn die Gegenforderung auf einer Urkunde beruhe, die zumindest zur provisorischen Rechtsöffnung berechtigen würde.
3.
Der Beschwerdeführer bestreitet, dass die Unterhaltsurteile vollstreckbar seien. Sie seien nicht in einem Verfahren zustande gekommen, das Art. 6 und Art. 13 EMRK genüge. Es sei bis jetzt noch nie in einem kontradiktorischen und mit voller Kognition durchgeführten Verfahren über seine Einwände gegen die Ehegattenunterhaltspflicht entschieden worden. Er habe eingewendet, dass er keinen Ehegattenunterhalt bezahlen müsse, weil die Beschwerdegegnerin seit 2007 in einem Konkubinat lebe, dass sie selber genügend Einkommen erziele und dass sie den Ehevertrag verletzt habe. Der Beschwerdeführer übergeht mit all diesen Ausführungen die obergerichtliche Erwägung, dass auch ein in einem Summarverfahren ohne volle Kognition getroffener Entscheid als definitiver Rechtsöffnungstitel tauge. Ebenso wenig geht er darauf ein, dass ihn das Obergericht hinsichtlich des Konkubinats der Beschwerdegegnerin auf das Abänderungsverfahren verwiesen hat. Ganz allgemein verkennt der Beschwerdeführer, dass im Verfahren auf definitive Rechtsöffnung grundsätzlich nicht mehr auf die Rechtmässigkeit des Rechtsöffnungstitels bzw. das diesem vorangegangene Verfahren zurückgekommen werden kann. Angebliche Mängel des Eheschutz- oder Abänderungsentscheids wären mit den entsprechenden Rechtsmitteln zu rügen gewesen. Dies gilt auch für seinen weiteren Einwand, die Scheidungsklage sei bereits eingereicht gewesen, als die Eheschutzmassnahmen verlangt worden seien, so dass solche Massnahmen gar nicht mehr hätten angeordnet werden dürfen. Schliesslich bringt der Beschwerdeführer vor, er habe bereits vor der ersten Instanz mit Urkunden bewiesen, dass der gesamte Kindesunterhalt bezahlt worden sei. Er unterlässt es aber, durch präzise Hinweise auf konkrete Aktenstücke seine Behauptung zu belegen und er setzt sich auch nicht damit auseinander, dass er bereits vor Obergericht insoweit seiner Begründungsobliegenheit nicht nachgekommen ist. Auf die Beschwerde kann somit insgesamt mangels genügender Begründung (oben E. 1.1) nicht eingetreten werden.
4.
Bei diesem Verfahrensausgang trägt der Beschwerdeführer die Gerichtskosten. Es besteht kein Anlass, auf deren Erhebung zu verzichten (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht Appenzell Ausserrhoden schriftlich mitgeteilt.
Lausanne, 10. Februar 2014
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg