Erwägungen:
1.
Der Beschwerdeführer betreibt die Beschwerdegegnerin mit Zahlungsbefehl Nr. xxx vom 3. April 2019 für Fr. 21'000.-- nebst Zins. Die Beschwerdegegnerin erhob Rechtsvorschlag.
Mit Entscheid vom 21. August 2019 (Zustellung der vollständigen Ausfertigung am 19. November 2019) wies das Zivilgericht Basel-Stadt das Rechtsöffnungsgesuch des Beschwerdeführers ab.
Dagegen erhob der Beschwerdeführer am 28. November 2019 Beschwerde. Mit Entscheid vom 4. Februar 2020 wies das Appellationsgericht des Kantons Basel-Stadt die Beschwerde ab.
Am 12. März 2019 (Postaufgabe) hat der Beschwerdeführer Beschwerde in Zivilsachen an das Bundesgericht erhoben.
2.
Aufgrund des unter Fr. 30'000.-- liegenden Streitwerts (<ref-law>) und mangels Vorliegens einer Rechtsfrage von grundsätzlicher Bedeutung (<ref-law>) ist die Beschwerde in Zivilsachen unzulässig. Die Eingabe ist als subsidiäre Verfassungsbeschwerde entgegenzunehmen (<ref-law>). Mit der Verfassungsbeschwerde kann einzig die Verletzung verfassungsmässiger Rechte gerügt werden (<ref-law>). Verfassungsrügen müssen gemäss dem strengen Rügeprinzip von Art. 117 i.V.m. <ref-law> in der Beschwerde präzise vorgebracht und begründet werden. Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (<ref-ruling> E. 3.1 S. 399; <ref-ruling> E. 2.4 S. 368).
3.
Der Beschwerdeführer stützt sein Rechtsöffnungsgesuch auf einen Eheschutzentscheid des Bezirksgerichts Liestal vom 27. Oktober 2011, worin die Beschwerdegegnerin verpflichtet wurde, dem Beschwerdeführer vom 1. Juli 2011 bis 30. April 2012 einen monatlichen Unterhaltsbeitrag von Fr. 2'100.-- zu zahlen. Das Appellationsgericht verwies auf das Scheidungsurteil des Zivilgerichts Basel-Landschaft West vom 26. April 2016, mit dem die Vereinbarung der Parteien vom gleichen Tag über die Scheidungsfolgen gerichtlich genehmigt worden sei. Gemäss dieser Vereinbarung hätten sich beide Parteien für güterrechtlich vollständig auseinandergesetzt erklärt. Unterhaltsschulden fielen unter die im Rahmen der güterrechtlichen Auseinandersetzung zu regelnden gegenseitigen Schulden (<ref-law>). Erklärten die Parteien, güterrechtlich auseinandergesetzt zu sein, so könnten auch während der Trennungszeit angefallene Unterhaltsausstände nicht mehr geltend gemacht werden. Der Beschwerdeführer habe nicht aufgezeigt, dass sich die Parteien in der Scheidungsvereinbarung nur partiell güterrechtlich auseinandergesetzt hätten. Soweit der Beschwerdeführer geltend mache, von seinem damaligen Anwalt zur Unterschrift gezwungen worden zu sein, handle es sich um eine unzulässige neue Behauptung (<ref-law>).
4.
Der Beschwerdeführer geht auf diese Erwägungen nicht ein und er nennt keine verfassungsmässigen Rechte, die verletzt worden sein sollen. Stattdessen schildert er die Geschichte seiner Ehe bzw. der Scheidung und erhebt Vorwürfe gegen die Beschwerdegegnerin und seinen damaligen Anwalt, der ihn absichtlich in die Irre geführt habe. Entgegen seinem Anliegen kann das Bundesgericht seinen Fall nicht erneut beurteilen. Neben dem vorliegend strittigen Betrag fordert der Beschwerdeführer von der Beschwerdegegnerin zusätzlich eine Entschädigung von Fr. 150'000.-- für die verlorene Lebenszeit, die verlorene PK-Rente und den psychischen und seelischen Schaden. Dies ist nicht Gegenstand des vorliegenden Rechtsöffnungsverfahrens.
Die Beschwerde ist damit offensichtlich unzulässig und offensichtlich mangelhaft begründet. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (Art. 117 i.V.m. Art. 108 Abs. 1 lit. a und b BGG).
5.
Es rechtfertigt sich ausnahmsweise, auf die Erhebung von Gerichtskosten zu verzichten (<ref-law>).

Demnach erkennt das präsidierende Mitglied:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Es werden keine Gerichtskosten erhoben.
3.
Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt, Dreiergericht, schriftlich mitgeteilt.
Lausanne, 16. März 2020
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg