Erwägungen:
1.
Mit Urteil vom 22. März 2019 hat das Richteramt Olten-Gösgen der Beschwerdegegnerin gegenüber dem Beschwerdeführer in der Betreibung Nr. xxx des Betreibungsamtes Olten-Gösgen provisorische Rechtsöffnung für Fr. 1'290.50 erteilt. Als Rechtsöffnungstitel diente ein Pfändungsverlustschein vom 21. Februar 2000.
Gegen das Rechtsöffnungsurteil erhob der Beschwerdeführer am 20. April 2019 Beschwerde an das Obergericht des Kantons Solothurn. Mit Beschluss vom 26. April 2019 trat das Obergericht auf die Beschwerde mangels genügender Begründung nicht ein.
Gegen diesen Beschluss hat der Beschwerdeführer am 14. Mai 2019 Beschwerde an das Bundesgericht erhoben. Das Bundesgericht hat die Akten beigezogen, jedoch keine Vernehmlassungen eingeholt.
2.
Aufgrund des tiefen Streitwerts (Art. 74 Abs. 1 lit. b BGG) und mangels Vorliegens einer Rechtsfrage von grundsätzlicher Bedeutung (Art. 74 Abs. 2 lit. a BGG) ist die Eingabe als subsidiäre Verfassungsbeschwerde entgegenzunehmen (Art. 113 ff. BGG). In einer subsidiären Verfassungsbeschwerde kann nur die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Verfassungsrügen müssen gemäss dem strengen Rügeprinzip von Art. 117 i.V.m. Art. 106 Abs. 2 BGG in der Beschwerde präzise vorgebracht und begründet werden. Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (BGE 133 II 396 E. 3.1 S. 399; 142 III 364 E. 2.4 S. 368).
3.
Der Beschwerdeführer setzt sich nicht damit auseinander, dass er seine Beschwerde an das Obergericht ungenügend begründet hat, und er legt nicht dar, inwiefern verfassungsmässige Rechte verletzt worden sein sollen. Dass auf seine Eingabe nicht eingegangen worden sei und seine Angaben nicht berücksichtigt worden seien, stellt keine genügende Verfassungsrüge dar. Ebenso wenig legt er dar, inwiefern verfassungsmässige Rechte dadurch verletzt worden sein sollen, dass das Obergericht nicht einmal eine Woche gebraucht hat, um den angefochtenen Beschluss zu fällen.
Wie bereits vor den Vorinstanzen beharrt der Beschwerdeführer darauf, es liege ein rechtskräftiges Urteil zu seinen Gunsten vor. Das Obergericht hat ihm erläutert, dass ein Rechtsöffnungsentscheid nicht allgemein, sondern nur für die betreffende Betreibung rechtskräftig wird, so dass der Gläubiger in einer neuen Betreibung erneut um Rechtsöffnung ersuchen könne. Auf diese Erwägung geht der Beschwerdeführer nicht ein.
Der Beschwerdeführer hält die Urkunden der Beschwerdegegnerin für falsch und bezweifelt ihre Echtheit. Sie seien im Nachhinein erstellt worden. Auch die Zession der Verlustscheinforderung sei nicht nachvollziehbar und eine Vollmacht unrichtig. All dies hätte der Beschwerdeführer vor den Vorinstanzen vorbringen müssen. Dass er dies getan hätte, belegt er nicht, und ergibt sich auch nicht aus dem angefochtenen Beschluss. Schliesslich macht der Beschwerdeführer geltend, die Beschwerdegegnerin und die vorherigen Forderungsinhaber hätten sich neunzehneinhalb Jahre Zeit gelassen mit der Geltendmachung der Forderung. Sofern der Beschwerdeführer daraus rechtliche Folgen ableiten will, hätte er auch dies den Vorinstanzen vortragen müssen.
Die Beschwerde enthält demnach offensichtlich keine hinreichende Begründung. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (Art. 117 i.V.m. Art. 108 Abs. 1 lit. b BGG).
4.
Es rechtfertigt sich ausnahmsweise, auf die Erhebung von Gerichtskosten zu verzichten (Art. 66 Abs. 1 BGG). Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege wird damit gegenstandslos.
Demnach erkennt das präsidierende Mitglied:
1.
Auf die Verfassungsbeschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege wird als gegenstandslos abgeschrieben.
3.
Es werden keine Gerichtskosten erhoben.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Solothurn, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 22. Mai 2019
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg