Erwägungen:
1.
Mit Urteil vom 6. Januar 2021 erteilte das Bezirksgericht Uster der Beschwerdegegnerin gegenüber dem Beschwerdeführer in der Betreibung Nr. xxx des Betreibungsamtes Dübendorf provisorische Rechtsöffnung für Fr. 3'631.-- nebst Zins und Kosten.
Dagegen erhob der Beschwerdeführer am 12. Oktober 2021 (Poststempel) Beschwerde. Mit Beschluss vom 17. Dezember 2021 trat das Obergericht des Kantons Zürich auf die Beschwerde mangels genügender Begründung nicht ein.
Dagegen hat der Beschwerdeführer am 3. Februar 2022 (Postaufgabe) Beschwerde in Zivilsachen an das Bundesgericht erhoben. Er verlangt die Aufhebung des angefochtenen Beschlusses und die Rückweisung der Sache an das Obergericht zur Neubeurteilung. Das Bundesgericht hat die Akten beigezogen.
2.
Aufgrund des unter Fr. 30'000.-- liegenden Streitwerts (Art. 74 Abs. 1 lit. b BGG) und mangels Vorliegens einer Rechtsfrage von grundsätzlicher Bedeutung (Art. 74 Abs. 2 lit. a BGG) ist die Beschwerde in Zivilsachen unzulässig und die Eingabe als subsidiäre Verfassungsbeschwerde zu behandeln (Art. 113 ff. BGG). Mit ihr kann einzig die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Verfassungsrügen müssen gemäss dem strengen Rügeprinzip von Art. 117 i.V.m. Art. 106 Abs. 2 BGG in der Beschwerde präzise vorgebracht und begründet werden. Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (<ref-ruling> E. 3.1 S. 399; <ref-ruling> E. 2.4 S. 368).
3.
Der Beschwerdeführer beruft sich auf Art. 6 Ziff. 1 EMRK. Er macht geltend, er habe weder vor der ersten noch vor der zweiten Instanz die Möglichkeit erhalten, sich mündlich zum Streitgegenstand, inklusive der angeblichen Schuldanerkennung, zu äussern. Er sei nicht anwaltlich vertreten. Er sei juristischer Laie und nicht imstande, seine Position schriftlich kompetent darzulegen.
Der Beschwerdeführer behauptet und belegt nicht, dass er für das Beschwerdeverfahren vor Obergericht eine mündliche Verhandlung verlangt hätte. Aus dem angefochtenen Beschluss ergibt sich sodann, dass entgegen der Behauptung des Beschwerdeführers vor Bezirksgericht eine Verhandlung stattgefunden hat. Wenn der Beschwerdeführer der Auffassung ist, er hätte sich an dieser Verhandlung nicht genügend zur Sache äussern können, hätte er dies vor Obergericht rügen müssen. Im Übrigen geht der Beschwerdeführer nicht auf die obergerichtliche Erwägung ein, dass seine kantonale Beschwerde keine Auseinandersetzung mit dem erstinstanzlichen Urteil enthielt und damit ungenügend begründet war. Der Beschwerdeführer legt schliesslich auch nicht dar, was eine allfällige mündliche Verhandlung vor Obergericht bzw. ein Gesuch auf Durchführung einer solchen Verhandlung im kantonalen Beschwerdeverfahren an der vom Obergericht dargelegten Notwendigkeit einer genügenden schriftlichen Beschwerdebegründung als Eintretensvoraussetzung ändern würde.
Die Beschwerde enthält damit keine hinreichende Begründung. Auf sie ist nicht einzutreten.
4.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, mitgeteilt.
Lausanne, 28. Februar 2022
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg