Erwägungen:
1.
Mit Urteil vom 16. Januar 2018 erteilte das Bezirksgericht Hinwil dem Beschwerdegegner in der Betreibung Nr. xxx des Betreibungsamtes Uster definitive Rechtsöffnung für Gerichtsgebühren von insgesamt Fr. 800.-- sowie Kosten und Entschädigung. Am 29. Januar 2018 erhob der Beschwerdeführer beim Bezirksgericht "Aberkennungsklage" und beantragte sinngemäss die Feststellung der Nichtschuld. Mit Urteil vom 10. April 2018 wies das Bezirksgericht die Klage ab, soweit es darauf eintrat.
Dagegen erhob der Beschwerdeführer am 9. Juni 2018 Beschwerde. Mit Beschluss vom 10. September 2018 trat das Obergericht des Kantons Zürich auf die Beschwerde nicht ein.
Gegen diesen Beschluss hat der Beschwerdeführer am 9. Oktober 2018 Verfassungsbeschwerde an das Bundesgericht erhoben.
2.
Aufgrund des tiefen Streitwerts (Art. 74 Abs. 1 lit. b BGG) und mangels Vorliegens einer Rechtsfrage von grundsätzlicher Bedeutung (Art. 74 Abs. 2 lit. a BGG) ist die subsidiäre Verfassungsbeschwerde das zutreffende Rechtsmittel gegen den angefochtenen Beschluss (Art. 113 ff. BGG). In einer subsidiären Verfassungsbeschwerde kann nur die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Verfassungsrügen müssen gemäss dem strengen Rügeprinzip von Art. 117 i.V.m. Art. 106 Abs. 2 BGG in der Beschwerde präzise vorgebracht und begründet werden. Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (BGE 133 II 396 E. 3.1 S. 399; 142 III 364 E. 2.4 S. 368).
3.
Das Bezirksgericht hat erwogen, auf die Klage sei nicht einzutreten, soweit der Beschwerdeführer eine Aberkennungsklage nach Art. 83 Abs. 2 SchKG habe erheben wollen. Die Aberkennungsklage sei gegen einen definitiven Rechtsöffnungstitel nicht zulässig. Erhebe der Beschwerdeführer hingegen eine negative Feststellungsklage nach Art. 88 ZPO, sei darauf nicht einzutreten, weil vorgängig kein Schlichtungsverfahren durchgeführt worden sei. Handle es sich um eine Feststellungsklage nach Art. 85a SchKG, sei sie abzuweisen. Die betriebene Forderung sei öffentlich-rechtlicher Natur, weshalb mit der Klage nach Art. 85a SchKG nur das Fehlen eines materiell rechtskräftigen Entscheids (bzw. dessen Nichtigkeit) oder aber seither eingetretene Tilgung oder Stundung geltend gemacht werden könne. Ersteres liege nicht vor und Letzteres sei nicht vorgebracht worden.
Das Obergericht hat erwogen, der Beschwerdeführer befasse sich in seiner Beschwerde nicht mit diesen Erwägungen. Er erkläre, er werde die Kosten bzw. Rechnung nicht bezahlen, solange "die Schuldigen ihre Sache nicht Ordnungshalber erfüllt" hätten. Falls er sich damit gegen die Nichtanhandnahme einer Untersuchung durch die Staatsanwaltschaft See/Oberland bzw. die Verfahrenseinstellung wende, so sei ihm entgegenzuhalten, dass die entsprechenden Entscheide vorliegend nicht überprüfbar seien.
4.
Die Beschwerde an das Bundesgericht ist weitgehend unverständlich. Aus ihr erhellt einzig, dass sich der Beschwerdeführer selber bzw. seine Firma als Opfer von Rechtsverletzungen oder Straftaten sieht. Er verlangt, Schuldner bzw. Angeklagte zur Erfüllung von Verbindlichkeiten anzuhalten, und er ersucht um Wiedergutmachung, Schadenersatz und Genugtuung. Ein Zusammenhang mit dem vorliegenden Verfahren, wo es um Gerichtsgebühren geht, ist nicht ersichtlich. Sodann verlangt er, Gerichtskosten den Verursachern aufzuerlegen, wozu er sich - soweit nachvollziehbar - auf Art. 29 Abs. 1 BV stützt. Soweit er damit auf die vorliegend in Betreibung gesetzten Gerichtsgebühren abzielt, übergeht er, dass er seine Beschwerde an das Obergericht nicht genügend begründet hat. Mit Letzterem setzt sich der Beschwerdeführer nicht ansatzweise auseinander und er nennt keine verfassungsmässigen Rechte, die in diesem Zusammenhang verletzt worden sein sollen.
Die Beschwerde enthält damit offensichtlich keine hinreichende Begründung. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (Art. 117 i.V.m. Art. 108 Abs. 1 lit. b BGG).
5.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG).
Demnach erkennt das präsidierende Mitglied:
1.
Auf die Verfassungsbeschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 9. November 2018
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg