Sachverhalt:
A.
A.a. Am 24. März 2017 erhob C._ (Klägerin), vertreten durch A._ (Beschwerdeführer), beim Bezirksgericht Zürich eine negative Feststellungsklage gegen die B._ GmbH (Beklagte, Beschwerdegegnerin 1) betreffend eine von der Beklagten in Betreibung gesetzte Forderung von Fr. 1'701.--. Für dieses Verfahren war ihr zuvor die unentgeltliche Rechtspflege gewährt und A._ als unentgeltlicher Rechtsbeistand bestellt worden.
A.b. An der Hauptverhandlung vor dem Bezirksgericht am 6. Juli 2017 anerkannte die Beklagte die Klage. Gleichentags reichte A._ seine Kostennote ein. Mit einer Stellungnahme vom 28. August 2017 machte er ein Honorar von mindestens Fr. 5'598.-- sowie Fr. 227.40 Auslagenersatz geltend.
A.c. Mit Verfügung vom 5. Oktober 2017 schrieb das Bezirksgericht Zürich das Verfahren als durch Anerkennung erledigt ab (Dispositiv-Ziff. 1). Es auferlegte die Gerichtskosten der Beklagten (Dispositiv-Ziff. 3) und regelte die Entschädigungsfolgen wie folgt:
"4. Die Beklagte wird verpflichtet, dem unentgeltlichen Rechtsbeistand der Klägerin, MLaw A._, eine Parteientschädigung von Fr. 612.35 zu bezahlen.
5. Rechtsanwalt MLaw A._ wird für seine Bemühungen als unentgeltlicher Rechtsbeistand der Klägerin mit Fr. 1'007.65 (inkl. Mehrwertsteuer und Barauslagen) aus der Gerichtskasse entschädigt. Die Klägerin wird... [auf] die Nachzahlungspflicht gemäss <ref-law> hingewiesen."
B.
Gegen diese Verfügung erhoben sowohl A._ als auch die Klägerin (in einem separaten Verfahren; vgl. das konnexe bundesgerichtliche Verfahren 4A_170/2018) Beschwerde an das Obergericht des Kantons Zürich. A._ stellte das folgende Rechtsbegehren:
"1. Es sei die Verfügung des Bezirksgerichts Zürich, 1. Abteilung, vom 5. Oktober 2017 in Dispositiv-Ziffer 4 und 5 aufzuheben und es sei der Beschwerdeführer für seine Bemühungen und Barauslagen als unentgeltlicher Rechtsvertreter in den Verfahren (...) mit insgesamt mindestens Fr. 5'825.40 zu entschädigen.
2. Eventualiter sei die Verfügung des Bezirksgerichts Zürich vom 5. Oktober 2017 aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
3. (Kosten- und Entschädigungsfolgen)."
Mit Beschluss vom 30. Januar 2018 trat das Obergericht auf die Beschwerde nicht ein. Im Rubrum des Beschlusses führte das Obergericht die B._ GmbH und den Kanton Zürich, vertreten durch das Bezirksgericht Zürich, als Beschwerdegegner auf. Das Obergericht kam zum Schluss, die Beschwerdeanträge genügten den formellen Anforderungen nicht, weil daraus nicht hervorgehe, wem die geforderte Entschädigung aufzuerlegen wäre; es werde mithin nicht klar, inwiefern die angefochtenen Dispositiv-Ziffern 4 und 5 nach Ansicht des Beschwerdeführers abzuändern wären.
C.
Mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde vom 20. Februar 2018 beantragt A._ dem Bundesgericht, der Beschluss des Obergerichts des Kantons Zürich sei aufzuheben und die Sache sei zur Neubeurteilung an die Vorinstanz, eventuell an das Bezirksgericht Zürich zurückzuweisen.
Es wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1.
1.1. Die Beschwerde hat ein Rechtsbegehren zu enthalten (<ref-law>). Da die Beschwerde in Zivilsachen ein reformatorisches Rechtsmittel ist (<ref-law>), ist grundsätzlich ein materieller Antrag erforderlich; Anträge auf Rückweisung der Sache an die Vorinstanz zu neuer Entscheidung oder blosse Aufhebungsanträge genügen nicht und machen die Beschwerde unzulässig (<ref-ruling> E. 3.1 S. 489 f.). Hat die Vorinstanz aber wie hier einen Nichteintretensentscheid gefällt und die Sache materiell nicht beurteilt, kann das Bundesgericht im Falle der Gutheissung der Beschwerde nicht reformatorisch entscheiden, sondern müsste die Angelegenheit zum Entscheid in der Sache an die Vorinstanz zurückweisen. In solchen Fällen ist ein materieller Antrag nicht zulässig (<ref-ruling> E. 1.2 S. 48; Urteile 5A_88/2017 vom 25. September 2017 E. 1.2, nicht publ. in: <ref-ruling>; 5A_251/2017 vom 22. November 2017 E. 2). Der Rückweisungsantrag des Beschwerdeführers genügt daher den formellen Anforderungen.
1.2.
1.2.1. Der Streitwert erreicht die Grenze von Fr. 30'000.-- gemäss <ref-law> nicht. Unter diesen Umständen ist die Beschwerde in Zivilsachen dennoch zulässig, wenn sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt (<ref-law>). Dies ist der Fall, wenn ein allgemeines und dringendes Interesse besteht, dass eine umstrittene Frage höchstrichterlich geklärt wird, um eine einheitliche Anwendung und Auslegung des Bundesrechts herbeizuführen und damit eine erhebliche Rechtsunsicherheit auszuräumen (<ref-ruling> E. 1.2; <ref-ruling> E. 1.2 S. 210; je mit weiteren Hinweisen). Der Begriff der Rechtsfrage von grundsätzlicher Bedeutung ist restriktiv auszulegen. Soweit es bei der aufgeworfenen Frage lediglich um die Anwendung von Grundsätzen der Rechtsprechung auf einen konkreten Fall geht, handelt es sich nicht um eine Rechtsfrage von grundsätzlicher Bedeutung (<ref-ruling> E. 1.3 S. 4 mit weiteren Hinweisen). Wenn geltend gemacht wird, dass von den unteren Instanzen viele gleichartige Fälle zu beurteilen sein werden, muss die zu beurteilende Streitsache überdies geeignet sein, die Frage auch mit Bezug auf die anderen Fälle zu klären (<ref-ruling> E. 4 S. 343).
1.2.2. Der Beschwerdeführer macht geltend, es stelle sich folgende Rechtsfrage von grundsätzlicher Bedeutung:
"Muss der unentgeltliche Rechtsbeistand, der in eigenem Namen Beschwerde gegen die Festsetzung seiner Entschädigung erhebt, auch Rechtsmittelanträge zur Verteilung der Prozesskosten und mithin der Frage, von wem seine Entschädigung zu tragen sei, stellen, obwohl die Verteilung durch das Gesetz abschliessend geregelt ist, sodass sich die Frage der Verteilung eigentlich gar nicht stellt und selbst wenn sie sich stellen würde, der unentgeltliche Rechtsbeistand durch die Verteilung der Prozesskosten nicht beschwert sein kann, sofern die unentgeltlich vertretene Partei vollumfänglich obsiegt hat und weder behauptet noch dargetan ist, dass bei der unterlegenen Gegenpartei die volle Parteientschädigung nicht einbringlich ist?"
Der Beschwerdeführer erläutert die Frage wie folgt: Er stehe als unentgeltlicher Rechtsbeistand in einem öffentlich-rechtlichen Verhältnis zum Kanton. Auch im Falle eines Obsiegens habe er einen Anspruch aus diesem Verhältnis. Die Vorinstanz hätte somit einzig über die Festsetzung der Entschädigung im öffentlich-rechtlichen Verhältnis zwischen ihm und dem Kanton entscheiden müssen; wie die Verteilung zivilrechtlich geregelt werde, gehe ihn nichts an. Daran ändere nichts, dass die in diesem Verhältnis festgesetzte Entschädigung im Falle des Obsiegens der unentgeltlich vertretenen Partei der dieser Partei zugesprochenen vollen Parteientschädigung entspreche.
1.2.3. Das Bundesgericht hat bereits entschieden, dass bei selbständiger Anfechtung der Kostenfolgen aus den Anträgen - allenfalls in Verbindung mit ihrer Begründung - klar hervorgehen muss, in welchen Beträgen die Prozesskosten welcher Partei auferlegt werden sollen (Hervorhebung hinzugefügt; Urteile 5A_692/2016 vom 24. April 2017 E. 2.3; 4A_35/2015 vom 12. Juni 2015 E. 3.2 mit Hinweisen; 4D_99/2014 vom 30. März 2015 E. 1.2). Der Beschwerdeführer suggeriert zwar, dass die Frage anders zu entscheiden sei, wenn ein unentgeltlicher Rechtsbeistand das Rechtsmittel einlege. Auch in dieser Hinsicht ergibt sich jedoch aus bestehender bundesgerichtlicher Rechtsprechung, dass dem rechtlichen Standpunkt des Beschwerdeführers nicht gefolgt werden kann. Das Bundesgericht hat nämlich mehrfach entschieden, dass das Gesuch um unentgeltliche Verbeiständung der voll obsiegenden Partei als gegenstandslos erklärt werden kann, wenn von der Einbringlichkeit der Parteientschädigung auszugehen ist (vgl. nur Urteile 4A_585/2015 vom 11. April 2016 E. 6; 5G_1/2015 vom 18. März 2015 E. 2 mit Hinweisen; 5A_389/2014 vom 9. September 2014 E. 4). Sollte sich die Forderung als uneinbringlich erweisen, wäre das Gesuch nachträglich zu behandeln (Urteile 4A_585/2015 vom 11. April 2016 E. 6; 5G_1/2015 vom 18. März 2015 E. 2). Daraus ergibt sich klar, dass im Falle des Obsiegens der unentgeltlich vertretenen Partei die der (unbestrittenermassen solventen) unterlegenen Partei auferlegte Parteientschädigung (nur) eine zivilrechtliche Forderung begründet. Es verhält sich hier gleich, wie wenn der Beschwerdeführer nicht unentgeltlicher Rechtsvertreter wäre, sondern bloss in einem Auftragsverhältnis mit seiner Klientin stehen würde. So hat das Bundesgericht denn auch festgehalten, der unentgeltliche Rechtsbeistand habe nicht nur für die subsidiäre staatliche Entschädigung, sondern auch für die prioritäre Parteikostenersatzforderungein eigenes und persönliches Forderungsrecht (Hervorhebungen hinzugefügt; Urteile 5A_34/2018 vom 21. März 2018 E. 2; 4A_171/2017 vom 26. September 2017 E. 1.1; 5A_754/2013 vom 4. Februar 2014 E. 5).
1.2.4. Es stellt sich entgegen der Ansicht des Beschwerdeführers keine grundsätzliche Rechtsfrage, die höchstrichterlicher Klärung bedürfte. Auf die Beschwerde in Zivilsachen ist demnach nicht einzutreten.
Offen steht die subsidiäre Verfassungsbeschwerde (<ref-law>), die der Beschwerdeführer eventualiter erhebt. Da die diesbezüglichen Sachurteilsvoraussetzungen erfüllt sind, ist auf diese - unter Vorbehalt einer gehörigen Begründung (Art. 42 Abs. 2, Art. 106 Abs. 2 BGG) - einzutreten.
2.
Der Beschwerdeführer rügt, die Vorinstanz sei willkürlich und unter Verletzung der Rechtsweggarantie (<ref-law>) sowie des Gleichbehandlungsgebots zum Schluss gekommen, er hätte in seinem Rechtsbegehren angeben müssen, wem die geforderte Entschädigung aufzuerlegen sei.
2.1. Aus den Erwägungen in E. 1.2.3 zu der bereits bestehenden bundesgerichtlichen Rechtsprechung ergibt sich, dass der Schluss der Vorinstanz, wonach der Beschwerdeführer hätte angeben müssen, wem die von ihm geforderte (zusätzliche) Entschädigung seiner Ansicht nach aufzuerlegen sei, weder willkürlich ist noch eine Verletzung der Rechtsweggarantie darstellt. Im Übrigen hat das Bundesgericht betreffend ungenügende Rechtsbegehren in einer Klageschrift (Urteil 4A_375/2015 vom 26. Januar 2016 E. 7.2, nicht publ. in: <ref-ruling>) und in einer Berufungsschrift (<ref-ruling> E. 6.4 S. 622; Urteile 4A_258/2015 vom 21. Oktober 2015 E. 2.4.1 und 4A_203/2013 vom 6. Juni 2013 E. 3.2 mit Hinweisen) festgestellt, dass es sich hierbei nicht um verbesserliche Mängel i.S.v. <ref-law> handelt. Dasselbe muss für eine (kantonale) Beschwerdeschrift gelten. Die Rügen sind somit unbegründet.
2.2. Die behauptete Verletzung des Gleichbehandlungsgebots begründet der Beschwerdeführer mit drei Beispielen von Anträgen in anderen Verfahren vor dem Obergericht des Kantons Zürich. Die Anträge seien vergleichbar formuliert und in allen drei Verfahren sei das Obergericht auf die Beschwerde eingetreten.
Aus der Formulierung der Anträge allein lässt sich indessen noch nichts ableiten, sind doch gestellte Begehren nach Treu und Glauben auszulegen (<ref-ruling> E. 1.2 S. 136; <ref-ruling> E. 1.4.2; <ref-ruling> E. 1; <ref-ruling> E. 2a). Es genügt dabei, wenn aus der Begründung des Rechtsmittels, allenfalls in Verbindung mit dem angefochtenen Entscheid, klar hervorgeht, in welchem Sinne der angefochtene Entscheid abgeändert werden soll (<ref-ruling> E. 6.2; <ref-ruling> E. 2 S. 236 f.; je mit Hinweisen).
Was die bei der Vorinstanz eingereichte Beschwerde des Beschwerdeführers angeht, so hält dieser ausdrücklich fest, er habe sich auch in seiner Begründung der Beschwerde an die Vorinstanz nicht dazu geäussert, von wem die höhere Entschädigung zu tragen sei. Er ist der Auffassung, dass er gar nicht dazu legitimiert gewesen wäre, sich dazu zu äussern. Damit bleibt kein Raum dafür, sein Rechtsbegehren im Lichte der Begründung nach Treu und Glauben so auszulegen, dass daraus klar hervorgehen würde, wem die Entschädigung aufzuerlegen gewesen wäre. Auch die Rüge der Verletzung des Gleichbehandlungsgebots ist unbegründet.
3.
Der Beschwerdeführer rügt schliesslich eine Verletzung seines rechtlichen Gehörs. Er macht geltend, die Vorinstanz habe sein im vorinstanzlichen Verfahren gestelltes Eventualbegehren auf Aufhebung der erstinstanzlichen Verfügung und Rückweisung der Sache an das Bezirksgericht nicht geprüft.
3.1. Der Beschwerdeführer bringt zur Begründung vor, er habe seinen Eventualantrag mit einer schwerwiegenden und nicht heilbaren Verletzung des rechtlichen Gehörs durch das Bezirksgericht begründet. Wenn auf das Hauptbegehren nicht einzutreten sei, dann könne nicht einfach ein Nichteintretensentscheid ergehen, sondern müsse zuerst geprüft werden, ob auf das Eventualbegehren einzutreten sei. Die Vorinstanz habe weder geprüft noch behauptet, dass der Eventualantrag an denselben prozessualen Anforderungen gescheitert sein solle wie der Hauptantrag. Seines Erachtens sei der Eventualantrag genügend, hätte doch die Vorinstanz bei Gutheissung seiner Beschwerde in diesem Punkt eine unheilbare Verletzung des rechtlichen Gehörs durch das Bezirksgericht bejaht und folglich dessen Verfügung aufgehoben und die Sache an das Bezirksgericht zurückgewiesen. Er habe vor der Vorinstanz dargelegt, dass das erstinstanzliche Gericht weder auf seine Kostennote noch auf die einverlangte Stellungnahme eingegangen sei und nicht begründet habe, wieso seines Erachtens die Verantwortung des Beschwerdeführers das normale Mass nicht überstiegen habe, der geltend gemachte Aufwand über dem üblichen Mass liege und die Komplexität des Falls eine Entschädigung im geforderten Umfang nicht rechtfertige.
3.2. Der aus <ref-law> fliessende Anspruch auf rechtliches Gehör verleiht der betroffenen Partei das Recht, in einem Verfahren, welches in ihre Rechtsstellung eingreift, mit rechtzeitig und formgültig angebotenen Beweisanträgen gehört zu werden, soweit diese erhebliche Tatsachen betreffen und nicht offensichtlich beweisuntauglich sind (<ref-ruling> E. 2.2.1 S. 188; <ref-ruling> E. 3 S. 157; <ref-ruling> E. 2 S. 242; je mit Hinweisen; Urteil 4A_637/2016 vom 3. März 2017 E. 5.1). Tatsachenbehauptungen, die den Schluss auf das Bestehen eines eingeklagten Anspruchs nicht zulassen, sind nicht rechtserheblich (Urteil 4A_427/2016 vom 28. November 2016 E. 3.6). Der Anspruch auf rechtliches Gehör ist zudem nicht Selbstzweck; ungeachtet der formellen Natur des Gehörsanspruchs besteht kein schützenswertes Interesse an der Aufhebung des angefochtenen Entscheids, wenn nicht bestritten ist, dass eine allfällige Verletzung des rechtlichen Gehörs keinen Einfluss auf den Verfahrensausgang hätte (Urteile 4A_141/2016 vom 26. Mai 2016 E. 1.2; 4A_554/2012 vom 21. März 2013 E. 4; 1B_120/2007 vom 10. Juli 2007 E. 2.5). Was die Pflicht des Gerichts zur Begründung seines Entscheids angeht, so ist nicht erforderlich, dass sich der Entscheid mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Es genügt, wenn der Entscheid gegebenenfalls sachgerecht angefochten werden kann (<ref-ruling> E. 2.2.1 S. 188; <ref-ruling> E. 3.3 S. 445; je mit Hinweisen; vgl. auch <ref-ruling> E. 3.2.4 S. 41; <ref-ruling> E. 6.2 S. 274).
3.3. Das Bezirksgericht Zürich hat in seiner Verfügung vom 5. Oktober 2017 begründet, weshalb dem Beschwerdeführer maximal eine Parteientschädigung von Fr. 612.35 zu Lasten der Beklagten zugesprochen werden kann. Für eine höhere Parteientschädigung bestehe keine rechtliche Grundlage. Um ihm dennoch eine höhere (Gesamt-) Entschädigung zuzusprechen, auferlegte das erstinstanzliche Gericht zusätzlich einen Betrag von Fr. 1'007.65 dem Kanton, mit Nachzahlungspflicht der Klägerin. Diesen Teil hat die Klägerin beim Obergericht des Kantons Zürich erfolgreich angefochten (vgl. konnexes Verfahren 4A_170/2018). Der Beschwerdeführer zeigt nun aber nicht auf, welche Ausführungen das erstinstanzliche Gericht unberücksichtigt gelassen hätte, mit welchen er eine rechtliche Grundlage für eine höhere Entschädigung dargelegt hätte. An einer Auseinandersetzung mit Ausführungen, welche auf den Verfahrensausgang keinen Einfluss haben, hat der Beschwerdeführer kein schützenswertes Interesse. Er hat somit vor der Vorinstanz nicht begründet, inwiefern das erstinstanzliche Gericht sein rechtliches Gehör so verletzt hätte, dass der Entscheid aufzuheben und zurückzuweisen gewesen wäre. Damit durfte die Vorinstanz auf seinen entsprechenden Antrag nicht eintreten, ohne ihrerseits das rechtliche Gehör des Beschwerdeführers zu verletzen. Dasselbe gilt in Bezug auf das Vorbringen des Beschwerdeführers, das erstinstanzliche Gericht habe die Begründungspflicht verletzt: Nachdem der Beschwerdeführer bewusst eine Angabe dazu unterlassen hat, welche Partei seine (höhere) Entschädigung zu tragen hätte, ist nicht ersichtlich, inwiefern ihn (erst) eine ausführlichere Begründung der angefochtenen Verfügung in die Lage versetzt hätte, diese vor der Vorinstanz sachgerecht anzufechten. Seine Rügen erweisen sich damit als unbegründet.
4.
Nach dem Gesagten ist auf die Beschwerde in Zivilsachen nicht einzutreten. Die subsidiäre Verfassungsbeschwerde ist abzuweisen. Die Gerichtskosten sind damit dem Beschwerdeführer aufzuerlegen (<ref-law>). Da keine Vernehmlassungen eingeholt wurden, ist den Beschwerdegegnern mangels Aufwand keine Parteientschädigung zuzusprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde in Zivilsachen wird nicht eingetreten.
2.
Die subsidiäre Verfassungsbeschwerde wird abgewiesen.
3.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
4.
Es werden keine Parteientschädigungen zugesprochen.
5.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 20. Juni 2018
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Die Gerichtsschreiberin: Marti-Schreier