Sachverhalt:
A. Die Z._ AG betrieb mit Zahlungsbefehl vom 6. Dezember 2011 (Betreibung Nr. xxxx des Betreibungsamts A._) X._ für eine Forderung von Fr. 953.80 nebst Zinsen, Spesen und Betreibungskosten. X._ erhob Rechtsvorschlag wegen fehlenden neuen Vermögens.
Anlässlich der Verhandlung über den Rechtsvorschlag vor dem Bezirksgericht Horgen zog X._ den Rechtsvorschlag zurück. Mit Verfügung vom 9. Februar 2012 merkte das Bezirksgericht den Rückzug des Rechtsvorschlags vor und schrieb das Verfahren ab, da es nunmehr gegenstandslos geworden sei. Ausserdem merkte es vor, dass sich der Rechtsvorschlag nicht auf die Forderung bezogen habe. Schliesslich auferlegte es X._ die Kosten des Verfahrens inklusive der für ihn getätigten Aufwendungen für einen Gebärdendolmetscher (insgesamt Fr. 632.20, wovon Fr. 482.20 Dolmetscherkosten). Diese Verfügung wurde X._ am 15. Februar 2012 zugestellt.
B. Am 24. Februar 2012 überbrachte X._ persönlich dem Bezirksgericht seine Beschwerde gegen die Kostenregelung in der Verfügung vom 9. Februar 2012. Das Bezirksgericht leitete die Beschwerde am 29. Februar 2012 (Poststempel) dem Obergericht weiter, wo sie am 1. März 2012 einging.
Mit Beschluss vom 4. April 2012 trat das Obergericht auf die Beschwerde wegen Verspätung nicht ein.
C. Am 18. Mai 2012 hat X._ (Beschwerdeführer) - nunmehr erstmalig anwaltlich vertreten - Beschwerde in Zivilsachen und eventuell Verfassungsbeschwerde erhoben. Er verlangt, den Beschluss des Obergerichts vom 4. April 2012 aufzuheben und dieses zu verpflichten, auf die Beschwerde einzutreten und sie materiell zu behandeln.
Das Obergericht hat auf Vernehmlassung verzichtet und die Z._ AG (Beschwerdegegnerin) hat sich nicht vernehmen lassen.

Erwägungen:
1. Angefochten ist binnen Frist (Art. 100 Abs. 1 i.V.m. <ref-law>) ein kantonal letztinstanzlicher Endentscheid des als Rechtsmittelinstanz urteilenden Obergerichts (Art. 75 und Art. 90 BGG) in einer Schuldbetreibungs- und Konkurssache (<ref-law>). Der für die Beschwerde in Zivilsachen erforderliche Streitwert von Fr. 30'000.-- (<ref-law>) ist jedoch nicht erreicht. Ob sich im Zusammenhang mit der Auslegung der schweizerischen Zivilprozessordnung (ZPO; SR 272) eine Rechtsfrage von grundsätzlicher Bedeutung stellt (<ref-law>), wie der Beschwerdeführer vorbringt, kann offenbleiben. Er rügt nämlich auch die Verletzung des Verbots des überspitzten Formalismus (<ref-law>) und die Beschwerde ist - wie sich aus dem Nachfolgenden ergibt - aus diesem Grunde gutzuheissen. Verfassungsrechtliche Fragen können im Rahmen der subsidiären Verfassungsbeschwerde (<ref-law>) beurteilt werden, so dass sich die Annahme einer Rechtsfrage von grundsätzlicher Bedeutung nicht rechtfertigt (<ref-ruling> E. 1.3.3 S. 188). Die Eingabe ist deshalb - wie verlangt - als subsidiäre Verfassungsbeschwerde zu behandeln.
2. Das Obergericht hat erwogen, die ZPO enthalte keine Grundlage für eine Überweisung eines bei einer unzuständigen Behörde eingereichten Rechtsmittels. Werde eine Rechtsmitteleingabe von der Erstinstanz an das Obergericht weitergeleitet, zähle als Zeitpunkt der Einreichung des Rechtsmittels das Eingangsdatum am Obergericht. Vorliegend sei die Beschwerde damit am 1. März 2012 erfolgt; die Beschwerdefrist sei jedoch bereits am 27. Februar 2012 abgelaufen.
3. 3.1 <ref-law> garantiert vor Gerichts- und Verwaltungsinstanzen ein faires Verfahren (<ref-ruling> E. 3.2.1 S. 274 f.). Gegen <ref-law> verstösst eine Behörde insbesondere, wenn sie in überspitzten Formalismus verfällt. Überspitzter Formalismus als besondere Form der Rechtsverweigerung liegt vor, wenn für ein Verfahren rigorose Formvorschriften aufgestellt werden, ohne dass die Strenge sachlich gerechtfertigt wäre, wenn die Behörde formelle Vorschriften mit übertriebener Schärfe handhabt oder an Rechtsschriften überspannte Anforderungen stellt und damit dem Bürger den Rechtsweg in unzulässiger Weise versperrt (<ref-ruling> E. 2.1 S. 9 mit Hinweisen). Prozessuale Formen sind unerlässlich, um die ordnungsgemässe Abwicklung des Verfahrens und die Durchsetzung des materiellen Rechts zu gewährleisten. Nicht jede prozessuale Formstrenge stellt daher überspitzten Formalismus dar, sondern nur jene, die durch keine schutzwürdigen Interessen gerechtfertigt ist, zum blossen Selbstzweck wird und die Verwirklichung des materiellen Rechts in unhaltbarer Weise erschwert oder verhindert (<ref-ruling> E. 2.4.2 S. 248; <ref-ruling> E. 3a S. 170).
3.2 Die schweizerische ZPO äussert sich grundsätzlich nicht zur Frage der Fristwahrung durch Eingaben, die an eine sachlich oder funktionell unzuständige Behörde gerichtet sind, und auch nicht zur Frage der Weiterleitung solcher Eingaben an die zuständige Instanz (vgl. <ref-law>; siehe aber auch <ref-law>). Andere Bundesgesetze kennen demgegenüber entsprechende Normen (vgl. <ref-law>; <ref-law>; <ref-law> [SR 312.0]; <ref-law> [SR 830.1]). Ob das Schweigen der ZPO zu diesen Fragen ein qualifiziertes ist oder ob die ZPO diesbezüglich unvollständig ist und zu ergänzen wäre, braucht vorliegend nicht beantwortet zu werden. Unabhängig von der Auslegung der ZPO und insbesondere unabhängig von der Frage der Fristwahrung durch Einreichung einer Eingabe bei einer unzuständigen Behörde hält das Verhalten der Zürcher Gerichte nämlich vor <ref-law> nicht stand.
3.3 Der Beschwerdeführer hat seine Eingabe am Freitag, 24. Februar 2012, dem Bezirksgericht Horgen übergeben. Den Akten kann entnommen werden (<ref-law>), dass die Eingabe an das Obergericht des Kantons Zürich adressiert und als Einsprache gegen den Entscheid vom 9. Februar 2012 bezeichnet war. Damit war die Eingabe als Rechtsmittel gegen die Verfügung vom 9. Februar 2012 erkennbar. Die Rechtsmittelfrist lief erst am Montag, 27. Februar 2012, ab, was dem Bezirksgericht hätte bekannt sein müssen (vgl. Empfangsbestätigung der Verfügung vom 9 Februar 2012 [act.16/1]). Das Bezirksgericht hat - soweit ersichtlich - den nicht vertretenen Beschwerdeführer nach Erhalt des Rechtsmittels nicht darauf aufmerksam gemacht, dass die Beschwerde bei der Rechtsmittelinstanz einzureichen ist (<ref-law>), und es hat die Beschwerde auch nicht sofort weitergeleitet, sondern hat damit bis am Mittwoch, 29. Februar 2012 zugewartet.
Sofern die Beschwerde nach der Einreichung beim Bezirksgericht überhaupt noch in rechtlich relevanter Weise mangelhaft war, d.h. die Rechtsmittelfrist nicht ohnehin als gewahrt gelten müsste (vgl. E. 3.2), so wäre der Mangel bis zum Ablauf der Rechtsmittelfrist verbesserlich gewesen und es hätte auch genügend Zeit bestanden, ihn zu beheben. Das Bezirksgericht hätte den Beschwerdeführer auf den Mangel aufmerksam machen können und müssen, so dass dieser die Beschwerde binnen der Rechtsmittelfrist der Post hätte übergeben können. Wenn man annimmt, dass eine Weiterleitung an das Obergericht möglich ist, und wenn man ausserdem von der - nicht weiter begründeten - Auffassung des Obergerichts ausgeht, wonach bei solchen Weiterleitungen der Zeitpunkt des Eintreffens beim Obergericht für die Fristwahrung massgebend sein soll, so hätte die Frist selbst bei diesem Vorgehen eingehalten werden können, wenn das Bezirksgericht die Eingabe unverzüglich weitergeleitet hätte. Das Bezirksgericht hat jedoch weder das eine noch das andere getan. Es ist überspitzt formalistisch, seitens der Behörden zuzuwarten, bis sich ein verbesserlicher Fehler nicht mehr heilen lässt und danach die Partei die Folgen dieses Fehlers tragen zu lassen (vgl. <ref-ruling> E. 2 S. 22 ff.; <ref-ruling> E. 4c S. 175). Nachdem der Fehler durch das Untätigbleiben des Bezirksgerichts nicht mehr heilbar war, ist es demnach überspitzt formalistisch, wenn das Obergericht auf die Beschwerde wegen Verspätung nicht eingetreten ist. Daran ändert nichts, dass in der Rechtsmittelbelehrung der Verfügung vom 9. Februar 2012 stand, dass die Beschwerde beim Obergericht erklärt werden könne. Darin liegt kein Umstand, die das Verhalten des - damals nicht anwaltlich vertretenen - Beschwerdeführers als rechtsmissbräuchlich erscheinen lässt, und solche Umstände sind auch sonst nicht ersichtlich.
3.4 Die Beschwerde ist folglich gutzuheissen und die Angelegenheit an das Obergericht zur weiteren Behandlung zurückzuweisen.
4. Aufgrund der Umstände sind keine Gerichtskosten zu erheben (<ref-law>). Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'000.-- zu entschädigen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Beschluss des Obergerichts des Kantons Zürich, I. Zivilkammer, vom 4. April 2012 aufgehoben. Die Angelegenheit wird an das Obergericht zur Behandlung zurückgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Der Kanton Zürich hat den Beschwerdeführer mit Fr. 1'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 16. Januar 2013
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg