Sachverhalt:
A. Die eidgenössische Zollverwaltung verurteilte X._ mit Strafbescheid vom 12. Mai 2011 wegen Steuergefährdung und Steuerhinterziehung gemäss Art. 85 f. des Bundesgesetzes vom 2. September 1999 über die Mehrwertsteuer (aMWSTG; AS 2000 1300) zu einer Busse von Fr. 7'000.--. Zur Begründung führte sie aus, X._ habe am 6. September 2009 bei der Einreise in die Schweiz am Flughafen Zürich den grünen Durchgang mit der Anschrift "Nichts zu deklarieren" benützt, obwohl er mehrwertsteuerpflichtige Gegenstände (eine Herrenarmbanduhr, einen Damenring, einen Teppich und Manschettenknöpfe) im Wert von Fr. 52'436.-- bei sich gehabt habe. Zwischen März und September 2009 habe er weitere Schmuckstücke im Wert von Fr. 35'663.-- trotz Einfuhrsteuerpflicht ohne Zollanmeldung eingeführt. Auf die Einsprache von X._ hin reduzierte die eidgenössische Zollverwaltung die Busse mit Strafverfügung vom 12. Januar 2012 auf Fr. 6'200.--. In der Folge verlangte X._ eine gerichtliche Beurteilung. Das Bezirksgericht Bülach setzte die Hauptverhandlung auf den 31. August 2012 an. Das Gesuch von X._, es sei Rechtsanwältin Claudia Zumtaugwald als amtliche Verteidigerin zu bestellen, lehnte es mit Verfügung vom 15. August 2012 ab. Eine gegen diese Verfügung gerichtete Beschwerde wies das Obergericht des Kantons Zürich mit Verfügung vom 2. November 2012 ab.
B. Mit Beschwerde in Strafsachen ans Bundesgericht vom 10. Dezember 2012 beantragt X._, die Verfügung des Obergerichts sei aufzuheben und die amtliche Verteidigung sei zu gewähren.
Das Obergericht hat auf eine Stellungnahme verzichtet. Mit Schreiben vom 17. Januar 2013 gab der Beschwerdeführer einen Kontoauszug der Centrum Bank AG und ein Arztzeugnis der Privatklinik Meiringen zu den Akten.

Erwägungen:
1. Die Verfügung des Obergerichts ist ein kantonal letztinstanzlicher Entscheid über die Gewährung der amtlichen Verteidigung in einem Strafverfahren. Dagegen ist die Beschwerde in Strafsachen zulässig (Art. 78 Abs. 1, Art. 80 BGG). Es handelt sich um einen Zwischenentscheid, der einen nicht wieder gutzumachenden Nachteil bewirken kann (<ref-law>; <ref-ruling> E. 4 S. 338; Urteil 1B_448/2012 vom 17. Oktober 2012 E. 1; je mit Hinweisen). Der Beschwerdeführer, dessen Gesuch um amtliche Verteidigung abgewiesen wurde, ist zur Beschwerde befugt (<ref-law>). Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist einzutreten.
2. 2.1 Der Beschwerdeführer macht geltend, er sei der deutschen Sprache nicht mächtig, gesundheitlich angeschlagen und weile hauptsächlich im Ausland. Es könne ihm unter keinen Umständen zugemutet werden, das Verfahren selbst zu führen. Der Sachverhalt sei relativ kompliziert. Auch rechtlich präsentiere sich die Ausgangslage aufgrund der gleichzeitigen Anwendbarkeit von Verwaltungsstrafrecht und gemeinem Strafrecht als anspruchsvoll. Dem Verwaltungsstrafrecht sei zudem immanent, dass nur Bussen ausgesprochen würden. Immerhin handle es sich um Fr. 6'200.--. Dieser Betrag könne durchaus einer Geldstrafe von mehr als 120 Tagessätzen gleichkommen. Die amtliche Verteidigung sei deshalb nach Art. 132 Abs. 2 und 3 StPO geboten. Zudem sei auch seine Bedürftigkeit erstellt. Indem das Obergericht dies verkannt habe, habe es Art. 33 Abs. 2 VStrR (SR 313.0) verletzt.
2.2 Das Obergericht führte zur Begründung seines Entscheids aus, bei den vorgeworfenen Taten handle es sich um Übertretungen. Der Beschwerdeführer sei in der zur Anklage erhobenen Strafverfügung zu einer Busse von Fr. 6'200.-- verurteilt worden. Eine wesentliche Erhöhung dieser Busse durch das Strafgericht sei nicht zu erwarten. Es liege ein Bagatellfall vor, der nach <ref-law> die Gewährung der amtlichen Verteidigung ausschliesse. Art. 33 VStrR sei auf die vorliegende Frage nicht anwendbar. Im Übrigen hätte der Beschwerdeführer auch danach keinen Anspruch auf amtliche Verteidigung, denn aufgrund der Akten sei nicht davon auszugehen, dass der Beschwerdeführer bedürftig sei.
2.3 Art. 82 VStrR sieht vor, dass für das Verfahren vor den kantonalen Gerichten die entsprechenden Vorschriften der StPO gelten, soweit die Art. 73-81 VStrR nichts anderes bestimmen. Die Art. 73-81 VStrR betreffen nicht die amtliche Verteidigung. Für das vor Bezirksgericht Bülach hängige Strafverfahren ist deshalb <ref-law> massgebend. Abs. 1 lit. b dieser Bestimmung sieht vor, dass die Verfahrensleitung eine amtliche Verteidigung anordnet, wenn die beschuldigte Person nicht über die erforderlichen Mittel verfügt und die Verteidigung zur Wahrung ihrer Interessen geboten ist. Abs. 2 und 3 haben folgenden Wortlaut:
"2 Zur Wahrung der Interessen der beschuldigten Person ist die Verteidigung namentlich geboten, wenn es sich nicht um einen Bagatellfall handelt und der Straffall in tatsächlicher oder rechtlicher Hinsicht Schwierigkeiten bietet, denen die beschuldigte Person allein nicht gewachsen wäre.
3 Ein Bagatellfall liegt jedenfalls dann nicht mehr vor, wenn eine Freiheitsstrafe von mehr als 4 Monaten, eine Geldstrafe von mehr als 120 Tagessätzen oder gemeinnützige Arbeit von mehr als 480 Stunden zu erwarten ist."
Mit dieser Regelung der amtlichen Verteidigung wird die bisherige bundesgerichtliche Rechtsprechung zu <ref-law> und Art. 6 Abs. 3 lit. c EMRK für den Bereich des Strafprozessrechts umgesetzt (Urteil 1B_436/2011 vom 21. September 2011 E. 2.3; Botschaft vom 21. Dezember 2005 zur Vereinheitlichung des Strafprozessrechts, BBl 2006 1179 f. Ziff. 2.3.4.2).
2.4 Die Rechtsprechung zu <ref-law> und Art. 6 Abs. 3 lit. c EMRK unterscheidet nach der Schwere der Strafdrohung drei Fallgruppen. Falls das in Frage stehende Verfahren besonders stark in die Rechtspositionen des Betroffenen eingreift, ist die Bestellung eines amtlichen Rechtsbeistands nach der Praxis des Bundesgerichtes grundsätzlich geboten. Dies trifft namentlich dann zu, wenn dem Angeschuldigten eine Strafe droht, deren Dauer die Gewährung des bedingten Strafvollzugs ausschliesst. Falls kein besonders schwerer Eingriff in die Rechte des Gesuchstellers droht (sog. relativ schwerer Fall), müssen besondere tatsächliche oder rechtliche Schwierigkeiten hinzukommen, denen der Gesuchsteller, auf sich allein gestellt, nicht gewachsen wäre. Das Bundesgericht hat einen relativ schweren Fall etwa bei einer Strafdrohung von drei Monaten Gefängnis unbedingt (<ref-ruling> E. 4 S. 105 f.), bei einer "empfindlichen Strafe von jedenfalls mehreren Monaten Gefängnis" (<ref-ruling> E. 3c S. 47) oder bei der Einsprache gegen einen Strafbefehl von 40 Tagen Gefängnis bedingt (Urteil 1P.627/2002 vom 4. März 2003 E. 3.2, in: Pra 2004 Nr. 1 S. 1) angenommen. Bei offensichtlichen Bagatelldelikten, bei denen nur eine Busse oder eine geringfügige Freiheitsstrafe in Frage kommt, verneint die Bundesgerichtspraxis jeglichen verfassungsmässigen Anspruch auf einen amtlichen Rechtsbeistand (vgl. auch das soeben zitierte Urteil, wonach offen bleiben kann, ob bei Vergehen der Bagatellcharakter des Delikts generell verneint werden soll; zum Ganzen: <ref-ruling> E. 2a S. 44 f.; <ref-ruling> E. 2.5.2 S. 232 f.; Urteil 1P.675/2005 vom 14. Februar 2006 E. 5.1; je mit Hinweisen).
2.5 Mit Art. 132 Abs. 2 und 3 StPO wird diese Rechtsprechung für das neue Sanktionensystem des Strafgesetzbuchs konkretisiert. Die Formulierung von Abs. 2 bringt durch die Verwendung des Worts "namentlich" zum Ausdruck, dass nicht ausgeschlossen ist, neben den beiden genannten Kriterien (kein Bagatellfall; tatsächliche und rechtliche Schwierigkeiten, denen die beschuldigte Person allein nicht gewachsen wäre) weitere Gesichtspunkte zu berücksichtigen. In der Literatur wird diesbezüglich insbesondere die Gewährleistung der Waffengleichheit und eine besonders grosse Bedeutung des Prozessausgangs für den Beschuldigten genannt, so wenn dieser seine Berufsbewilligung oder die elterliche Sorge zu verlieren riskiert (vgl. die Hinweise im Urteil 1B_477/2011 vom 4. Januar 2012 E. 2.2). Auch Abs. 3 von <ref-law> belässt in dieser Hinsicht einen Spielraum, indem er zulässt, im Einzelfall selbst dann nicht von einem Bagatellfall auszugehen, wenn die genannten Schwellenwerte nicht erreicht sind.
2.6 Im vorliegenden Fall droht dem Beschwerdeführer eine Busse von Fr. 6'200.--. Nach der dargelegten Rechtsprechung liegt damit ein Bagatellfall vor, zumal auch keine weiteren Aspekte vorgebracht werden, die dem Ausgang des Strafverfahrens für den Beschwerdeführer eine besonders grosse Bedeutung verleihen würden. Der Vergleich mit einer Geldstrafe geht fehl. Selbst im Falle der Umwandlung der Busse in Haft würde die Freiheitsstrafe gemäss Art. 10 Abs. 3 VStrR höchstens drei Monate betragen und damit immer noch deutlich unter der in <ref-law> genannten Schwelle liegen.
Bei diesem Ergebnis kann offen bleiben, ob der Beschwerdeführer nicht über die erforderlichen Mittel verfügt und ob der Straffall in tatsächlicher oder rechtlicher Hinsicht Schwierigkeiten bietet, denen der Beschwerdeführer allein nicht gewachsen wäre.
Das Obergericht des Kantons Zürich hat <ref-law> nicht verletzt, indem es dem Beschwerdeführer das Recht auf amtliche Verteidigung absprach. Die betreffende Kritik ist unbegründet. Ebenfalls unbegründet ist die Rüge der Verletzung von Art. 33 Abs. 2 VStrR. Nach dem Gesagten ist diese Bestimmung vorliegend nicht anwendbar.
3. Die Beschwerde ist abzuweisen.
Der Beschwerdeführer stellt ein Gesuch um unentgeltliche Prozessführung. Gemäss <ref-law> befreit das Bundesgericht eine Partei, die nicht über die erforderlichen Mittel verfügt, auf Antrag von der Bezahlung der Gerichtskosten, sofern ihr Rechtsbegehren nicht aussichtslos erscheint. Nach der bundesgerichtlichen Rechtsprechung sind Begehren als aussichtslos anzusehen, bei denen die Gewinnaussichten beträchtlich geringer sind als die Verlustgefahren und die deshalb kaum als ernsthaft bezeichnet werden können. Massgebend ist, ob eine Partei, die über die nötigen finanziellen Mittel verfügt, sich bei vernünftiger Überlegung zu einem Prozess entschliessen würde. Eine Partei soll einen Prozess, den sie auf eigene Rechnung und Gefahr nicht führen würde, nicht deshalb anstrengen können, weil er sie nichts kostet (<ref-ruling> E. 2.3.1 S. 135 f.; <ref-ruling> E. 5 S. 616; je mit Hinweisen). Ob eine Beschwerde aussichtsreich ist, erschliesst sich aus den Begehren und ihrer Begründung durch den Beschwerdeführer (Urteil 6B_588/2007 vom 11. April 2008 E. 6.2, in: Pra 2008 Nr. 123 S. 766). Wie sich aus den vorangehenden Erwägungen ergibt, sind vorliegend die Begehren offensichtlich unbegründet. Infolge Aussichtslosigkeit des Rechtsmittels entfällt deshalb der Anspruch auf unentgeltliche Rechtspflege nach <ref-law>. Der Beschwerdeführer trägt somit die Gerichtskosten (<ref-law>). Er hat zudem keinen Anspruch auf eine Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
4. Es wird keine Parteientschädigung zugesprochen.
5. Dieses Urteil wird dem Beschwerdeführer und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 5. März 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Merkli
Der Gerichtsschreiber: Dold