Sachverhalt:
A. Rechtsanwalt Y._ amtete als amtlicher Verteidiger von X._. Das Obergericht des Kantons Thurgau verurteilte diesen am 13. Dezember 2011 wegen qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz zu einer teilbedingten Freiheitsstrafe von 21 Monaten. Das gegen diesen Schuldspruch angerufene Bundesgericht bestätigte im Verfahren 6B_684/2012 das angefochtene Urteil.
B. Y._ stellte für seine Aufwendungen Fr. 8'105.-- in Rechnung. Das Bezirksgericht Weinfelden kürzte diesen Betrag auf pauschal Fr. 5'000.--. Die von Y._ dagegen eingereichte Beschwerde hiess das Obergericht des Kantons Thurgau am 18. Juli 2012 teilweise gut und sprach ihm Fr. 7'545.-- (inkl. MWST) zu.
C. Y._ erhebt Beschwerde in Strafsachen und "Verfassungsbeschwerde". Er beantragt, der angefochtene Entscheid sei aufzuheben, und er sei mit Fr. 8'205.-- zu entschädigen. Eventualiter sei die Sache an die Vorinstanz zur Festsetzung der Entschädigung zurückzuweisen mit der Anweisung, ihn vor einer allfälligen Nichtentschädigung einzelner Arbeiten anzuhören.
D. Das Obergericht des Kantons Thurgau beantragt die Abweisung der Beschwerde. Die Generalstaatsanwaltschaft liess sich nicht vernehmen.
Erwägungen:
1. Mit Beschwerde in Strafsachen gemäss Art. 78 ff. BGG kann grundsätzlich jede Rechtsverletzung geltend gemacht werden, die bei Anwendung materiellen Strafrechts oder Strafprozessrechts begangen wird (BGE 134 IV 36 E. 1.4.3 S. 41). Dies gilt auch für die Verletzung von Verfassungsrecht (Art. 95 lit. a BGG). Die subsidiäre Verfassungsbeschwerde ist somit ausgeschlossen (Art. 113 BGG). Sie ist als Beschwerde in Strafsachen entgegenzunehmen. Im Übrigen ist auf sie nicht einzutreten.
2. Gemäss Art. 135 Abs. 3 der Schweizerischen Strafprozessordnung vom 5. Oktober 2007 (StPO; SR 312.0) kann die amtliche Verteidigung gegen den Entschädigungsentscheid bei der Beschwerdeinstanz Beschwerde führen, wenn der Entscheid von der Staatsanwaltschaft oder dem erstinstanzlichen Gericht gefällt wurde (lit. a.) beziehungsweise beim Bundesstrafgericht, wenn der Entscheid von der Beschwerdeinstanz oder dem Berufungsgericht des Kantons gefällt wurde (lit. b.). Soweit der Beschwerdeführer beanstandet, die Vorinstanz habe ihm als obsiegende Partei für das Verfahren vor Obergericht keine Entschädigung ausgerichtet (Beschwerde, S. 10-13 und S. 15 f.), ist auf sein Vorbringen mangels Zuständigkeit des Bundesgerichts nicht einzutreten. Die Vorinstanz ist gemäss Vernehmlassung freilich bereit, dem Beschwerdeführer Fr. 800.-- zuzusprechen (act. 10, S. 2).
3. 3.1 Der Beschwerdeführer rügt, die Vorinstanz habe ihm die Arbeitsentschädigung für das Untersuchungs- und das erstinstanzliche Hauptverfahren von Fr. 6'880.-- auf Fr. 6'561.40 und den Sachaufwand um Fr. 109.-- gekürzt. Die Vorinstanz korrigiere zwar die pauschale Kürzung der ersten Instanz. Sie streiche jedoch neu die angeblich unnötigen Kopien und das Studium der beigezogenen Strafakten des Kantons Basel-Stadt. Der Untersuchungsrichter habe diese Akten beigezogen, weshalb er selber nicht habe annehmen müssen, dass dies grundlos geschehen sei. Dass diese Akten keine Bedeutung erlangen könnten und die Staatsanwaltschaft daraus nichts Nachteiliges ableiten würde, sei nicht absehbar gewesen. Die Akten habe er nie studiert und ein Aktenstudium nicht im Leistungsverzeichnis aufgeführt. Dennoch habe ihm die Vorinstanz das Honorar um zwei Arbeitsstunden bzw. Fr. 318.-- gekürzt. Der Beschwerdeführer macht weiter geltend, die Vorinstanz stelle den Aufwand von vier Stunden für die Überarbeitung und Aktualisierung seiner Plädoyerstichworte in Frage. Die Überarbeitung der Plädoyernotizen sei notwendig gewesen, da er nach acht Monaten unverschuldeter Prozessverzögerung mit diesen Notizen keinen Parteivortrag hätte halten können. Weder die Staatsanwaltschaft noch die erste Instanz habe sich im Übrigen an diesen Einzelpositionen gestört. Er sei vor dieser überraschenden Kürzung durch die Vorinstanz nicht angehört worden, obwohl das Bundesgericht in anderen Fällen verschiedentlich eine solche Anhörung verlangt habe. Ihm stehe kein ordentliches Rechtsmittel zur Verfügung, das diesen Mangel heilen könnte. Die Vorinstanz verletze dadurch seinen Anspruch auf rechtliches Gehör und das Recht auf wirkungsvolle notwendige Verteidigung. Zudem verstosse sie gegen das Willkürverbot und das Fairnessgebot (Beschwerde, S. 10 f. und S. 13 ff.).
3.2 Die Vorinstanz erwägt, der Beschwerdeführer habe eine Honorarnote über Fr. 8'105.10 eingereicht. Sie erachtet die pauschale Kürzung der ersten Instanz als nicht angemessen. Es dränge sich jedoch trotzdem eine Korrektur in einzelnen Punkten auf. Sämtliche Kopien der Gerichtsakten von Basel-Stadt aus dem Jahre 1998 im Betrag von Fr. 109.-- seien unnötig. Der damalige Strafregistereintrag sei gelöscht und im vorliegenden Verfahren nicht mehr relevant. Zudem hätten diese Akten nicht studiert werden müssen, weshalb zwei Stunden Aktenstudium abzuziehen seien. Schliesslich seien Aktenkopien mit höchstens 20 Rp./Seite (ab 1000 Kopien 10 Rp./Seite) zu fakturieren, während der Beschwerdeführer 50 Rp./Seite berechnet habe. Ohne die Basler Gerichtsakten resultiere eine Summe von insgesamt Fr. 401.50. Es rechtfertige sich daher eine Kürzung um pauschal Fr. 200.--. Schliesslich sei es fraglich, ob der Beschwerdeführer das vorbereitete Plädoyer für die erstinstanzliche Hauptverhandlung während vier Stunden habe überarbeiten müssen, nachdem die Verhandlung um mehrere Monate verschoben worden sei. Die Honorarnote samt Barauslagen sei auf insgesamt Fr. 7'545.-- (inkl. MWST) festzulegen (Urteil, S. 4 ff.).
3.3 Der Vorinstanz kommt bei der Bemessung des Honorars eines amtlichen Rechtsvertreters ein weiter Ermessensspielraum zu. Das Bundesgericht schreitet nur ein, wenn der Ermessensspielraum klarerweise überschritten worden ist und Bemühungen nicht honoriert werden, die zweifelsfrei zu den Obliegenheiten eines amtlichen Verteidigers gehören. Es wendet grosse Zurückhaltung an, wenn der Aufwand als übersetzt bezeichnet wird, denn es ist Sache der kantonalen Instanzen, die Angemessenheit anwaltlicher Bemühungen zu beurteilen (BGE 118 Ia 133 E. 2; Urteil des Bundesgerichts 6B_130/2007 vom 11. Oktober 2007 E. 3.2).
3.4 Es ist nicht zu beanstanden, wenn die Vorinstanz die vom Beschwerdeführer angefertigten Kopien der Gerichtsakten des Kantons Basel-Stadt aus dem Jahre 1998 als unnötig bezeichnet und die Barauslagen entsprechend tiefer ansetzt. Zudem überschreitet die Vorinstanz ihren Ermessensspielraum nicht, wenn sie die Kopierkosten von 50 Rp. auf 20 Rp./Seite kürzt. Dasselbe gilt für die - freilich nicht exakt bezifferte - Kürzung der Arbeitszeit für die Überarbeitung der Plädoyernotizen des Beschwerdeführers.
Die Vorinstanz begeht allerdings eine Ermessensüberschreitung in Bezug auf die Kürzung des Aufwandes um zwei Stunden für das Studium der Gerichtsakten des Kantons Basel-Stadt. Wie der Beschwerdeführer zutreffend argumentiert, hat er diese Akten nicht studiert beziehungsweise das Aktenstudium zumindest im Leistungsverzeichnis weder aufgeführt noch in Rechnung gestellt (vgl. Honorarnote des Beschwerdeführers vom 15. November 2011, ohne Aktennummer).
3.5 Die Vorinstanz wird über die Angemessenheit der Honorarnote des Beschwerdeführers neu zu befinden haben. Da sie dabei den Beschwerdeführer ohnehin anhören muss, kann dahingestellt bleiben, ob sie vorliegend seinen Anspruch auf rechtliches Gehör verletzt hat, indem sie ohne vorgängige Anhörung sein Honorar gekürzt hat.
3.6 Die Beschwerde ist teilweise gutzuheissen, soweit darauf eingetreten werden kann. Der Entscheid des Obergerichts des Kantons Thurgau vom 18. Juli 2012 ist aufzuheben und die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen. Bei diesem Ausgang des Verfahrens sind dem Beschwerdeführer reduzierte Gerichtskosten aufzuerlegen (Art. 66 Abs. 1 i.V.m. Abs. 4 BGG). Der Kanton Thurgau hat dem Beschwerdeführer eine reduzierte Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen, soweit darauf einzutreten ist. Der Entscheid des Obergerichts des Kantons Thurgau vom 18. Juli 2012 wird aufgehoben und die Sache zur neuen Beurteilung an die Vorinstanz zurückgewiesen.
2. Dem Beschwerdeführer werden Gerichtskosten von Fr. 1'000.-- auferlegt.
3. Der Kanton Thurgau hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'500.-- auszurichten.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 15. Mai 2013
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Keller