Sachverhalt:
A. Gemäss Vollstreckungsbescheid des Amtsgerichts Stuttgart vom 27. März 2007 machte X._ gegen Z._ ein Anwaltshonorar im Betrag von EUR 5'340.56, Kosten von EUR 69.75 sowie aufgelaufene und laufende Zinsen geltend.
B. Gestützt auf diesen Entscheid belegte der Arrestrichter des Bezirkes Dietikon mit Befehl vom 5. Mai 2009 sämtliche bestehenden und künftigen Lohnansprüche sowie sonstigen Forderungen von Z._ bei seiner Arbeitgeberin bis zur Deckung der Arrestforderung von Fr. 7'531.71 nebst Zins und Kosten mit Arrest.
In der anschliessenden Prosequierungsbetreibung Nr. xxx erliess das Betreibungsamt Dietikon am 19. Mai 2009 den Zahlungsbefehl, gegen den am 2. Juni 2009 Rechtsvorschlag erhoben wurde.
Am 30. April 2010 wies der Einzelrichter des Bezirkes Dietikon das Rechtsöffnungsgesuch vom 9. Juni 2009 ab.
Den hiergegen erhobenen Rekurs mit den Begehren um Vollstreckbarerklärung des deutschen Vollstreckungsbescheides sowie Gewährung der definitiven Rechtsöffnung wies das Obergericht des Kantons Zürich am 2. Juli 2010 ab.
Mit Zirkulationsbeschluss vom 12. April 2011 hiess das Kassationsgericht des Kantons Zürich die hiergegen erhobene Nichtigkeitsbeschwerde gut mit der Begründung, im Zeitpunkt der Zustellung des verfahrenseinleitenden Schriftstücks habe ein rein innerstaatlicher Sachverhalt vorgelegen, weshalb sich die ordnungsgemässe Zustellung nicht nach staatsvertraglichen Normen, sondern nach dem am Gerichtsort geltenden Prozessrecht (also nach der deutschen ZPO) richte; mithin bestimme das Recht des Ursprungsstaates, wie die gemäss <ref-law> vorzulegende Zustellungsurkunde auszusehen habe.
In der Folge prüfte das Obergericht die Rechtsöffnungssache erneut, aufgrund des Inkrafttretens der neuen Verfahrensordnung nunmehr als Beschwerde im Sinn der ZPO/CH, und wies diese am 28. Juli 2011 ab.
C. Gegen dieses Urteil hat X._ am 14. September 2011 Beschwerde in Zivilsachen und subsidiäre Verfassungsbeschwerde erhoben. Mit Präsidialverfügung vom 5. Oktober 2011 wurde die aufschiebende Wirkung erteilt. In der Sache selbst wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1. Der angefochtene Entscheid ist kantonal letztinstanzlich (Art. 75 Abs. 1 und Art. 90 BGG) und beschlägt eine Rechtsöffnungssache (<ref-law>). Diese ist indes vermögensrechtlicher Natur, weshalb die Beschwerde in Zivilsachen nur ab einem Streitwert von Fr. 30'000.-- zulässig ist (<ref-law>), es sei denn, es liege eine Rechtsfrage von grundsätzlicher Bedeutung vor (<ref-law>), wie sie vorliegend geltend gemacht wird.
2. Eine Rechtsfrage ist dann von grundsätzlicher Bedeutung, wenn ein allgemeines Interesse besteht, dass eine umstrittene Frage höchstrichterlich geklärt wird, um eine einheitliche Anwendung und Auslegung des Bundesrechts herbeizuführen und damit Rechtssicherheit herzustellen (<ref-ruling> E. 2.4 S. 649). Ein erhöhtes Interesse besteht dann, wenn die Wahrscheinlichkeit, dass die entsprechende Frage je dem Bundesgericht unterbreitet werden kann, infolge der Streitwertgrenze äusserst gering ist (<ref-ruling> E. 1.2.3 S. 271). Keine Rechtsfrage von grundsätzlicher Bedeutung liegt demgegenüber vor, wenn es lediglich um die Anwendung von Grundsätzen der Rechtsprechung auf einen konkreten Fall geht (<ref-ruling> E. 1.2 S. 495 f.; <ref-ruling> E. 1.2 S. 117).
2.1 In verfahrensrechtlicher Hinsicht hat das Obergericht befunden, dass noch das LugÜ von 1988 anzuwenden sei, weil der vorfrageweise vollstreckbar zu erklärende Vollstreckungsbescheid des Amtsgerichtes Stuttgart vor dem Inkrafttreten des revLugÜ ergangen sei. Hingegen gelange für das weitere Verfahren bereits die neue ZPO/CH zur Anwendung: Zwar versetze eine Rückweisung das Verfahren in den Stand vor der Entscheidfällung, woraus abgeleitet werden könnte, dass das Verfahren vor Obergericht noch nicht im Sinn von <ref-law>/CH abgeschlossen sei und die Weiterführung daher nach altem Recht zu erfolgen habe. Dagegen spreche jedoch, dass das Verfahrensrecht nach einem allgemeinen Grundsatz regelmässig sofort angewandt werden soll. Eine ausdrücklich anderslautende Bestimmung enthalte die ZPO/CH nicht. Gemäss <ref-law>/CH gelte das alte Recht zudem nur bis zum Abschluss des Verfahrens in der betreffenden Instanz. Die damit angesprochene Instanz sei hier das Kassationsgericht. Dessen Verfahren sei mit dem Entscheid vom 12. April 2011 abgeschlossen worden. Für das auf ein Rechtsmittel anwendbare Recht gelte dann nach <ref-law>/CH das im Zeitpunkt der Eröffnung geltende Recht. Daher werde ein Rechtsmittelverfahren, selbst wenn es um die Überprüfung eines nach alten Regeln geführten erstinstanzlichen Prozesses gehe, nach den neuen Bestimmungen geführt. Es wäre wenig sinnvoll, nach einer Rückweisung allenfalls wieder altes, für ein zweites Rechtsmittel gegen den neuen Entscheid dagegen neues Recht anzuwenden. Schliesslich habe der Bundesgesetzgeber das analoge Problem im Strafprozess ausdrücklich geregelt, indem nach einer Rückweisung das neue Verfahrensrecht anzuwenden sei (<ref-law>/CH). Für das weitere Verfahren kämen demnach die Normen über das Beschwerdeverfahren zum Tragen (Art. 319 lit. a i.V.m. <ref-law>/CH). Ausgehend von diesen Erwägungen hat das Obergericht befunden, dass für Noven, die bis zum aufgehobenen Entscheid eingebracht worden seien, noch § 278 i.V.m. § 267 Abs. 1, § 115 und § 138 ZPO/ZH gegolten habe; für das weitere Verfahren seien neue Anträge, Tatsachenbehauptungen und Beweismittel jedoch ausgeschlossen (<ref-law>/CH).
Die Anwendung des neuen Verfahrensrechts wird vom Beschwerdeführer nicht in Frage gestellt, sondern vielmehr ausdrücklich bestätigt. Folglich ist darüber nicht an dieser Stelle zu befinden, sondern wenn schon im Zusammenhang mit der subsidiären Verfassungsbeschwerde darauf zurückzukommen (siehe E. 3).
2.2 In materieller Hinsicht hat das Obergericht erwogen, die zu vollstreckende Entscheidung müsse die für ihre Beweiskraft erforderlichen Voraussetzungen erfüllen (<ref-law>), die sich nach innerstaatlichem Recht des Entscheidstaates bemessen würden; vorliegend trage der Vollstreckungsbescheid den Stempel des Amtsgerichts Stuttgart und den Namen des zuständigen Rechtspflegers, womit er die Anforderungen von § 699 i.V.m. <ref-law>/D erfülle. Die Anerkennung und Vollstreckung von im Versäumnisverfahren ergangenen Entscheidungen sei indes an erhöhte Anforderungen geknüpft; <ref-law> verlange diesbezüglich die Vorlegung einer Urkunde, aus der sich die Zustellung des den Rechtsstreit einleitenden Schriftstückes an die säumige Partei ergebe. Als verfahrenseinleitendes Schriftstück gelte bei den zu den Säumnisentscheiden gehörenden Vollstreckungsbescheiden der unwidersprochen gebliebene Mahnbescheid. Nach dessen Zustellung an den Antragsgegner werde der Antragsteller davon mittels Zustellungsnachricht in Kenntnis gesetzt. Auf eine solche Zustellungsnachricht vom 13. Februar 2007 berufe sich der Beschwerdeführer vorliegend. Die Zustellungsnachricht diene jedoch lediglich seiner Information und tauge nicht als eigentlicher Nachweis der Zustellung; hierfür sei eine Zustellungsurkunde nach <ref-law>/D erforderlich, die neben dem Zustellungsdatum insbesondere auch die Bezeichnung des Adressaten, den Zustellungsort und die Person enthalte, an welche das Schriftstück effektiv übergeben worden sei. Die mit dem Rekurs eingereichte Zustellungsnachricht enthalte lediglich das Datum der Zustellung und sei damit nach deutschem Recht und folglich auch im Sinn von <ref-law> ungenügend.
2.3 Hinsichtlich dieser Begründung macht der Beschwerdeführer zum einen geltend, das Obergericht habe die nachträglich eingereichte Bescheinigung einer Ersatzzustellung gemäss <ref-law>/D durch Einlegen des Mahnbescheides in den Briefkasten zu Unrecht unberücksichtigt gelassen und es sei eine Rechtsfrage von grundsätzlicher Bedeutung, ob aufgrund überspitzt formalistischer Überlegungen der Vollzug eines in einem westeuropäischen Rechtsstaat gültig ergangenen Vollstreckungsbescheides abgelehnt werden dürfe.
Ob - vorliegend ohnehin nicht erkennbarer - überspitzter Formalismus vorliegt, wenn das Obergericht die Zustellungsbescheinigung als verspätet angesehen und deshalb unberücksichtigt gelassen hat, betrifft naturgemäss die Anwendung von Grundsätzen bzw. Normen im Einzelfall und kann daher nach der eingangs in E. 2 zitierten bundesgerichtlichen Rechtsprechung keine Rechtsfrage von grundsätzlicher Bedeutung sein.
2.4 Zum anderen macht der Beschwerdeführer geltend, dass zwar nach <ref-law>/CH im Beschwerdeverfahren neue Tatsachen und Beweismittel im Grundsatz ausgeschlossen, nach <ref-law>/CH aber besondere Vorschriften vorbehalten seien. Eine solche besondere Vorschrift sei vorliegend <ref-law>/CH, wonach der Vollstreckungsrichter die Vollstreckbarkeit einer Entscheidung von Amtes wegen zu prüfen habe. Es sei eine Rechtsfrage von grundsätzlicher Bedeutung, ob der Vollstreckungsrichter demzufolge gestützt auf <ref-law>/CH sämtliche bis zum Zeitpunkt der Urteilsberatung vorgelegten Tatsachen und Beweismittel zu berücksichtigen habe.
Diesbezüglich übersieht der Beschwerdeführer, dass grundsätzlich bereits im Vollstreckungsgesuch die Voraussetzungen der Vollstreckung darzulegen und die erforderlichen Urkunden beizulegen sind (<ref-law>/CH). Vorliegend geht es aber ohnehin nicht um eine binnenrechtliche Sachvollstreckung, sondern um einen auf Geld lautenden deutschen Vollstreckungsbescheid, über den im Rechtsöffnungsverfahren inzident zu befinden ist. Zur Anwendung gelangen deshalb aufgrund des Vorbehaltes in Art. 335 Abs. 2 und 3 ZPO/CH das SchKG bzw. das LugÜ, dessen Art. 46 und 47 (in der Fassung von 1988) genau umschreiben, welche Dokumente durch die Partei, welche die Anerkennung oder Zwangsvollstreckung verlangt, vorzulegen sind. Wird gegen diesen Rechtsöffnungsentscheid eine Beschwerde erhoben, so gelten die betreffenden Vorschriften, unter Vorbehalt der vorliegend nicht interessierenden Sondernorm von <ref-law>/CH bezüglich der Vollstreckbarerklärung nach dem revidierten LugÜ. Die im Zusammenhang mit <ref-law>/CH - die Norm betrifft das erstinstanzliche ordentliche Verfahren und sieht eine Ausnahme von der Konzentrationsmaxime insoweit vor, als die Untersuchungsmaxime gilt - gemachten Ausführungen rund um die angeblichen Fragen von grundsätzlicher Bedeutung gehen mithin an der Sache vorbei.
3. Stehen nach dem Gesagten keine Rechtsfragen von grundsätzlicher Bedeutung zur Debatte, so ist auf die Beschwerde in Zivilsachen mangels genügenden Streitwertes nicht einzutreten.
Eine subsidiäre Verfassungsbeschwerde ist in der gleichen Eingabe vorzubringen (<ref-law>). Vorliegend wird sie im Rubrum erwähnt, aber nirgends begründet. So wird insbesondere nicht in Frage gestellt, dass auf das obergerichtliche Verfahren im Rückweisungsstadium bereits die ZPO/CH und nicht mehr die ZPO/ZH angewandt wurde. Diesbezüglich könnten einzig Verfassungsrügen (z.B. willkürliche Anwendung der Normen der ZPO/ZH oder allenfalls auch Verletzung der derogatorischen Kraft des Bundesrechts) vorgebracht werden, was nicht geschieht; vielmehr wird in der Beschwerde sogar ausdrücklich dafürgehalten, dass die neue ZPO/CH zur Anwendung gelange. Mangels einer Rüge ist darauf nicht weiter einzugehen. In anderer Hinsicht wird zwar beiläufig eine Verletzung des Willkürverbotes und des rechtlichen Gehörs geltend gemacht; diesbezüglich genügt die Eingabe aber dem für die subsidiäre Verfassungsbeschwerde geltenden strengen Rügeprinzip (Art. 117 i.V.m. <ref-law>) nicht, bleiben doch die Ausführungen unsubstanziiert und gehen ohnehin an der Sache vorbei, weil sie auf der irrigen Prämisse basieren, im Vollstreckungsverfahren sei der Sachverhalt von Amtes wegen abzuklären und dies vor allen Instanzen.
4. Nach dem Gesagten kann weder auf das eine noch auf das andere Rechtsmittel eingetreten werden. Bei diesem Verfahrensausgang sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Betreffend aufschiebende Wirkung wurde entsprechend dem Antrag des Beschwerdeführers und entgegen dem auf Abweisung lautenden Antrag des Beschwerdegegners entschieden; in der Sache selbst wurden keine Vernehmlassungen eingeholt. Mithin ist Letzterem keine Parteientschädigung geschuldet.

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in Zivilsachen wird nicht eingetreten.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien, dem Betreibungsamt Dietikon und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 28. November 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Möckli