Sachverhalt:
A. Der 1966 geborene E._ absolvierte bei der Firma X._ AG eine Maurerlehre und war damit bei der Schweizerischen Unfallversicherungsanstalt (SUVA) gegen die Folgen von Unfällen versichert. Am 15. Mai 1984 zog er sich bei einem Arbeitsunfall eine Ruptur des vorderen Kreuzbandes und des medialen Seitenbandes am linken Knie zu. Die SUVA erbrachte sowohl im Grundfall als auch in den zwischen 1987 und 2002 gemeldeten insgesamt acht Rückfällen Leistungen. Der Versicherte musste sich verschiedenen Operationen unterziehen und liess sich im Rahmen von beruflichen Massnahmen der Invalidenversicherung umschulen (Bürofachdiplom und Handelsdiplom, schulinterne Technikerprüfung). Mit Verfügung vom 27. März 1992 sprach ihm die SUVA wegen einer mittelschweren Instabilität des linken Knies eine Entschädigung für eine Integritätseinbusse von 10 % zu; gleichzeitig wies sie einen Rentenanspruch ab, da keine Beeinträchtigung der Erwerbsfähigkeit vorliege. Im Verlaufe des am 22. August 2002 gemeldeten Rückfalls stellte E._ am 9. Juli 2008 ein Gesuch um Ausrichtung einer Invalidenrente. Dieses wies die SUVA mit Verfügung vom 19. August 2009 erneut mit der Begründung ab, es fehle an einer unfallbedingten Erwerbseinbusse. Gleichzeitig sprach sie dem Versicherten wegen einer mässigen Gonarthrose im linken Knie eine zusätzliche Integritätsentschädigung von 10 % zu. Daran hielt die Unfallversicherung auch auf Einsprache hin fest (Entscheid vom 21. Juli 2010).
B. Mit Entscheid vom 31. Oktober 2011 wies das Sozialversicherungsgericht des Kantons Zürich die von E._ erhobene Beschwerde ab.
C. E._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, in Aufhebung des vorinstanzlichen Entscheides sei ihm eine Invalidenrente auszurichten, eventuell sei die Sache zu weiteren Abklärungen an die Beschwerdegegnerin zurückzuweisen.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1. Die Beschwerde kann wegen Rechtsverletzung nach Art. 95 f. BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Immerhin prüft es grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (Art. 42 Abs. 1 und 2 BGG; <ref-ruling> E. 1.4.1 S. 254).
Im Beschwerdeverfahren um die Zusprechung oder Verweigerung von Geldleistungen der Unfallversicherung ist das Bundesgericht nicht an die vorinstanzliche Feststellung des rechtserheblichen Sachverhalts gebunden (Art. 97 Abs. 2 und Art. 105 Abs. 3 BGG).
2. Streitig und zu prüfen ist, ob der Beschwerdeführer aufgrund des am 15. Mai 1984 erlittenen Unfalls Anspruch auf eine Invalidenrente der Unfallversicherung hat.
3. Das kantonale Gericht hat die Bestimmungen über den Anspruch auf Leistungen der obligatorischen Unfallversicherung (<ref-law>), insbesondere auf eine Invalidenrente (Art. 6 Abs. 1; Art. 18 Abs. 1 UVG), sowie über die Begriffe Invalidität (<ref-law>) und Erwerbsunfähigkeit (<ref-law>) und über die Bestimmung des Invaliditätsgrades mittels Einkommensvergleich (<ref-law>) zutreffend dargelegt. Richtig wiedergegeben wurden auch die von der Rechtsprechung erarbeiteten Grundsätze zum für einen Leistungsanspruch erforderlichen natürlichen Kausalzusammenhang zwischen dem Unfall und dem eingetretenen Schaden und zur Beweiswürdigung. Darauf wird verwiesen.
4. Der Beschwerdeführer macht vorab geltend, die SUVA habe sich mit verschiedenen seiner Vorbringen nicht auseinandergesetzt, welche Verletzung des rechtlichen Gehörs von der Vorinstanz zu Unrecht als geheilt erachtet worden sei.
Gemäss dem Anspruch auf rechtliches Gehör (<ref-law>) hat die Behörde ihren Entscheid zu begründen. Indessen ist es nicht erforderlich, dass sie sich mit allen Parteistandpunkten auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich die Parteien über die Tragweite des Entscheides Rechenschaft geben und ihn in voller Kenntnis der Sache weiterziehen können. In diesem Sinne müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen und auf die sich ihr Entscheid stützt (<ref-ruling> E. 4.1 S. 88). Diese Anforderungen erfüllen sowohl der Einspracheentscheid vom 21. Juli 2010 als auch der angefochtene Entscheid. Inwiefern sein rechtliches Gehör durch die Vorinstanz verletzt worden sein soll, wird vom Beschwerdeführer nicht begründet, weshalb darauf nicht weiter einzugehen ist.
5. Umstritten ist die zumutbare Arbeitsfähigkeit des Beschwerdeführers in einer seiner gesundheitlichen Beeinträchtigung am linken Knie angepassten Tätigkeit und die Frage, ob sich diese seit der letzten rechtskräftigen Verneinung eines Rentenanspruchs im März 1992 in anspruchswesentlicher Weise verändert hat.
5.1 Nach umfassender Würdigung der medizinischen Akten ist das kantonale Gericht im angefochtenen Entscheid zum Schluss gelangt, dass sich der Gesundheitszustand des Beschwerdeführers seit der letzten rechtskräftigen Ablehnung eines Rentenbegehrens insofern verschlechtert hat, als sich zwischenzeitlich als Folge des versicherten Unfalls eine mässiggradige Gonarthrose links entwickelt hat. Hinsichtlich der einzig von Dr. med. L._, allgemeine Medizin FMH, in einem kurzen Schreiben vom 23. November 2007 erwähnten Schmerzen im rechten, beim Unfall nicht verletzten Knie, kommt die Vorinstanz zur Erkenntnis, für dieses hätte nach Lage der Akten bislang weder ein Behandlungsbedarf bestanden, noch habe die genannte gesundheitliche Beeinträchtigung eine Einschränkung der Arbeitsfähigkeit bewirkt, weshalb sich eine Diskussion über deren Unfallkausalität erübrige.
Der Beschwerdeführer sei unter Berücksichtigung der unfallbedingten Beschwerden beziehungsweise der daraus resultierenden funktionellen Einschränkungen nach wie vor in der Lage, im Pensum von 100 % einer vorwiegend sitzend auszuführenden Tätigkeit nachzugehen. Gehen und Stehen auf guter Unterlage sei intervallweise - abwechselnd mit gleich langem Sitzen - bis zu 30 Minuten während höchstens der Hälfte der Arbeitszeit möglich. Zwangsstellungen für das linke Bein seien zu vermeiden, ebenso das Bedienen von Pedalen. Das Begehen von Treppen sei selten möglich, das Niederknien nur bei Vorstellen des linken Beines. Lasten von 10 bis 15 Kilogramm könnten getragen werden. Damit bestehe in der angestammten beziehungsweise umgeschulten Tätigkeit im kaufmännischen Bereich - rein unfallbedingt - keine Einschränkung der Leistungsfähigkeit. Die Vorinstanz stützt sich dabei auf den Bericht über die kreisärztliche Untersuchung durch Dr. med. O._ vom 5. Mai 2009, dem sie vollen Beweiswert zuerkannte. Dies ist nicht zu beanstanden, erfüllt dieser doch alle rechtsprechungsgemässen Kriterien für eine beweiskräftige ärztliche Entscheidungsgrundlage (<ref-ruling> E. 3 S. 352 ff. mit Hinweisen).
5.2 Die Einwendungen des Beschwerdeführers vermögen nicht zu einer anderen Beurteilung zu führen. Entgegen der Darstellung in der Beschwerdeschrift ergibt sich aus dem umfassenden Kreisarztbericht nicht, dass auch dieser Arzt eine Femoropatellararthrose rechts festgestellt habe. In der angeführten Textstelle werden lediglich die Angaben des Exploranden wiedergegeben. Im Gegenteil führte die Untersuchung des rechten Knies zu einem klinisch unauffälligen Befund. Mit der Vorinstanz ist es dem Versicherten in vielen sitzenden Tätigkeiten ohne weiteres möglich, kurz aufzustehen, ohne dass dafür zwingend eine eigentliche Pause mit Arbeitsniederlegung erforderlich wäre. Es ist bei einer kaufmännischen Tätigkeit auch durchaus möglich, diese abwechselnd sitzend und an einem Stehpult auszuführen. Inwiefern die im Kreisarztbericht als Beispiel für leichte körperliche Arbeiten angeführte Bürotätigkeit durch die aufgezeigten Einschränkungen nicht mehr ausgeführt werden kann, wird vom Beschwerdeführer nicht überzeugend begründet. Insbesondere legt er keine medizinischen Zeugnisse vor, die ihm eine verminderte Arbeitsfähigkeit in einer den Kniebeschwerden angepassten Tätigkeit attestierten. Die naturgemäss subjektiv geprägte eigene Einschätzung einer verminderten Arbeitsfähigkeit vermag die begründete Beurteilung eines erfahrenen Arztes nicht zu relativieren. Wenn der Beschwerdeführer geltend macht, dass für ihn kaum geeignete Stellen angeboten werden, stellt er die effektive Verwertbarkeit der Arbeitsfähigkeit in Frage. Diese ist allerdings nicht massgebend, da bei der Invaliditätsbemessung nicht der effektive, sondern der hypothetische ausgeglichene Arbeitsmarkt Referenzpunkt bildet. Der ausgeglichene Arbeitsmarkt ist ein theoretischer und abstrakter Begriff. Er berücksichtigt die konkrete Arbeitsmarktlage nicht, umfasst in wirtschaftlich schwierigen Zeiten auch tatsächlich nicht vorhandene Stellenangebote und sieht von den fehlenden oder verringerten Chancen gesundheitlich Beeinträchtigter, tatsächlich eine zumutbare und geeignete Arbeitsstelle zu finden, ab. Er umschliesst einerseits ein bestimmtes Gleichgewicht zwischen dem Angebot von und der Nachfrage nach Stellen; anderseits bezeichnet er einen Arbeitsmarkt, der von seiner Struktur her einen Fächer verschiedenartiger Stellen offenhält (<ref-ruling> E. 4.2.1 S. 70 f.; <ref-ruling> E. 4b S. 276). Mit Blick darauf ist davon auszugehen, dass der Beschwerdeführer eine entsprechende Stelle finden könnte, die auch bezüglich des Arbeitsweges keine unüberwindbaren zusätzlichen Anforderungen stellt. Von weiteren Abklärungen sind keine neuen Erkenntnisse zu erwarten, weshalb auch im vorliegenden Verfahren davon abzusehen ist (antizipierte Beweiswürdigung; <ref-ruling> E. 4b S. 94).
5.3 Da sich hinsichtlich der Arbeitsfähigkeit in der weiterhin vollumfänglich zumutbaren Tätigkeit keine wesentliche Änderung gegenüber der letzten rechtskräftigen Ablehnung eines Rentenanspruchs ergeben hat, erübrigt sich ein Einkommensvergleich und die Bestimmung eines Invaliditätsgrades. Der Anspruch auf eine Rente der Unfallversicherung wurde zu Recht verneint.
6. Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 750.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Gesundheit schriftlich mitgeteilt.
Luzern, 29. Februar 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Schüpfer