Sachverhalt:
A.
A._ arbeitete seit dem 1. April 1992 bei der B._ AG als Geschäftsleiter und EDV-Installateur (Netzwerk- und Hardware Installationen) sowie im Verkauf. Er meldete sich am 17. Februar 2000 wegen einer Gonarthrose am rechten Knie, einer beidseitigen Coxarthrose an der Hüfte und Rückenbeschwerden bei der Invalidenversicherung zum Bezug einer Rente an. Gemäss Verfügung vom 21. April 1998 richtete ihm die Militärversicherung bereits seit dem 1. Januar 1997 eine Invalidenrente auf der Basis eines Invaliditätsgrades von 41 % aus. Am 2. Juli 2001 erlitt der Versicherte einen Auffahrunfall. Mit Verfügung vom 6. Mai 2008 lehnte die IV-Stelle des Kantons Bern bei einem ermittelten Invaliditätsgrad von 21 % den Anspruch auf eine Rente ab. Die dagegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Bern mit Entscheid vom 9. März 2009 gut und wies die Sache zu weiteren Abklärungen an die IV-Stelle zurück.
Die IV-Stelle holte in der Folge unter anderem ein polydisziplinäres Gutachten der Ärztliches Begutachtungsinstitut GmbH (ABI) vom 29. April 2010 ein. Den Experten lagen unter anderem auch Videoaufzeichnungen einer Observation vor, welche die für den Unfall vom 2. Juli 2001 leistungspflichtige Haftpflichtversicherung in Auftrag gegeben hatte. Mit Verfügung vom 11. Februar 2011 hielt die IV-Stelle bei einem nunmehr ermittelten Invaliditätsgrad von 39 % an der Verneinung eines Rentenanspruchs fest, was das Verwaltungsgericht mit Entscheid vom 17. März 2014 bestätigte. Mit Urteil vom 5. Juni 2015 hiess das Bundesgericht eine dagegen geführte Beschwerde teilweise gut, hob den kantonalen Entscheid auf und wies die Sache zu neuer Entscheidung an die Vorinstanz zurück. Im Übrigen wies es die Beschwerde ab.
B.
Entsprechend der Anordnung im bundesgerichtlichen Rückweisungsentscheid holte das Verwaltungsgericht weitere Unterlagen betreffend die von A._ vor dem Jahre 2002 erzielten Erwerbseinkommen ein. Die Parteien erhielten Gelegenheit zur Stellungnahme. Mit Entscheid vom 29. Juni 2017 wies es die Beschwerde wiederum ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten einreichen und beantragen, in Aufhebung des angefochtenen Entscheides sei ihm ab 1. Februar 1999 eine Viertelsrente und ab 1. Oktober 2001 eine ganze Invalidenrente auszurichten.
Die IV-Stelle schliesst auf Abweisung der Beschwerde, das Verwaltungsgericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280 f.; <ref-ruling> E. 1.4.1 S. 254). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG).
1.2. Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend, d.h. willkürlich ist (<ref-ruling> E. 8.1 S. 153; <ref-ruling> E. 3.1 S. 44). Offensichtlich unrichtig ist eine Sachverhaltsfeststellung etwa dann, wenn das kantonale Gericht den Sinn und die Tragweite eines Beweismittels offensichtlich falsch einschätzt, ohne sachlichen Grund ein wichtiges und für den Ausgang des Verfahrens entscheidendes Beweismittel nicht beachtet oder aus den abgenommenen Beweisen unhaltbare Schlüsse gezogen hat (<ref-ruling> E. 2.1 S. 9; Urteil 8C_734/2016 vom 12. Juli 2017 E. 1.2 mit Hinweisen).
2.
Streitig und zu prüfen ist, ob die Vorinstanz mit der Verneinung des Anspruchs auf eine Invalidenrente Bundesrecht verletzte.
Das kantonale Gericht hat die rechtlichen Grundlagen betreffend die Arbeitsunfähigkeit (Art. 6 ATSG), die Erwerbsunfähigkeit (Art. 7 ATSG), die Invalidität (Art. 8 Abs. 1 ATSG), die Invaliditätsbemessung nach der allgemeinen Methode des Einkommensvergleichs (vgl. Art. 16 ATSG) und den Rentenanspruch (Art. 28 Abs. 2 IVG) richtig dargelegt. Darauf wird verwiesen.
3.
Die Meinungen der Verfahrensbeteiligten gehen zunächst in Bezug auf die Bindungswirkung des Urteils 8C_345/2014 vom 5. Juni 2015 auseinander.
3.1. Entscheide des Bundesgerichts erwachsen am Tag ihrer Ausfällung in Rechtskraft (Art. 61 BGG). Die rechtliche Beurteilung, mit der eine Rückweisung begründet wurde, ist für das weitere Verfahren massgebend, d.h. für die Vorinstanz, die Parteien und auch das allenfalls erneut mit der Sache befasste Bundesgericht verbindlich. Abgesehen von zulässigen Noven ist der neuen Entscheidung der bisherige Sachverhalt zugrunde zu legen; rechtliche Gesichtspunkte, die ausdrücklich abgelehnt oder überhaupt nicht in Erwägung gezogen wurden, haben ausser Betracht zu bleiben; definitiv entschiedene Punkte sind nicht in Frage zu stellen. Die Tragweite des Rückweisungsentscheids ergibt sich mithin aus seiner Begründung, die in Verbindung mit den Rechtsschriften, die ihm zugrunde lagen, den Rahmen für die Neubeurteilung der Streitsache in tatsächlicher und rechtlicher Hinsicht vorgibt (<ref-ruling> E. 2 S. 335; Urteil 9C_638/2017 vom 13. November 2017 E. 2.1 mit Hinweisen). Aufgrund der Bindungswirkung des Rückweisungsurteils kann die seither ergangene Rechtsprechung des Bundesgerichts oder des EuGH nicht berücksichtigt werden (<ref-ruling> E. 2.1 S. 336).
Somit sind neue rechtliche Vorbringen bezüglich bereits entschiedener Punkte, entgegen der Auffassung des Beschwerdeführers, unzulässig.
3.2.
3.2.1. Im Urteil 8C_345/2017 vom 5. Juni 2015 erkannte das Bundesgericht, dass der Beschwerdeführer in einer leichten, seinen gesundheitlichen Einschränkungen angepassten Tätigkeit seit Mai 2002 im Rahmen von 80 % arbeits- und leistungsfähig war. Im Zeitpunkt des frühstmöglichen Rentenbeginns im Jahre 2002 hätte er dabei ein Invalideneinkommen von Fr. 38'905.- erzielen können. Damit hat das Bundesgericht für das weitere Verfahren verbindlich über die zumutbare gesundheitliche und wirtschaftliche Leistungsfähigkeit entschieden.
3.2.2. Soweit der Beschwerdeführer letztinstanzlich argumentiert, das kantonale Gericht habe diesbezüglich den Sachverhalt unrichtig oder unvollständig festgestellt und das Bundesgericht habe in Nachachtung des zur Veröffentlichung in der amtlichen Sammlung bestimmten Urteils 9C_806/2016 vom 14. Juni 2017 zu prüfen, ob den Gutachtern des ABI die Aufzeichnungen über die Observierung zu Recht vorgelegt wurden, ist er daher nicht zu hören.
Abgesehen davon hat das Bundesgericht im genannten Urteil, Erwägung 4, zwar entschieden, dass durch die IV-Stelle veranlasste Überwachungen einer genügenden Grundlage entbehren. Die Frage, ob auch bezüglich Observationsmaterial, welches von interessierten Dritten, wie beispielsweise einer Haftpflichtversicherung, beschafft wurde, auch von einer ungenügenden gesetzlichen Grundlage auszugehen ist, wurde bisher offen gelassen (Urteil 8C_192/2017 vom 25. August 2017 E. 5.4). Selbst wenn, sind indessen die Ergebnisse einer Überwachung (und damit auch der gestützt darauf ergangenen weiteren Beweise) grundsätzlich zulässig, es sei denn, bei einer Abwägung der tangierten öffentlichen und privaten Interessen würden letztere überwiegen. Eine gegen Art. 8 EMRK verstossende Videoaufnahme ist verwertbar, solange Handlungen des "Beschuldigten" aufgezeichnet werden, die er aus eigenem Antrieb und ohne äussere Beeinflussung machte, und ihm keine Falle gestellt worden war (9C_806/2016 E. 5.1.3; Urteil 8C_305/2017 vom 20. Oktober 2017 E. 4.2 mit Hinweisen). Der Beschwerdeführer legt selbst dar, die Videoaufnahmen zeigten unbeeinflusste Handlungen, die weit überwiegend im öffentlichen Raum aufgenommen worden waren. Er wurde in den Zeiträumen vom 30. März bis 14. April 2006 an acht Tagen, vom 5. Mai bis 16. Juni 2006 an zehn Tagen, vom 28. Juni bis 4. Juli 2006 an fünf Tagen und schliesslich vom 30. November bis 18. Dezember 2006 an vier Tagen observiert oder kontrolliert. Nur an wenigen der genannten Tage entstanden Bildaufnahmen. In der Regel wurde registriert, ob sich der Beschwerdeführer mit dem Auto von seinem Wohn- und Firmensitz fortbewegte, was sein Reiseziel war und wie er sich körperlich bewegte. Damit kann nicht von einer schweren Verletzung der Persönlichkeit ausgegangen werden. Dem gegenüberzustellen gilt es das Interesse des Versicherungsträgers und der Versichertengemeinschaft, unrechtmässige Leistungsbezüge abzuwenden. Dieses ist unter den hier gegebenen Umständen höher zu gewichten als das Interesse des Versicherten an einer unbehelligten Privatsphäre. Die Verwertung der Observationsergebnisse wäre daher zulässig, wenn das Bundesgericht die Frage der Höhe des zumutbaren Invalideneinkommens erneut zu beurteilen hätte.
4.
Gemäss Urteil vom 5. Juni 2015 (8C_345/2014) mangelte es dem Entscheid des kantonalen Gerichts vom 17. März 2014 an den erforderlichen Tatsachenfeststellungen hinsichtlich des massgebenden Valideneinkommens. Die verschiedenen Angaben des Beschwerdeführers über sein Einkommen vor Eintritt des Gesundheitsschadens erwiesen sich als nicht schlüssig und die Vorinstanz war den aktenkundigen Widersprüchen nicht nachgegangen. Die Rückweisung erfolgte zur ergänzenden Feststellung der für den Rentenanspruch rechtserheblich Tatsachen bezüglich des Valideneinkommens.
4.1. Unbestritten ist, dass das Valideneinkommen auf den Zeitpunkt des möglichen Rentenbeginns und damit auf das Jahr 2002 zu bestimmen ist, und dass der Versicherte ohne Gesundheitsschaden in jenem Zeitpunkt immer noch im Bereich Netzwerk- und Hardware-Installationen sowie im Verkauf für die B._ AG tätig gewesen wäre. Im angefochtenen Entscheid stellte das kantonale Gericht in Berücksichtigung der nach dem Urteil vom 5. Juni 2015 vorgenommenen weiteren Abklärungen fest, für die Tätigkeit bei der genannten Firma habe weder ein schriftlicher Arbeitsvertrag noch ein schriftlicher Stellenbeschrieb existiert; ebensowenig sei ein Arbeitszeitrapporting erfolgt. Das kantonale Gericht würdigte die sich teilweise widersprechenden Akten bezüglich der vom Beschwerdeführer in den Jahren 1992 bis 2001 erzielten Erwerbseinkommen eingehend. Es kam dabei zum Schluss, es sei erstellt, dass der Versicherte bis 1996 trotz Bezug von Taggeldleistungen der Militärversicherung in einem vollen Pensum erwerbstätig gewesen war. Auch nachdem er ab dem 1. Januar 1997 eine Invalidenrente der Militärversicherung von 41 % bezog, habe er mindestens überwiegend wahrscheinlich weiterhin zu 100 % gearbeitet. Das kantonale Gericht stellte fest, im Jahre 2000 habe der Beschwerdeführer Fr. 4'700.- pro Monat oder Fr. 61'100.- im Jahr verdient. Das Valideneinkommen für das Jahr 2002 beziffere sich demnach unter Berücksichtigung der Nominallohnerhöhung auf Fr. 63'980.50. Verglichen mit dem Invalideneinkommen von Fr. 38'905.- resultiere ein Invaliditätsgrad von 39 %, weshalb der Beschwerdeführer keinen Anspruch auf eine Invalidenrente habe.
4.2.
4.2.1. Für die Ermittlung des Valideneinkommens (vgl. Art. 16 ATSG) ist entscheidend, was die versicherte Person im Zeitpunkt des Rentenbeginns (resp. des veränderten Rentenanspruchs) nach dem Beweisgrad der überwiegenden Wahrscheinlichkeit als Gesunde tatsächlich verdient hätte. Dabei wird in der Regel am zuletzt erzielten, der Teuerung und der realen Einkommensentwicklung angepassten Verdienst angeknüpft (<ref-ruling> E. 3.1 S. 59; <ref-ruling> E. 4.1 S. 325).
Die Festsetzung des Valideneinkommens ist eine Tatfrage, soweit sie auf konkreter Beweiswürdigung beruht (<ref-ruling> E. 3.3 S. 399; Urteil 9C_652/2013 vom 25. März 2014 E. 3.1). Die konkrete Beweiswürdigung stellt ebenfalls eine Tatfrage dar. Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln nach Art. 61 lit. c ATSG Rechtsfrage (<ref-ruling> E. 3.2 und 4 S. 397 ff.; Urteil I 865/06 vom 12. Oktober 2007 E. 4 mit Hinweisen), die das Bundesgericht im Rahmen der den Parteien obliegenden Begründungs- bzw. Rügepflicht (Art. 42 Abs. 2 BGG und Art. 106 Abs. 2 BGG; BGE <ref-ruling> E. 1.4.1 und 1.4.2 S. 254) frei überprüfen kann (Art. 106 Abs. 1 BGG). Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (BGE <ref-ruling> E. 3.1 S. 44). Eine offensichtlich unrichtige Sachverhaltsfeststellung weist damit die Tragweite von Willkür auf (<ref-ruling> E. 8.1 S. 153; Botschaft des Bundesrates vom 28. Februar 2001 zur Totalrevision der Bundesrechtspflege, BBl 2001 S. 4338; MARKUS SCHOTT, Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 9 f. zu Art. 97 BGG).
4.2.2. Das Bundesgericht wies die Sache mit Urteil vom 5. Juni 2015 (8C_345/2014) an die Vorinstanz zurück, weil diese die verschiedenen, sich widersprechenden Angaben bezüglich des vor Eintritt des Gesundheitsschadens erzielten Einkommens nicht gewürdigt und diesbezüglich keine verbindlichen Feststellungen getroffen hatte. Das hat das kantonale Gericht mit dem nunmehr angefochtenen Entscheid korrigiert. Insoweit, als der Beschwerdeführer vorbringt, das Bundesgericht habe das kantonale Gericht in verbindlicher Weise angewiesen, wie genau das Valideneinkommen zu bestimmen ist, kann ihm nicht gefolgt werden. Die Rückweisung erfolgte eben gerade, weil etliche Sachverhaltselemente zur Bestimmung des Valideneinkommens noch nicht gewürdigt und darüber noch keine rechtsverbindlichen Feststellungen getroffen worden waren.
4.2.3. So kann - wie die Vorinstanz richtig festhielt - aus dem Umstand alleine, dass die Militärversicherung Taggeld- und Rentenleistungen erbrachte, nicht zwingend abgeleitet werden, dass der Beschwerdeführer in jener Zeit nicht gleichzeitig in einem vollen Pensum erwerbstätig war. Im Gegenteil hat das kantonale Gericht in Würdigung aller vorhandenen Akten für das Bundesgericht verbindlich (vgl. E. 1 hievor) festgestellt, dass die Berechnung der Militärversicherung bezüglich des hypothetischen Valideneinkommens zweifellos falsch war, da das Einkommen aus einem effektiv geleisteten vollen Arbeitspensum und zusätzlich fliessenden Leistungen von Versicherern zusammengezählt worden waren. Der angefochtene Entscheid stützt sich insbesondere auf die echtzeitlichen Angaben in den Unfall- beziehungsweise Rückfallmeldungen UVG der Arbeitgeberin des Beschwerdeführers vom 15. September 1999 und vom 24. August 2000, wonach er 5 Tage in der Woche und insgesamt 50 Stunden gearbeitet habe. Auch gegenüber der Taggeldversicherung wurde am 24. Januar 2001 angegeben, die übliche Arbeitszeit betrage 5 Tage à 9 Stunden. Gestützt darauf traf das kantonale Gericht die Feststellung, dass der Beschwerdeführer auch nach dem 1. Januar 1997 noch zu 100 % erwerbstätig war. Es ist nicht ersichtlich, inwiefern das vorinstanzliche Beweisergebnis offensichtlich unrichtig respektive aktenwidrig oder gar willkürlich sein soll. Insbesondere können Lohnangaben gemäss der Schweizerischen Lohnstrukturerhebung des Jahres 2012 die vorinstanzlichen Feststellungen über den tatsächlich ausbezahlten Lohn im Jahre 2000 nicht relativieren. Das kantonale Gericht durfte auf die Angaben der Arbeitgeberin, in welcher der Beschwerdeführer eine beherrschende Stellung innehatte, abstellen. Demnach erzielte er im Jahre 2000 ein Erwerbseinkommen von Fr. 61'100.-. Das Valideneinkommen für das Jahr 2002 beträgt demnach Fr. 63'980.- Verglichen mit dem zumutbar zu erzielenden Invalideneinkommen von Fr. 38'905.- resultiert eine Erwerbseinbusse von 39 % (gerundet). Die Verneinung eines Rentenanspruchs wurde daher zu Recht bestätigt. Die Beschwerde ist abzuweisen.
5.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 Satz 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 6. Februar 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Schüpfer