Sachverhalt:
A.
A.a. Der 1950 geborene A._ arbeitete seit dem 1. April 1992 bei der B._ AG als Geschäftsleiter und EDV-Installateur (Netzwerk- und Hardware Installationen) sowie im Verkauf. Er meldete sich am 17. Februar 2000 wegen einer Gonarthrose am rechten Knie, einer beidseitigen Coxarthrose an der Hüfte und Rückenbeschwerden bei der Invalidenversicherung zum Bezug einer Rente an. Gemäss Verfügung vom 21. April 1998 richtete ihm die Militärversicherung bereits seit dem 1. Januar 1997 eine Invalidenrente auf der Basis eines Invaliditätsgrades von 41 % aus. Während die IV-Stelle des Kantons Bern Abklärungen in medizinischer und erwerblicher Hinsicht traf, erlitt der Versicherte am 2. Juli 2001 einen (erneuten) Unfall, wobei er sich unter anderem eine Commotio cerebri, eine HWS-Distorsion und eine Kniekontusion rechts zuzog. Die Unfallversicherung (Berner Versicherungen, nunmehr Allianz Suisse Versicherungs-Gesellschaft AG: nachfolgend Allianz) erbrachte Heilbehandlung und richtete Taggeld aus. Sie stellte mit Verfügung vom 20. September 2007 ihre Leistungen rückwirkend auf den 1. Mai 2002 ein, da ab jenem Zeitpunkt zwischen den weiterhin geklagten gesundheitlichen Beeinträchtigungen und dem versicherten Unfall kein natürlicher und adäquater Kausalzusammenhang mehr bestehen würde. Dies hat das Bundesgericht letztinstanzlich mit Urteil vom 29. Januar 2010 bestätigt (8C_409/2009).
Die IV-Stelle eröffnete A._ mit Verfügung vom 6. Mai 2008, er habe bei einem ermittelten Invaliditätsgrad von 21 % keinen Anspruch auf eine Invalidenrente. Das Verwaltungsgericht des Kantons Bern, bei welchem gegen die genannte Verfügung Beschwerde geführt wurde, hob diese mit Entscheid vom 9. März 2009 auf und wies die Sache zu einer umfassenden und aktuellen Gesamtwürdigung und Nachbegutachtung des Gesundheitszustandes unter besonderer Berücksichtigung der Knieinvalidität sowie der Hüftproblematik und der Vorlage sämtlicher Akten der Militär- und der Unfallversicherung an die IV-Stelle zurück. Weiter habe diese Abklärungen über die Einschränkungen und allfälliger daraus entstehender Arbeitsunfähigkeiten im Zeitverlauf vorzunehmen und neu zu verfügen.
A.b. In der Folge liess die IV-Stelle den Versicherten durch die Begutachtungsstelle C._, polydisziplinär untersuchen (Expertise vom 29. April 2010) und holte zudem unter anderem einen Bericht des Dr. med. D._, Facharzt für Orthopädische Chirurgie FMH vom Regionalen Ärztlichen Dienst (RAD) vom 30. Juli 2010 ein. Gestützt auf die getätigten Abklärungen hielt die IV-Stelle mit Verfügung vom 11. Februar 2011 fest, es bestehe bei einem ermittelten Invaliditätsgrad von 39 % kein Anspruch auf eine Invalidenrente.
B.
Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Bern unter Berücksichtigung verschiedener vom Beschwerdeführer lite pendente eingereichten weiteren medizinischen Akten - unter anderem eines interdisziplinären Gutachtens E._, vom 10. Mai 2011 -, mit Entscheid vom 17. März 2014 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten einreichen und beantragen, es sei ihm unter Aufhebung des angefochtenen Entscheides ab 1. Februar 1999 eine Viertelsrente und ab 1. Oktober 2001 eine ganze Invalidenrente auszurichten.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.
D.
Mit Eingaben vom 27. Juni 2014, 22. Oktober 2014 und 5. Februar 2015 lässt A._ weitere Arztberichte einreichen.

Erwägungen:
1.
1.1. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Seinem Urteil legt es den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz, auf Rüge hin oder von Amtes wegen, berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht, und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 in Verbindung mit <ref-law>). Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (<ref-ruling> E. 3.1 S. 44). Es liegt noch keine offensichtliche Unrichtigkeit vor, nur weil eine andere Lösung ebenfalls in Betracht fällt, selbst wenn diese als die plausiblere erschiene (vgl. <ref-ruling> E. 2.1 S. 9; Urteil 9C_836/2014 vom 23. März 2015 E.1.1).
1.2. Diese Grundsätze gelten auch in Bezug auf die konkrete Beweiswürdigung (vgl. Urteil 9C_999/2010 vom 14. Februar 2011 E. 1). Dem kantonalen Versicherungsgericht steht als Sachgericht im Bereich der Beweiswürdigung ein erheblicher Ermessensspielraum zu (vgl. <ref-ruling> E. 4b S. 40). Das Bundesgericht greift auf Beschwerde hin nur ein, wenn das Sachgericht diesen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse zieht, erhebliche Beweise übersieht oder solche willkürlich ausser Acht lässt (zum Begriff der Willkür in der Rechtsanwendung siehe <ref-ruling> E. 2.4 S. 5 mit Hinweisen). Inwiefern das kantonale Gericht sein Ermessen missbraucht haben soll, ist in der Beschwerde klar und detailliert aufzuzeigen (<ref-ruling> E. 1.3 S. 261). Auf ungenügend begründete Rügen oder bloss allgemein gehaltene appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (vgl. <ref-ruling> E. 2.2 S. 246 mit Hinweis).
2.
2.1. Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>; <ref-ruling>). Solche Umstände können namentlich in formellrechtlichen Mängeln des angefochtenen Entscheides liegen, mit denen die Partei nicht rechnete und nach Treu und Glauben nicht zu rechnen brauchte, oder darin, dass die Vorinstanz materiell in einer Weise urteilt, dass bestimmte Sachumstände neu und erstmals rechtserheblich werden. Der vorinstanzliche Verfahrensausgang allein bildet noch keinen hinreichenden Anlass im Sinne von <ref-law> für die Zulässigkeit von unechten Noven, die bereits im kantonalen Verfahren ohne Weiteres hätten vorgebracht werden können. Das Vorbringen von Tatsachen, die sich erst nach dem angefochtenen Entscheid ereigneten oder entstanden (echte Noven), ist vor Bundesgericht unzulässig (Urteil 8C_780/2014 vom 25. März 2015 E. 2 mit Hinweis).
2.2. Der Beschwerdeführer legt letztinstanzlich neu je einen Bericht des Prof. Dr. med. F._ vom Institut für diagnostische und interventionelle Neuroradiologie am Spital G._ vom 25. März 2014, des Dr. med. H._ vom Zentrum für medizinische Radiologie am Institut I._ vom 9. Mai 2014, des Dr. med. J._, Radiologe an der Klinik K._ AG vom 16. Juni 2014 und des Prof. Dr. med. L._, leitender Arzt für Otoneurologie am Spital G._ vom 12. September 2014 auf. Da diese erst nach Erlass des angefochtenen Entscheides vom 17. März 2014 entstanden sind handelt es sich um echte Noven, weshalb sie keine Beachtung finden können.
3.
Streitig ist der Anspruch auf eine Invalidenrente. Die Vorinstanz hat die Bestimmungen und Grundsätze über die Begriffe der Invalidität (<ref-law> in Verbindung mit <ref-law>) und der Erwerbsunfähigkeit (<ref-law>), die Ermittlung des Invaliditätsgrades nach der allgemeinen Methode des Einkommensvergleichs (<ref-law>; <ref-ruling> E. 1 S. 30) und den Anspruch auf eine Invalidenrente (ab 1. Januar 2008 <ref-law>; bis 31. Dezember 2007 <ref-law> in der jeweils geltenden Fassung) zutreffend dargelegt. Dasselbe gilt für den Beweiswert von ärztlichen Berichten (<ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352). Darauf wird verwiesen.
4.
Das kantonale Gericht hat in ausführlicher Würdigung des Gutachtens der Begutachtungsstelle C._ vom 29. April 2010 und unter Berücksichtigung des Gutachtens E._ vom 10. Mai 2011 in für das Bundesgericht verbindlicher Weise (E. 1.2) festgestellt, dass der Beschwerdeführer seit Mai 2002 in der Lage sei, in einer seinen gesundheitlichen Beeinträchtigungen angepassten leichten Tätigkeit eine Leistung von 80 % (Ganztagespensum mit erhöhtem Pausenbedarf) zu erbringen. In seiner angestammten Tätigkeit bestehe keine Arbeitsfähigkeit mehr. Was der Versicherte dagegen vorbringt, vermag nicht durchzudringen.
4.1. Das Gutachten der Begutachtungsstelle C._ entspricht den Anforderungen an ärztliche Berichte im Sinne der Rechtsprechung, zumal es vor Erlass von <ref-ruling> erstattet wurde und somit dessen Anforderungen nicht erfüllen kann. Es ist aber nicht unbeachtlich, sondern behält seinen Beweiswert, da es im Rahmen der Prüfung im Einzelfall vor Bundesrecht standhält (<ref-ruling> E. 6 Ingress S. 266).
4.2. Die Einwendungen des Beschwerdeführers erschöpfen sich weitgehend in einer appellatorischen, im Rahmen der gesetzlichen Überprüfungsbefugnis des Bundesgerichts unzulässigen Kritik an der vorinstanzlichen Beweiswürdigung und den dieser zugrunde liegenden Arztberichten und Gutachten, insbesondere an der Expertise der Begutachtungsstelle C._. Er beschränkt sich bezüglich des materiellen Gehalts der Begründung über weite Teile auf Wiederholungen der Vorbringen im kantonalen Verfahren. Soweit er eine unrichtige Feststellung des medizinischen Sachverhalts durch das kantonale Gericht behauptet und dies mittels Noven zu belegen versucht, wird auf die Ausführungen in Erwägung 2.2 verwiesen. Die Vorinstanz hat sich auch hinsichtlich der bereits im kantonalen Verfahren geltend gemachten gesundheitlichen Beeinträchtigungen im Sinne einer Partialruptur der Ligamenta alaria abschliessend geäussert. Demnach schränkten die entsprechenden Befunde die Arbeitsfähigkeit nicht im geltend gemachten (massiven) Umfang ein. Zu Recht wurde im angefochtenen Entscheid ausgeführt, dass für die Einschätzung der zumutbaren Arbeitsfähigkeit nicht in erster Linie klinische Befunde, sondern vielmehr die daraus resultierenden Einschränkungen beurteilt werden. Diese seien im Gutachten der Begutachtungsstelle C._ vom 29. April 2010 dokumentiert und berücksichtigt. Soweit der Versicherte erneut die medizinische Beurteilung der Arbeitsfähigkeit im erwähnten Gutachten rügt, ist dieser appellatorischen Kritik nichts zu entnehmen, was die vorinstanzliche Begründung als willkürlich erscheinen liesse. Die Vorinstanz hat sich mit sämtlichen bei den Akten liegenden medizinischen Berichten und Gutachten auseinandergesetzt und dargelegt, weshalb sie ihren Entscheid auf das Gutachten vom 29. April 2010 stützt. Insbesondere hat sie sich auch mit dem lite pendente eingereichten Gutachten E._ vom 10. Mai 2011 befasst und dargelegt, weshalb dieses nichts an der Massgeblichkeit des Gutachtens der Begutachtungsstelle C._ zu ändern vermag. Das kantonale Gericht hat somit in willkürfreier und in allen Teilen bundesrechtskonformer Beweiswürdigung auf das Gutachten der Begutachtungsstelle C._ vom 29. April 2010 abgestellt. Demnach ist davon auszugehen, dass der Beschwerdeführer in einer leichten, seinen gesundheitlichen Einschränkungen angepassten Tätigkeit seit Mai 2002 im Rahmen von 80 % arbeits- und leistungsfähig ist.
5.
Weiter rügt der Beschwerdeführer die vorinstanzliche Invaliditätsbemessung, insbesondere die Ermittlung des Valideneinkommens.
5.1. Nicht bestritten ist der Zeitpunkt des frühest möglichen Rentenbeginns. Die diesbezügliche Feststellung des kantonalen Gerichts, unter Berücksichtigung der Anmeldung im Februar 2000 und der (vorerst) attestierten Arbeitsunfähigkeit von 100 % seit dem Unfall vom 2. Juli 2001 sei eine Rentenausrichtung frühestens ab Juli 2002 möglich, wird letztinstanzlich weder gerügt noch werden Ausführungen zu einem möglicherweise früheren Rentenbeginn gemacht, weshalb das Bundesgericht auf die vorinstanzliche Feststellung abstellt.
5.2. Für die Bemessung des Valideneinkommens ist entscheidend, was die versicherte Person im massgebenden Zeitpunkt des Rentenbeginns nach dem Beweisgrad der überwiegenden Wahrscheinlichkeit als Gesunde tatsächlich verdienen würde. Die Ermittlung des Valideneinkommens muss so konkret wie möglich erfolgen. Da die bisherige Tätigkeit erfahrungsgemäss fortgesetzt worden wäre, ist in der Regel vom letzten Lohn auszugehen, der vor Eintritt des Gesundheitsschadens erzielt wurde. Dieses Gehalt ist wenn nötig der Teuerung und der realen Einkommensentwicklung anzupassen (<ref-ruling> E. 3.1 S. 59).
5.2.1. Die IV-Stelle legte ihrer Verfügung vom 11. Februar 2011 für das Jahr 2002 ein Valideneinkommen von F. 74'535.- zu Grunde, welches sie - ausgehend von der bisherigen Tätigkeit für die B._ AG - anhand des durchschnittlichen Einkommens gemäss IK-Auszug 1992 bis 1996 von Fr. 64'623.- ermittelt und der Lohnentwicklung angepasst hatte.
Die Vorinstanz erwog, der Beschwerdeführer habe 1992 bis 1996 gemäss IK-Auszug ein sehr unregelmässiges Einkommen erzielt und ab 1997 nur noch in einem reduzierten Pensum gearbeitet. Die Angaben der Arbeitgeberin vom 9. Juli 2001, wonach das Einkommen des Versicherten für das Jahr 2001 im Gesundheitsfalle Fr. 156'000.- betragen hätte, hielt sie mit Blick auf die Aktenlage für nicht nachvollziehbar. Das kantonale Gericht stellte deshalb auf die Angaben im Arbeitgeberbericht für das Jahr 2000 ab, in welchem ein regelmässiges monatliches Einkommen von Fr. 4'500.- bzw. ein Jahreseinkommen von Fr. 58'500.- ausgewiesen worden war, und erhöhte dieses für das Jahr 2002 entsprechend der Lohnentwicklung auf Fr. 61'258.-.
Der Beschwerdeführer rügt eine willkürliche Ermittlung des Valideneinkommens.
5.2.2. Dass der Beschwerdeführer im Gesundheitsfall die bisherige Tätigkeit bei der B._ AG fortgesetzt hätte, ist unbestritten. Massgebend für die Ermittlung des Valideneinkommens ist daher der bei dieser Firma vor Eintritt des Gesundheitsschadens erzielte und der Reallohnentwicklung sowie der Teuerung angepasste Lohn. Während die IV-Stelle - wie erwähnt - das Valideneinkommen anhand des IK-Auszuges 1992 - 1996 ermittelt hatte, stellte die Vorinstanz diesbezüglich auf den Arbeitgeberbericht vom 9. Juli 2001 ab, bei welchem sie für das Jahr 2001 einen nicht nachvollziehbaren Betrag feststellte und daher auf die Angaben für das Jahr 2000 abstellte. Die verschiedenen Angaben führen zu sehr unterschiedlichen Schlussfolgerungen bezüglich des Valideneinkommens, womit sich die Vorinstanz nicht näher auseinandergesetzt hat. Nicht berücksichtigt wurden zudem die vom Beschwerdeführer zu den Akten gegebenen, für die Steuerbehörden ausgestellten Lohnausweise seit dem Stellenantritt bei der B._ AG, welche wiederum andere Zahlen liefern. Aus dem Arbeitgeberbericht vom 9. Juli 2001 und dem diesem angefügten Begleitbrief gleichen Datums geht sodann hervor, dass der angegebene Lohn einem 60%-Pensum entspricht, weil der Beschwerdeführer wegen eines durch die Militärversicherung entschädigten Unfalls nur noch eingeschränkt tätig sein kann. Dieses Einkommen wurde also bereits mit erheblichen gesundheitlichen Einschränkungen erzielt und kann daher nicht als Valideneinkommen herangezogen werden. Auch darauf ist das kantonale Gericht nicht weiter eingegangen. Insgesamt erweisen sich die verschiedenen Angaben zum vom Beschwerdeführer vor Eintritt des Gesundheitsschadens erzielten Einkommen als nicht schlüssig. Die Vorinstanz ist den aktenkundigen Widersprüchen nicht nachgegangen, sondern hat ohne plausible Begründung auf einzelne Angaben aus dem Arbeitgeberbericht vom 9. Juli 2001 abgestellt, welche indes nach Gesagtem ebenfalls keine schlüssige Grundlage bieten.
5.2.3. Sowohl das Verwaltungsverfahren wie auch der kantonale Sozialversicherungsprozess sind vom Untersuchungsgrundsatz beherrscht (Art. 43 Abs. 1 und Art. 61 lit. c ATSG). Danach haben Verwaltung und Sozialversicherungsgericht den rechtserheblichen Sachverhalt von Amtes wegen festzustellen. Diese Untersuchungspflicht dauert so lange, bis über die für die Beurteilung des streitigen Anspruchs erforderlichen Tatsachen hinreichende Klarheit besteht (SVR 2010 AlV Nr. 2 S. 3, 8C_269/2009 E. 2.2 mit Hinweisen; vgl. auch Urteil 8C_654/2012 vom 21. Februar 2013 E. 6.3 mit Hinweisen).
5.2.4. Fehlt es hinsichtlich der für die Beurteilung des strittigen Rentenanspruchs erforderlichen Tatsachenfeststellung in Bezug auf das massgebende Valideneinkommen (vgl. <ref-ruling> E. 3.3 S. 399), so ist die Sache unter Aufhebung des angefochtenen Entscheids zur ergänzenden Feststellung der für den Rentenanspruch rechtserheblichen Tatsachen bezüglich Valideneinkommen sowie zum anschliessenden Neuentscheid über die vorinstanzliche Beschwerde gegen die Verfügung der IV-Stelle vom 11. Februar 2011 an das kantonale Gericht zurückzuweisen.
5.3. Hinsichtlich des hypothetischen Invalideneinkommens hat das kantonale Gericht auf das Zumutbarkeitsprofil gemäss Gutachten der Begutachtungsstelle C._ abgestellt und für das Jahr 2002 ein Invalideneinkommen von Fr. 38'905.- ermittelt. Dies ist nicht zu beanstanden und wird letztinstanzlich auch nicht bestritten.
6.
Die Rückweisung der Sache an das kantonale Gericht oder an den Versicherungsträger zur erneuten Abklärung (mit noch offenem Ausgang) gilt praxisgemäss (<ref-ruling> E. 6.1 S. 235 mit Hinweisen) für die Frage der Auferlegung der Gerichtskosten wie auch der Parteientschädigung als volles Obsiegen im Sinne von Art. 66 Abs. 1 sowie Art. 68 Abs. 1 und 2 BGG, unabhängig davon, ob sie überhaupt beantragt, oder ob das entsprechende Begehren im Haupt- oder Eventualantrag gestellt wird. Entsprechend dem Ausgang des Verfahrens sind die Gerichtskosten daher der unterliegenden Beschwerdegegnerin aufzuerlegen. Diese hat dem Beschwerdeführer überdies eine Parteientschädigung auszurichten.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen und der Entscheid des Verwaltungsgerichts des Kantons Bern, Sozialversicherungsrechtliche Abteilung, vom 17. März 2014 aufgehoben. Die Sache wird zu neuer Entscheidung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 5. Juni 2015
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Die Gerichtsschreiberin: Schüpfer