Sachverhalt:
A. R._, geboren 1948, betreibt die A._ AG. Nachdem er sich am 12. November 2001 einer Diskushernienoperation an der Halswirbelsäule (mikrotechnische vordere Diskektomie und interkorporelle Spondylodese C6/7 bei frei perforierter foraminaler Diskushernie C6/7) hatte unterziehen müssen, trat 10 Wochen später eine Schluckstörung auf mit Räuspern, Erbrechen und Würgegefühl. Der Hausarzt Dr. med. L._ attestierte eine 90%ige Arbeitsunfähigkeit ab dem 29. Mai 2002. R._ meldete sich am 4. März 2003 bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle Luzern lehnte einen Rentenanspruch mit Verfügung vom 2. Februar 2004 und Einspracheentscheid vom 20. Oktober 2004 ab. Das Verwaltungsgericht des Kantons Luzern wies die Sache mit Entscheiden vom 20. März 2006 und, nach erneuter Leistungsablehnung durch die IV-Stelle am 10. September 2007, vom 31. Oktober 2008 zu weiteren Abklärungen zurück. Mit Verfügung vom 18. Mai 2010 lehnte die IV-Stelle das Rentengesuch erneut ab.
B. Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 12. Dezember 2011 ab.
C. R._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des angefochtenen Entscheides sei ihm eine Invalidenrente zuzusprechen, eventualiter sei die Sache zu weiteren Abklärungen an die IV-Stelle zurückzuweisen.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.
Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG). Es wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG) und ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (BGE 134 I 65 E. 1.3 S. 67 f., 134 V 250 E. 1.2 S. 252, je mit Hinweisen). Unter Berücksichtigung der Begründungspflicht (Art. 42 Abs. 1 und 2 BGG) prüft es indessen nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind, und ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr aufgegriffen werden (BGE 134 I 313 E. 2 S. 315, 65 E. 1.3 S. 67 f., je mit Hinweisen). Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG; BGE 135 V 194 E. 3 S. 196 ff.). Neue Begehren sind unzulässig (Art. 99 Abs. 2 BGG).
2. Das kantonale Gericht hat die Bestimmungen und Grundsätze zur Invalidität (Art. 8 ATSG in Verbindung mit Art. 4 Abs. 1 IVG), zur Ermittlung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (Art. 16 ATSG) sowie zum Beweiswert von Arztberichten und medizinischen Gutachten (BGE 135 V 465 E. 4.3 S. 468 ff.; 125 V 351 E. 3 S. 352 ff.) zutreffend dargelegt. Darauf wird verwiesen.
3. Die Vorinstanz hat erwogen, dass die Ursache der Ösophagusproblematik und der dadurch entstehenden Beschwerden nicht habe geklärt werden können. Gestützt auf die angeordneten ärztlichen Untersuchungen und die Ergebnisse der arbeitsorientierten Evaluation der funktionellen Leistungsfähigkeit (EFL) hat es verbindlich festgestellt, dass der Beschwerdeführer nur insoweit, dabei aber vollumfänglich in seiner Arbeitsfähigkeit eingeschränkt ist, als diese mit Kundenkontakten verbunden ist, was in der Garage des Versicherten den Autohandel, nicht aber die Tätigkeit als Mechaniker in der Werkstatt betreffe.
4. Was der Beschwerdeführer zunächst bezüglich der Einschätzung seiner Arbeitsfähigkeit vorbringt, vermag an der eingehend und sorgfältig begründeten Beurteilung des kantonalen Gerichts nichts zu ändern. Er macht geltend, die Vorinstanz habe zu Unrecht angenommen, dass seine Einschränkung im Betrieb durch den Räusperzwang und das Erbrechen nicht weiter abgeklärt werden könne.
Die Vorinstanz hatte mit ihren Entscheiden vom 20. März 2006 und vom 31. Oktober 2008 festgestellt, dass die gesundheitliche Problematik und die dadurch bedingte Einschränkung der Arbeitsfähigkeit des selbstständig erwerbenden Versicherten in seiner Tätigkeit als Autohändler und Garagist nicht zuverlässig zu beurteilen sei, und die Sache daher an die IV-Stelle zurückgewiesen. Diese liess den Versicherten, nachdem lediglich ein chirurgisches Gutachten des Dr. med. W._, vom 15. Januar 2004 vorgelegen hatte, in der Folge psychiatrisch untersuchen (Gutachten des Dr. med. T._ vom 30. November 2006), veranlasste die erwähnte EFL in der Klinik X._ (Bericht vom 26. Februar 2009) und klärte die Situation im Betrieb des Beschwerdeführers ab. Des Weiteren wurde ein Bericht des behandelnden Arztes Dr. med. K._, Facharzt Ohren-, Nasen-, Halskrankheiten eingeholt. Nach den vorinstanzlichen Feststellungen besteht gestützt darauf Übereinstimmung darin, dass der Beschwerdeführer voll arbeitsfähig ist, Tätigkeiten mit Kundenkontakt jedoch nicht mehr zumutbar sind. Das kantonale Gericht hat im hier angefochtenen Entscheid mit Blick auf die weiterhin nicht restlos geklärte Ursache des Räusperzwangs und des Erbrechens erwogen, dass gewisse Zweifel an der Vollständigkeit und Richtigkeit der bisher getroffenen Abklärungen angebracht seien und sich nicht aus dem Weg räumen liessen. Trotz dieser unbefriedigenden Situation sei jedoch nicht zu erwarten, dass weitere Untersuchungen entscheidwesentliche neue Erkenntnisse bringen würden.
Unter den geschilderten Umständen ist es mit Blick auf die eingeschränkte Kognition des Bundesgerichts und die vorgebrachten Rügen nicht zu beanstanden, dass das kantonale Gericht die medizinischen Unterlagen und beruflichen Erhebungen hinsichtlich der noch zumutbaren Tätigkeiten als hinreichend erachtet und sich von erneuten Abklärungen kein anderes Ergebnis versprochen hat. Insbesondere ist von der vorinstanzlich aufgrund der medizinischen Unterlagen und der EFL festgestellten Zumutbarkeit auch nicht gestützt auf weitere Erhebungen im Betrieb und somit anhand der subjektiven Angaben des Beschwerdeführers zu seiner Leistungsfähigkeit abzuweichen, zumal eine Mangelhaftigkeit des Abklärungsberichts der IV-Stelle nicht geltend gemacht wird. Die Einreichung neuer Beweismittel ist unzulässig; der Beschwerdeführer könnte indessen im letztinstanzlichen Verfahren aus dem Bericht des Dr. med. M._ vom 26. Januar 2012 ohnehin nichts zu seinen Gunsten ableiten (dazu auch nachfolgend E. 5). Auf die Frage, ob die mit Kundenkontakt verbundenen unzumutbaren Tätigkeiten nur den Autohandel betreffen oder ob allenfalls auch bei den Mechanikertätigkeiten durch den Räusperzwang und das Erbrechen eine vor allem zeitlich bedingte Leistungseinbusse besteht, ist im Folgenden einzugehen.
5. Der Beschwerdeführer macht geltend, dass der Autohandel nicht nur 20 % ausgemacht habe. Mindestens 50 % der anfallenden Tätigkeiten seien mit Kundenkontakten verbunden gewesen. Mit diesen Argumenten hat sich das kantonale Gericht indessen bereits eingehend auseinandergesetzt.
So ist die Vorinstanz zunächst davon ausgegangen, dass der Beschwerdeführer zehn Stunden pro Woche für den Autohandel aufgewendet habe. Sein Einwand, dass er sich bei 60 verkauften Autos pro Jahr mit Gesprächen von jeweils 15 bis 45 Minuten um 1200 Interessenten habe kümmern müssen, lässt die Annahme des kantonalen Gerichts nicht als offensichtlich unrichtig erscheinen, ist damit doch der geltend gemachte durchschnittliche Zeitaufwand angemessen berücksichtigt.
Der Beschwerdeführer wendet weiter ein, er müsse sich zu Mängeln an Fahrzeugen und deren Reparaturwürdigkeit äussern, ohne jedes Mal den entsprechenden Auftrag zu erhalten. Inwiefern der von der IV-Stelle veranschlagte Zeitaufwand für die Werkstattarbeiten von 50 % sowohl vor als auch nach dem Eintritt des Gesundheitsschadens - und somit unter Berücksichtigung, dass die zuvor für den Autohandel aufgewendete Zeit frei geworden ist - zu gering bemessen wäre, wird jedoch nicht weiter dargelegt. Auch wird nicht geltend gemacht, dass die Mechanikertätigkeit gänzlich unzumutbar wäre, weil sie in gewissem Umfang auch Kundenkontakt erfordere. Im Übrigen hat die Vorinstanz in Betracht gezogen, dass der Beschwerdeführer, anders als gemäss Abklärungsbericht der IV-Stelle, auch bei den Werkstattarbeiten durch die gesundheitlichen Beschwerden (zeitlich) beeinträchtigt und der Verkauf von Zubehör sowie der Betrieb der Tankstelle zufolge der erforderlichen Kundenkontakte gänzlich unzumutbar sein könnten. Unter Berücksichtigung einer verbleibenden zeitlichen Belastung von 40 % durch die Arbeit in der Werkstatt (gemäss Vorinstanz) sowie von 20 % Geschäftsleitung und 4 % für Bestellung und Einkauf von Ersatzteilen und Zubehör (gemäss Abklärungsbericht) resultiert ein zumutbares zeitliches Arbeitspensum von 64 %. Damit wurde auch einer zeitlichen Einschränkung durch den Räusperzwang und das Erbrechen bei den verbleibenden zumutbaren Tätigkeiten hinreichend Rechnung getragen. Weder die Berufung auf eine lediglich noch 50%ige Arbeitsfähigkeit (gemäss letztinstanzlich nachgereichter Stellungnahme des Dr. med. M._ vom 26. Januar 2012) noch die weiteren Einwände, wonach auch die Vorführung von Fahrzeugen beim Strassenverkehrsamt und die Entgegennahme von Telefonaten unzumutbar seien und weitergehend hätten berücksichtigt werden müssen (obwohl seit jeher die Ehefrau des Beschwerdeführers ebenfalls in der Garage arbeitet und sich namentlich auch um den administrativen Bereich kümmert), vermögen eine offensichtliche Unrichtigkeit der vorinstanzlichen Feststellungen hinsichtlich der leidensbedingten Behinderung zu begründen. Die Beurteilung von deren erwerblichen Auswirkungen im Rahmen der ausserordentlichen Invaliditätsbemessung wird nicht beanstandet (BGE 104 V 135 E. 2c S. 137 f.; 128 V 29; AHI 1998 S. 251 E. 2b S. 252; Urteil I 279/03 vom 2. Juli 2004 E. 5.2.2 u. 5.2.3). Sie ergab selbst bei Annahme, dass der Beschwerdeführer die Tätigkeit in der Werkstatt nur noch zu 40 % ausüben und aus dem Verkauf von Zubehör sowie aus dem Betrieb der Tankstelle keine Einnahmen mehr erzielen könne, eine deutlich rentenausschliessende Invalidität (Invaliditätsgrad: 32 %).
6. Das Verfahren ist kostenpflichtig (Art. 65 BGG). Die Gerichtskosten werden dem unterliegenden Beschwerdeführer auferlegt (Art. 65 Abs. 4 lit. a in Verbindung mit Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 20. Juni 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Durizzo