Sachverhalt:
A. Wegen der Folgen eines am 2. September 2003 erlittenen Auffahrunfalls mit Schleudertrauma der Halswirbelsäule (HWS) meldete sich der 1950 geborene M._ am 18. Januar 2006 bei der Invalidenversicherung zum Leistungsbezug an. Gestützt auf die getroffenen Abklärungen lehnte die IV-Stelle Luzern das Rentengesuch mit Verfügung vom 18. Februar 2008 ab. Die vom Versicherten hiegegen eingereichte Beschwerde hiess das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 16. Juli 2009 in dem Sinne gut, dass es die Verwaltungsverfügung aufhob und die Sache an die IV-Stelle zurückwies, damit sie nach erfolgten Abklärungen im Sinne der Erwägungen über den Leistungsanspruch neu verfüge. In der Folge holte die IV-Stelle verschiedene Arztberichte ein. Mit Verfügung vom 28. Februar 2011 lehnte sie das Leistungsgesuch wiederum ab.
B. M._ liess hiegegen Beschwerde einreichen mit den Anträgen auf Aufhebung der Verfügung und Abklärung des Sachverhalts im Sinne der gerichtlichen Erwägungen durch die Verwaltung und Erlass einer neuen Verfügung, eventuell auf Anordnung eines Gerichtsgutachtens mit anschliessender gerichtlicher Entscheidung. Im Laufe des Verfahrens reichte M._ mehrere Arztberichte ein. Mit Entscheid vom 27. Oktober 2011 wies das Verwaltungsgericht des Kantons Luzern die Beschwerde ab (Dispositiv-Ziffer 1). Die Gerichtskosten von Fr. 800.- auferlegte es den Parteien je zur Hälfte (Dispositiv-Ziffer 2), während es die IV-Stelle verpflichtete, dem Versicherten eine reduzierte Parteientschädigung von Fr. 500.- sowie die Kosten der privat eingeholten Berichte zu erstatten (Dispositiv-Ziffer 3).
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die IV-Stelle, ihre Kostenpflicht sei unter Aufhebung von Dispositiv-Ziffern 2 und 3 des vorinstanzlichen Entscheides zu verneinen.
Während M._ auf Abweisung der Beschwerde schliessen lässt, unterstützt das Bundesamt für Sozialversicherungen (BSV) das Rechtsbegehren der IV-Stelle.
Erwägungen:
1. Streitig und zu prüfen ist einzig, ob die Vorinstanz der obsiegenden IV-Stelle zu Recht die Hälfte der Gerichtskosten auferlegt hat und diese zudem verpflichten durfte, dem unterliegenden Versicherten eine reduzierte Parteientschädigung zu bezahlen.
1. Streitig und zu prüfen ist einzig, ob die Vorinstanz der obsiegenden IV-Stelle zu Recht die Hälfte der Gerichtskosten auferlegt hat und diese zudem verpflichten durfte, dem unterliegenden Versicherten eine reduzierte Parteientschädigung zu bezahlen.
1.1 1.1.1 Bezüglich der Auferlegung der Gerichtskosten warf das Verwaltungsgericht der IV-Stelle einen Begründungsmangel vor. Das Urteil des Bundesgerichts, laut welchem die zu somatoformen Schmerzstörungen entwickelten Kriterien gemäss BGE 130 V 352 auch in Fällen mit HWS-Verletzungen ohne organisch nachweisbare Funktionsausfälle anwendbar sind (BGE 136 V 281 f.), sei bereits am 30. August 2010 ergangen und somit zur Zeit des Verfügungserlasses bekannt gewesen. Die unterbliebene Bezugnahme auf dieses Urteil sei als Begründungsmangel zu werten, der eine hälftige Kostenauflage an die IV-Stelle rechtfertigt.
1.1.2 Hinsichtlich der Verpflichtung zur Bezahlung einer reduzierten Parteientschädigung führte die Vorinstanz aus, die vom Versicherten beigebrachten Berichte des Dr. med. B._ (vom 11. Dezember 2010) und der Klinik X._ (vom 3. Juni 2011) hätten relevante Erkenntnisse gebracht. Es komme ihnen wesentliche Bedeutung für den Verfahrensausgang zu. Diese Kosten seien dem Versicherten unter dem Titel Parteientschädigung zu vergüten.
1.2 In der Beschwerde wendet die IV-Stelle ein, sie habe in Nachachtung des Entscheides des Verwaltungsgerichts vom 16. Juli 2009 versucht, sämtlichen Anweisungen nachzukommen; indessen hätten die weiteren Abklärungen keine neuen Erkenntnisse gebracht. Mit dem am 30. August 2010 gefällten BGE 136 V 279 zur analogen Anwendung der Rechtsprechung zu den somatoformen Schmerzstörungen auf unfallkausale HWS-Beschwerden ohne organisch nachweisbare Funktionsausfälle seien die bisherigen Abklärungen untermauert worden. In der Folge hätten sich weitere Abklärungen erübrigt. Die eingereichten Berichte des Dr. med. B._ (vom 11. Dezember 2010) und der Klinik X._ (vom 3. Juni 2011) seien nicht notwendig oder für die Entscheidfindung unerlässlich gewesen, um im Ergebnis den Leistungsanspruch des Versicherten zu verneinen. Eine Bezugnahme auf BGE 136 V 279 habe sich erübrigt; ein Begründungsmangel sei nicht ersichtlich.
1.3 Der Beschwerdegegner weist insbesondere auf die lange Dauer des Verwaltungsverfahrens nach dem Rückweisungsentscheid des Verwaltungsgerichts hin. Die IV-Stelle habe sich geweigert, Abklärungsmassnahmen zu treffen. Andernfalls wäre der Fall innert Jahresfrist seit Erlass des Rückweisungsentscheides erledigt gewesen, bevor BGE 136 V 279 ergangen war.
1.4 Das BSV schliesslich führt ergänzend aus, eine Kostenauferlegung unter dem Titel Begründungsmangel würde sich allenfalls rechtfertigen, wenn dieser Mangel Anlass zur Beschwerde gebildet und das Gerichtsverfahren dadurch mitverursacht hätte. Dies sei vorliegend nicht der Fall gewesen. Der Beschwerdegegner habe lediglich mangelhafte Abklärungen des medizinischen Sachverhalts gerügt. Auf das zitierte Bundesgerichtsurteil habe er sich jedoch nicht berufen.
2. 2.1 Abweichend von Art. 61 lit. a ATSG ist das Beschwerdeverfahren bei Streitigkeiten um die Bewilligung oder Verweigerung von IV-Leistungen vor dem kantonalen Versicherungsgericht kostenpflichtig. Die Kosten werden nach dem Verfahrensaufwand und unabhängig vom Streitwert im Rahmen von Fr. 200.- bis Fr. 1'000.- festgelegt (Art. 69 Abs. 1bis IVG in der seit 1. Juli 2006 in Kraft stehenden Fassung). Das Bundesrecht enthält keine Regelung für die Aufteilung der Verfahrenskosten in IV-rechtlichen Verfahren vor dem kantonalen Gericht. Hier ist kantonales Verfahrensrecht anwendbar (Urteil 8C_568/2010 vom 3. Dezember 2010), welches lediglich hinsichtlich der Verletzung von Grundrechten, einschliesslich willkürlicher Anwendung, überprüft werden kann, wenn eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
2.2 In der Beschwerde der IV-Stelle findet sich in Bezug auf die hälftige Auferlegung der Gerichtskosten des kantonalen Verfahrens keine zulässige Rüge, mit der eine Verletzung von Grundrechten, einschliesslich einer willkürlichen Rechtsanwendung, geltend gemacht und hinreichend begründet worden wäre. In diesem Punkt ist daher auf die Beschwerde nicht einzutreten.
2.2 In der Beschwerde der IV-Stelle findet sich in Bezug auf die hälftige Auferlegung der Gerichtskosten des kantonalen Verfahrens keine zulässige Rüge, mit der eine Verletzung von Grundrechten, einschliesslich einer willkürlichen Rechtsanwendung, geltend gemacht und hinreichend begründet worden wäre. In diesem Punkt ist daher auf die Beschwerde nicht einzutreten.
2.3 2.3.1 Laut Art. 61 lit. g ATSG hat die obsiegende Beschwerde führende Person Anspruch auf Ersatz der Parteikosten. Diese werden vom Versicherungsgericht festgesetzt und ohne Rücksicht auf den Streitwert nach der Bedeutung der Streitsache und nach der Schwierigkeit des Prozesses bemessen. Trotz Unterliegens der versicherten Person in der Sache kann dieser eine Parteientschädigung zugesprochen werden, soweit die Verwaltung die Kosten verursacht hat, dies entsprechend dem allgemeinen Rechtsgrundsatz, wonach jene Partei für die Kosten des Verfahrens aufzukommen hat, welche sie verursacht hat. Dies kann bei einer Verletzung der Begründungspflicht zutreffen. Das Bundesgericht sah diese Voraussetzung in einem Fall als erfüllt an, in welchem der Beschwerdeführer gezwungen war, Beschwerde zu erheben, um zu einer (nachträglichen) rechtsgenüglichen Begründung der Verfügung zu gelangen (SVR 2010 IV Nr. 51 S. 157, 9C_363/2009).
2.3.2
2.3.2.1 Im vorliegenden Fall sind die Voraussetzungen für eine teilweise Auferlegung der Parteikosten an die materiell obsiegende IV-Stelle nicht erfüllt. Auch wenn diese in ihrer Verfügung nicht auf BGE 136 V 279 Bezug genommen hat, ist darin kein Begründungsmangel zu erblicken, der für die Verwaltung Entschädigungsfolgen zeitigen würde. Wie das BSV zutreffend bemerkt, würde sich eine Kostenauferlegung unter dem Titel eines Begründungsmangels allenfalls rechtfertigen, wenn dieser Mangel Anlass zur Beschwerdeführung gebildet und die IV-Stelle damit das Beschwerdeverfahren mitverursacht hätte. Dies trifft hier nicht zu. Im Übrigen ist die Verfügung vom 28. Februar 2011 umfassend begründet, indem die IV-Stelle zu den vom Versicherten erhobenen Einwänden und den gestellten Anträgen unter Würdigung der Arztberichte einlässlich Stellung genommen hat, sodass eine sachgerechte Anfechtung des Verwaltungsaktes beim kantonalen Gericht ohne weiteres möglich war.
2.3.2.2 Es ist auch kein anderer Anlass gegeben, die IV-Stelle zur Entrichtung einer reduzierten Parteientschädigung (von Fr. 500.-) an den Versicherten zu verpflichten. Zutreffend ist, dass unter dem Titel Parteientschädigung auch die Kosten privat eingeholter Gutachten zu vergüten sind, soweit es für die Entscheidfindung unerlässlich war (BGE 115 V 62 E. 5c S. 63). Dies gilt unter Umständen auch dann, wenn die versicherte Person in der Sache unterliegt (RKUV 2005 Nr. U 547 S. 221, 2004 Nr. U 503 S. 186). Die vom Versicherten im vorinstanzlichen Verfahren eingereichten Berichte des Dr. med. B._ vom 11. Dezember 2010 und der Klinik X._ vom 3. Juni 2011 waren weder notwendig noch für die Entscheidfindung - die Abweisung der Beschwerde - unerlässlich. Was namentlich den Bericht des Dr. med. B._ anbelangt, hat das Verwaltungsgericht selbst in Erwägung 3b des angefochtenen Entscheides darauf hingewiesen, dass die Ausführungen dieses Arztes den im Lichte des Rückweisungsentscheides vorhandenen Abklärungsbedarf nicht zu decken vermögen.
3. Dem Verfahrensausgang entsprechend sind die Gerichtskosten den Parteien je zur Hälfte aufzuerlegen (Art. 66 Abs. 1 Satz 1 BGG). Die IV-Stelle hat dem Beschwerdegegner für das letztinstanzliche Verfahren zudem eine reduzierte Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1. In teilweiser Gutheissung der Beschwerde wird Dispositiv-Ziffer 3 des Entscheides des Verwaltungsgerichts des Kantons Luzern vom 27. Oktober 2011 aufgehoben. Im Übrigen wird auf die Beschwerde nicht eingetreten.
2. Von den Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin und dem Beschwerdegegner je Fr. 250.- auferlegt.
3. Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 500.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 28. März 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Widmer