Sachverhalt: A. Mit Verfügung vom 20. Oktober 2011 sistierte die IV-Stelle Luzern die A._ (geboren 1963) seit 1. Juni 2002 ausgerichtete ganze Invalidenrente mit sofortiger Wirkung. Aufgrund der bekannt gewordenen Aktivitäten des Versicherten in einem Schachklub werde geprüft, ob die Leistungsausrichtung zu Recht erfolgt. B. A._ liess beim Verwaltungsgericht des Kantons Luzern hiegegen Beschwerde führen u.a. mit dem Rechtsbegehren um Aufhebung der Verfügung. In ihrer Vernehmlassung führte die IV-Stelle aus, dass an der Verfügung vom 20. Oktober 2011 nicht festgehalten werden könne, weshalb sie diese lite pendente aufhebe. Demgemäss beantragte sie, das Verfahren als gegenstandslos abzuschreiben. Mit Verfügung vom 19. Dezember 2011 erklärte das Verwaltungsgericht das Beschwerdeverfahren als erledigt (Dispositiv-Ziffer 1) und verpflichtete die IV-Stelle zur Entrichtung einer Parteientschädigung von Fr. 1'500.- an den Versicherten (einschliesslich Auslagen und Mehrwertsteuer; Dispositiv-Ziffer 3). C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, unter Aufhebung von Dispositiv-Ziffer 3 der vorinstanzlichen Verfügung sei ihm eine Parteientschädigung von mindestens Fr. 3'500.- zu bezahlen; eventuell sei die Sache zu neuer Entscheidung über die Parteientschädigung an das Verwaltungsgericht zurückzuweisen. Ferner ersucht er um die Bewilligung der unentgeltlichen Prozessführung und Verbeiständung. Während sich das kantonale Gericht in ablehnendem Sinne äussert und die IV-Stelle auf Abweisung der Beschwerde schliesst, soweit darauf einzutreten sei, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. Am 26. März 2012 lässt der Versicherte eine weitere Eingabe einreichen.