Sachverhalt: A. Der 1976 geborene, zuletzt bis 31. Oktober 2010 bei der T._ AG tätig gewesene A._ beanspruchte ab 1. November 2010 Arbeitslosenentschädigung. Auf Vermittlung des Regionalen Arbeitsvermittlungszentrums hin absolvierte er am 22. Dezember 2010 im Restaurant X._ welches eine offene Stelle zu besetzen hatte, einen Probetag. Ein Arbeitsverhältnis kam nicht zustande. Mit Verfügung vom 4. Juli 2011 stellte die Dienststelle Wirtschaft und Arbeit (wira) des Kantons Luzern A._ wegen Nichtannahme einer zumutbaren Arbeit für 31 Tage in der Anspruchsberechtigung ein. Daran hielt die Dienststelle mit Einspracheentscheid vom 12. Oktober 2011 fest. B. Die von A._ hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 23. Januar 2012 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, es sei der angefochtene Entscheid aufzuheben, auf die Einstellung in der Anspruchsberechtigung zu verzichten und die Verwaltung zu verpflichten, die volle Versicherungsleistung zu erbringen; eventuell sei die Sache in Aufhebung des vorinstanzlichen Entscheides zu ergänzender Abklärung und neuer Beurteilung an das kantonale Gericht zurückzuweisen. Zudem wird um Gewährung der unentgeltlichen Rechtspflege für das bundesgerichtliche Verfahren ersucht. Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.