Sachverhalt: A. A.a Mit Verfügung vom 13. Januar 2011 verneinte das Amt für Wirtschaft und Arbeit (AWA) des Kantons Aargau den Anspruch des K._ auf Arbeitslosenentschädigung für die Zeit von Februar 2009 bis Oktober 2009 wegen Verletzung der Auskunfts- oder Meldepflicht. Gleichzeitig wies es darauf hin, dass die Arbeitslosenversicherung die für diese Zeit ausgerichteten Leistungen verrechnen oder zurückfordern werde. Des Weitern verfügte es die Einstellung in der Anspruchsberechtigung für die Dauer von 50 Tagen ab 3. November 2009. Die vom Versicherten dagegen erhobene Einsprache wies das AWA mit Einspracheentscheid vom 4. Juli 2011 ab. Dieser Entscheid ist unangefochten in Rechtskraft erwachsen. A.b Mit Verfügung vom 24. Juni 2011 forderte die Arbeitslosenkasse des Kantons Aargau von K._ für die Monate Februar 2009 bis Januar 2010 zu viel ausgerichtete Leistungen in Höhe von Fr. 84'264.80 zurück. Daran hielt sie mit Einspracheentscheid vom 14. Oktober 2011 fest. B. Die gegen den Einspracheentscheid vom 14. Oktober 2011 erhobene Beschwerde wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 24. Januar 2012 ab, soweit es darauf eintrat. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt K._ beantragen, der Rückforderungsanspruch der Arbeitslosenkasse sei zu verneinen; eventuell sei die Sache zur ergänzenden Abklärung des Sachverhalts zurückzuweisen. Überdies wird um Gewährung der unentgeltlichen Rechtspflege ersucht. Es wurden keine Vernehmlassungen eingeholt.