Sachverhalt:
A. A.a Mit Verfügung vom 13. Januar 2011 verneinte das Amt für Wirtschaft und Arbeit (AWA) des Kantons Aargau den Anspruch des K._ auf Arbeitslosenentschädigung für die Zeit von Februar 2009 bis Oktober 2009 wegen Verletzung der Auskunfts- oder Meldepflicht. Gleichzeitig wies es darauf hin, dass die Arbeitslosenversicherung die für diese Zeit ausgerichteten Leistungen verrechnen oder zurückfordern werde. Des Weitern verfügte es die Einstellung in der Anspruchsberechtigung für die Dauer von 50 Tagen ab 3. November 2009. Die vom Versicherten dagegen erhobene Einsprache wies das AWA mit Einspracheentscheid vom 4. Juli 2011 ab. Dieser Entscheid ist unangefochten in Rechtskraft erwachsen.
A.b Mit Verfügung vom 24. Juni 2011 forderte die Arbeitslosenkasse des Kantons Aargau von K._ für die Monate Februar 2009 bis Januar 2010 zu viel ausgerichtete Leistungen in Höhe von Fr. 84'264.80 zurück. Daran hielt sie mit Einspracheentscheid vom 14. Oktober 2011 fest.
B. Die gegen den Einspracheentscheid vom 14. Oktober 2011 erhobene Beschwerde wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 24. Januar 2012 ab, soweit es darauf eintrat.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt K._ beantragen, der Rückforderungsanspruch der Arbeitslosenkasse sei zu verneinen; eventuell sei die Sache zur ergänzenden Abklärung des Sachverhalts zurückzuweisen. Überdies wird um Gewährung der unentgeltlichen Rechtspflege ersucht.
Es wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG).
2. Unrechtmässig bezogene Leistungen der Arbeitslosenkasse sind zurückzuerstatten (<ref-law> in Verbindung mit Art. 25 Abs. 1 und 2 ATSG).
Die Rückerstattung zu Unrecht bezogener Leistungen setzt voraus, dass die Bedingungen für eine Wiedererwägung oder eine prozessuale Revision des die fraglichen Leistungen zusprechenden Entscheids erfüllt sind. Unerheblich ist, ob die zur Rückforderung Anlass gebenden Leistungen förmlich oder formlos verfügt worden sind (<ref-ruling> E. 5.2 in fine S. 320; <ref-ruling> E. 1.1).
3. 3.1 Nach den Feststellungen des kantonalen Gerichts hat das AWA mit vom Versicherten nicht angefochtenem Einspracheentscheid vom 4. Juli 2011 rechtskräftig entschieden, dass der Beschwerdeführer seine Auskunfts- und Meldepflicht verletzt hat, in den Monaten Februar bis Oktober 2009 daher keinen Anspruch auf Taggelder hatte und ab dem 3. November 2009 für die Dauer von 50 Tagen in der Anspruchsberechtigung einzustellen ist. Dieser Entscheid ist nach den zutreffenden Erwägungen der Vorinstanz mit der streitigen Verfügung vom 24. Juni 2011 nicht in Wiedererwägung gezogen worden; vielmehr hat die Arbeitslosenkasse damit den ihr vom AWA in der Verfügung vom 13. Januar 2011 auferlegten Anweisungen entsprochen. Soweit die Einwendungen des Beschwerdeführers die Unrechtmässigkeit des Leistungsbezuges betrafen, trat das kantonale Gericht
daher auf die Beschwerde nicht ein. Bezüglich der Frage der Rückerstattung der von Februar 2009 bis Januar 2010 zu Unrecht bezogenen Arbeitslosenentschädigung hat das kantonale Gericht in allen Teilen zutreffend dargelegt, weshalb die - in masslicher Hinsicht nicht beanstandete - Rückforderung des Betrages von Fr. 84'264.80 sich als rechtens erweist.
3.2 Die Vorbringen des Beschwerdeführers sind nicht geeignet, die vorinstanzlichen Sachverhaltsfeststellungen als mangelhaft im Sinne von <ref-law> oder den angefochtenen Entscheid als bundesrechtswidrig (Art. 95 f. BGG) erscheinen zu lassen. Soweit seine Einwände das Verfahren betreffen, welches zur Verfügung vom 13. Januar 2011 geführt hat, kann der Beschwerdeführer nicht gehört werden, da dieses mit dem Einspracheentscheid vom 4. Juli 2011 rechtskräftig abgeschlossen wurde. Mit diesem Entscheid wurde ein Rechtstitel für die Rückforderung der Leistungen geschaffen, der nach wie vor Bestand hat. Weil die Vorbringen im Zusammenhang mit dem nicht aktenkundigen Schreiben vom 24. Dezember 2010 das abgeschlossene Verfahren betreffen, kann von der geltend gemachten Rückweisung der Sache abgesehen werden.
4. Da die Beschwerde offensichtlich unbegründet ist, wird sie im Verfahren nach <ref-law> erledigt. Das Gesuch um unentgeltliche Rechtspflege im bundesgerichtlichen Verfahren ist wegen Aussichtslosigkeit abzuweisen (<ref-law>). Dem Beschwerdeführer sind demnach die Gerichtskosten aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau, dem Staatssekretariat für Wirtschaft (SECO) und dem Amt für Wirtschaft und Arbeit (AWA) des Kantons Aargau schriftlich mitgeteilt.
Luzern, 10. April 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Leuzinger
Die Gerichtsschreiberin: Hofer