Sachverhalt: A. Der 1986 geborene B._ war seit 25. August 2008 als Mitarbeiter im Stundenlohn bei der X._ GmbH angestellt. Diese kündigte mit Schreiben vom 28. Januar 2009 das Arbeitsverhältnis auf den 28. Februar 2009. Am 18. Februar 2009 verlangte B._ mit eingeschriebener Sendung die ausstehenden Löhne für die Monate Dezember 2008 und Januar 2009. Bereits kurz nach Auflösung des Arbeitsverhältnisses leitete er am 17. März 2009 für den ausstehenden Lohn von Fr. 15'899.25 (zuzüglich Zins von 5 % seit dem 1. Februar 2009) Betreibung ein. Es wurde kein Rechtsvorschlag erhoben. B._ beantragte am 26. Mai 2009 Insolvenzentschädigung für nicht bezahlten Lohn inklusive Ferienentschädigung, Anteil 13. Monatslohn und Spesen für die Monate Dezember 2008 bis Februar 2009 im Gesamtbetrag von Fr. 17'856.15. Am 17. September 2009 wurde über die X._ GmbH der Konkurs eröffnet. Die Arbeitslosenkasse des Kantons Zürich verneinte mit Verfügung vom 3. Dezember 2009 einen Anspruch auf Insolvenzentschädigung, da der Gesuchsteller seine Schadenminderungspflicht gegenüber der Arbeitslosenversicherung verletzt habe, indem er nach der Bescheinigung vom 24. April 2009, dass gegen seine Betreibung kein Rechtsvorschlag erhoben worden sei, bis zur Konkurseröffnung am 17. September 2009 gegen seine Arbeitgeberin nichts weiteres unternommen habe. Mit Einspracheentscheid vom 21. Mai 2010 hielt die Arbeitslosenkasse an ihrem Standpunkt fest. B. Das Sozialversicherungsgericht des Kantons Zürich wies die dagegen erhobene Beschwerde mit Entscheid vom 27. Dezember 2011 ab. C. B._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, in Aufhebung des vorinstanzlichen Entscheides sei ihm eine Insolvenzentschädigung in der Höhe von Fr. 15'899.25 auszurichten. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Die Arbeitslosenkasse des Kantons Zürich schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Staatssekretariat für Wirtschaft verzichtet auf eine Stellungnahme.