Faits: A. A.a X._ a été engagée dès le 1er avril 1999 en qualité d'employée de maison nourrie et logée au service de A._ et Y._. Son lieu de travail se situait à B._ dans le canton de Vaud. Son salaire mensuel net était initialement de 2'000 fr., puis de 2'500 fr. dès le 1er juillet 1999. A compter du mois de février 2000, C._, fille de X._, a également travaillé comme employée de maison pour le couple précité. Elle habitait avec sa mère. Le contrat de travail de X._ a été résilié pour le 16 septembre 2004. A.b En septembre 2005, soit une année plus tard, X._ a été réengagée par la seule Y._ en qualité d'employée de maison. Son lieu de travail se situait à Genève, initialement à l'avenue E._ puis, dès le 24 juin 2006, à la rue F._. Nourrie et logée, X._ était rétribuée 2'600 fr. net par mois, puis 3'000 fr. dès le 1er octobre 2008. Par courrier du 17 février 2009, X._ a été licenciée pour le 31 mars 2009. Elle a été libérée de son obligation de travailler le 20 février 2009, date à laquelle elle a dû quitter son logement de fonction. Le 21 février 2009, Y._ lui a versé 6'000 fr. à titre de salaire pour les mois de février et mars 2009. Par courrier du 11 mars 2009, X._, représentée par un syndicat, a contesté son licenciement. B. B.a Le 1er septembre 2009, X._ a ouvert action contre Y._ devant le Tribunal de prud'hommes du canton de Genève. Dans ses dernières conclusions du 4 mars 2010, elle a requis le paiement de 51'946 fr. 60 pour la période du 1er avril 1999 au 31 octobre 2004 et de 170'571 fr. 50 pour la période du 16 septembre 2005 au 31 mars 2009, le tout à titre de salaire, compensation pour le salaire en nature dû pendant les délais de congé, heures supplémentaires et indemnité pour vacances non prises. Elle a encore conclu au paiement des charges légales et sociales usuelles pour toute la durée de son engagement, à l'allocation d'une indemnité de 25'740 fr. pour licenciement immédiat injustifié ou congé abusif, ainsi qu'à la délivrance d'un certificat de travail. Par jugement du 13 septembre 2010, le Tribunal de prud'hommes a déclaré la demande irrecevable en tant qu'elle portait sur les charges sociales légales. Il s'est déclaré compétent pour connaître des prétentions liées à l'activité déployée dans le canton de Vaud et a reconnu, pour cette période, la légitimation passive de Y._ en qualité de débitrice solidaire. Sur le fond, le tribunal a condamné Y._ à délivrer un certificat de travail à X._ et à lui verser la somme totale de 1'879 fr. 55 net plus intérêts à titre d'indemnité pour le salaire en nature dû pendant le délai de congé, soit du 21 février au 31 mars 2009 (1'272 fr. 85), respectivement à titre de salaire en espèce pour la période du 24 au 30 juin 2006 (606 fr. 70). Pour le surplus, le tribunal a débouté les parties de toute autre conclusion. B.b X._ a fait appel de cette décision devant la Chambre des prud'hommes de la Cour de justice. Elle a conclu au paiement de 70'560 fr. 85 plus intérêts. Outre les 1'879 fr. 55 alloués en première instance, ce montant incluait la rémunération des heures supplémentaires effectuées les dimanches entre le 24 juin 2006 et le 19 février 2009, une compensation pour le salaire en nature dû pendant 24 jours de vacances prises en 1999, des indemnités pour vacances non prises pendant les périodes de travail vaudoise et genevoise, ainsi qu'une somme de 23'940 fr. pour licenciement immédiat injustifié ou tort moral. Y._ a conclu à la confirmation du jugement, sous réserve de la formulation correcte du certificat de travail. Par arrêt du 26 mai 2011, la Cour de justice, appliquant l'ancienne loi genevoise du 25 février 1999 sur la juridiction des prud'hommes (aLJP/GE) en vertu de l'art. 405 al. 1 CPC (RS 272), a condamné Y._ au paiement de 4'845 fr. 25 plus intérêts. Ce montant total comprenait les 1'879 fr. 55 alloués par le Tribunal de prud'hommes, ainsi que 2'965 fr. 70 à titre d'indemnité pour la cinquième semaine de vacances annuelles non prise pendant la période de travail genevoise. La cour cantonale a rejeté toute autre conclusion. C. X._ (ci-après: la recourante) a interjeté un recours en matière civile auprès du Tribunal fédéral. Elle a conclu au paiement de 57'000 fr. plus intérêts. Elle a en outre sollicité l'assistance judiciaire et la désignation de Me Jean-Pierre Garbade en qualité d'avocat d'office, ce qui a été accordé par ordonnance du 8 septembre 2011. Y._ (ci-après: l'intimée) a conclu au rejet du recours. L'autorité précédente s'est référée à son arrêt.