Faits: A. A.a X._, ressortissant portugais né le *** 1955, a été victime d'un accident professionnel le 6 mars 2002. Il a subi une incapacité de travail variable depuis le jour de l'accident et totale depuis le 11 juillet 2003 (cf. arrêt 9C_478/2010 du 25 mars 2011). X._ s'est annoncé à l'Office cantonal genevois de l'assurance-invalidité (ci-après l'Office AI) en octobre 2003. Il a perçu des prestations de l'assistance publique du 1er décembre 2004 au 28 février 2005, puis du 1er septembre 2005 au 31 octobre 2006. Par décision du 24 mars 2006, l'Office AI a refusé l'octroi d'une mesure de reclassement dans une nouvelle profession et a, par décision du 27 mars 2006, rejeté la demande de X._ de rente d'invalidité. X._ s'est inscrit au chômage le 21 mars 2006. Il a bénéficié de mesures de placement dans le cadre de mesures cantonales depuis 2007 et jusqu'au 22 septembre 2008. Il est à l'assistance publique depuis le 1er mars 2009. Une nouvelle requête de prestations de l'assurance-invalidité a été formulée par X._ le 9 février 2009, qui est actuellement pendante auprès de la Chambre des assurances sociales de la Cour de justice du canton de Genève (cf. arrêt du Tribunal fédéral 9C_478/2010 du 25 mars 2011). A.b X._ a travaillé illégalement en Suisse depuis le mois de décembre 2000. Il a été mis au bénéfice d'un permis saisonnier de septembre 2001 à décembre 2002, puis a obtenu une autorisation de séjour de courte durée (permis L), avec activité lucrative, du 1er mars 2003 au 25 février 2004. Par courrier du 24 février 2004, X._ a sollicité de l'Office cantonal de la population (ci-après: l'Office cantonal) le renouvellement de son permis de séjour en indiquant être incapable de travailler pour cause de longue maladie, à la suite de l'accident de travail dont il a été victime le 6 mars 2002. Le 22 juin 2004, l'Office cantonal lui a délivré une autorisation de courte durée (permis L) pour traitement médical, jusqu'au 23 février 2005. Cette autorisation a été renouvelée le 9 août 2005, jusqu'au 22 février 2006. Le 12 septembre 2006, l'Office cantonal a délivré à X._ une autorisation de séjour (permis B) pour traitement médical valable jusqu'au 7 mai 2007, puis le 13 décembre 2007, une autorisation de séjour de courte durée (permis L) avec prise d'emploi, en raison de son placement dans le cadre de mesures cantonales. Cette autorisation a été prolongée le 14 mai 2008 jusqu'au 22 septembre 2008, date de la cessation de son activité lucrative, puis renouvelée aux fins de recherche d'emploi le 15 décembre 2008 jusqu'au 8 décembre 2009. Par décision du 1er février 2010, l'Office cantonal a refusé de prolonger l'autorisation de séjour de X._, au motif qu'il ne remplissait pas les conditions pour séjourner en Suisse, car ses moyens financiers étaient insuffisants et qu'il émargeait à l'aide sociale depuis le 1er mars 2009. B. Par acte du 23 février 2010, X._ a formé recours contre la décision du 1er février 2010 auprès de la commission cantonale de recours en matière administrative, devenue le 1er janvier 2011 le Tribunal administratif de première instance. Ce recours a été rejeté par décision du 11 octobre 2011. X._ a recouru contre la décision précitée auprès de la chambre administrative de la Cour de justice du canton de Genève (ci-après: la Cour cantonale) par acte du 4 novembre 2011. Celle-ci a rejeté ce recours par arrêt du 30 juillet 2012, au motif que X._ ne pouvait déduire ni de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ci-après: ALCP; RS 0.142.112.681), ni d'aucune autre disposition, de droit à une autorisation de séjour en Suisse, faute de se trouver dans un cas de libre circulation. C. Par acte du 14 septembre 2012, X._ forme, par l'intermédiaire du Syndicat des travailleurs et travailleuses (SIT), un recours en matière de droit public au Tribunal fédéral. Il conclut, sous suite de frais et dépens, à l'annulation de la décision du 30 juillet 2012 et à l'octroi d'un droit de séjour sur sol helvétique, invoquant la violation de l'ALCP. II sollicite en outre l'octroi de l'effet suspensif à son recours. Invités à se prononcer, la Cour cantonale et l'Office cantonal de la population ont fait savoir qu'ils n'avaient pas d'observations à formuler. L'Office fédéral des migrations s'est prononcé hors délai. Par ordonnance présidentielle du 20 septembre 2012, l'effet suspensif a été accordé au recours. Par courrier du 5 octobre 2012, X._ a demandé à être mis au bénéfice de l'assistance judiciaire.