Faits:
A. A.X._, ressortissant du Kosovo né en 1963, est divorcé depuis le 20 octobre 2004 de Y._, avec laquelle il a eu quatre enfants.
Le 9 janvier 2004, A.X._ a été interpellé par la gendarmerie car il séjournait illégalement à Genève. Le 8 mars 2004, l'Office fédéral des migrations (ci-après l'Office fédéral) a prononcé contre lui une interdiction d'entrée en Suisse valable jusqu'au 7 mars 2006.
Le 6 décembre 2004, A.X._ a épousé à Genève Z._, citoyenne suisse née en 1952. Le 14 décembre 2004, Z._ a sollicité une autorisation de séjour dans le cadre du regroupement familial pour A.X._. Le 1er juillet 2005, l'Office cantonal de la population du canton de Genève (ci-après l'Office cantonal) a autorisé ce dernier à travailler à Genève jusqu'à droit connu sur sa demande d'autorisation de séjour. Le 23 décembre 2005, l'Office fédéral a annulé la mesure d'éloignement prononcée à l'encontre de A.X._.
Le 1er décembre 2005, l'Office cantonal a reçu un courrier anonyme affirmant que A.X._ avait contracté un mariage de complaisance et qu'il ne vivait pas avec son épouse. Il ressort d'une feuille d'enquête de l'Office cantonal du 10 février 2006 que Z._ était inscrite en tant que prostituée dans le registre de la brigade des m?urs jusqu'au 14 juin 2005, date à laquelle elle avait annoncé une cessation d'activité. Seul son nom figurait sur la boîte aux lettres de l'adresse mentionnée, au ** B._. Le 15 mars 2006, l'Office cantonal a invité A.X._ à indiquer son adresse et à lui faire parvenir une copie de son contrat de bail ou de sous-location. Par courrier du 31 mars 2006, A.X._ a informé l'Office cantonal qu'il vivait chez une connaissance dans l'attente de trouver un logement approprié, le studio au 34, rue de Berne, étant occupé par Z._ et une colocataire de celle-ci. Le 8 juin 2006, les époux X._ ont informé l'Office cantonal qu'ils avaient emménagé ensemble dans une chambre dans une auberge au Petit-Lancy.
Le 2 août 2006, l'Office cantonal a délivré à A.X._ une autorisation de séjour au titre du regroupement familial.
Le 6 mars 2007, après avoir été sollicitée à cet effet par l'Office cantonal, Z._ a informé ce dernier que les époux vivaient depuis le 1er mars 2007 dans un appartement de quatre pièces à la rue C._. Un contrat de bail au nom de A.X._ était joint à ce courrier. Le 19 juin 2007, les époux X._ ont annoncé à l'Office cantonal qu'ils avaient déménagé au ** rue D._, à Meyrin. Selon une feuille d'enquête de l'Office cantonal du 27 septembre 2007, Z._ poursuivait son activité de prostitution et habitait toujours au ** rue B._. Lors du passage de l'enquêteur au domicile officiel des époux, le 10 septembre 2007, il n'y avait rencontré que A.X._.
Le 22 janvier 2008, A.X._ a sollicité le renouvellement de son autorisation de séjour.
Le 18 avril 2008, alors qu'elle était hospitalisée au service de psychiatrie des Hôpitaux universitaires de Genève depuis le 31 octobre 2007, Z._ a déposé auprès du Tribunal de première instance du canton de Genève une requête en mesures protectrices de l'union conjugale concluant à la suspension de la vie commune pour une durée indéterminée. Par jugement du 25 septembre 2008, les époux X._ ont été autorisés à vivre séparés. Le 19 mars 2011, leur divorce a été prononcé.
Au plan professionnel, A.X._ a reçu le 1er juillet 2005 l'autorisation de travailler auprès de E._ Peinture Sàrl. Le 16 novembre 2005, il a demandé l'autorisation de travailler pour F._ SA. Le 3 novembre 2006, l'Office cantonal a validé une demande de changement d'employeur en faveur de G._ SA. Le contrat de A.X._ avec cet employeur a pris fin le 30 avril 2007. Le 25 juin 2008, l'intéressé a informé l'Office cantonal qu'il était employé par H._ SA. Selon un contrat de travail daté du 31 juillet 2008 transmis à l'Office cantonal, A.X._ a été employé par I._ SA dès le 1er août 2008. Le 9 février 2009, un nouvel employeur, J._ SA, a demandé à l'Office cantonal de valider la prise d'emploi de A.X._. Depuis le mois de mars 2010, ce dernier se trouve au chômage.
Enfin, selon une attestation de l'Université populaire albanaise du 26 mai 2009, A.X._ suivait à cette période un cours de français au niveau débutant à raison de deux fois deux heures par semaine.
B. Par courrier du 13 janvier 2009, l'Office cantonal a informé A.X._ de son intention de ne pas renouveler son autorisation de séjour et lui a donné l'occasion de se déterminer, ce que l'intéressé a fait par courrier du 2 mars 2009. Par décision du 6 août 2009, l'Office cantonal a refusé de prolonger l'autorisation de séjour de A.X._ et lui a imparti un délai pour quitter la Suisse.
A.X._ a recouru contre cette décision auprès de la Commission cantonale de recours en matière administrative (ci-après la Commission de recours). Celle-ci a rejeté ce recours par décision du 31 août 2010 après avoir entendu l'intéressé en audience.
Le 15 octobre 2010, A.X._ a recouru contre cette décision auprès du Tribunal administratif, qui est devenu dès le 1er janvier 2011 la Chambre administrative de la Cour de justice de Genève (ci-après la Cour de justice). Le 6 février 2012, A.X._ et une représentante de l'Office cantonal ont été entendus lors d'une audience de comparution personnelle.
Par arrêt du 2 octobre 2012, la Cour de justice a rejeté le recours déposé par A.X._ et confirmé la décision de l'Office cantonal du 6 août 2009.
C. Par acte du 7 novembre 2012, A.X._ dépose un recours en matière de droit public et un recours constitutionnel subsidiaire au Tribunal fédéral. A titre principal il requiert, sous suite de frais et dépens, l'annulation de l'arrêt de la Cour de justice du 2 octobre 2012, de la décision de la Commission de recours du 31 août 2010 et de la décision de l'Office cantonal du 6 août 2009, ainsi que le renouvellement de son autorisation de séjour. Subsidiairement, il sollicite le renvoi du dossier à l'Office cantonal pour nouvelle décision dans le sens des considérants. Il demande également à pouvoir prouver les faits qu'il allègue.
Les autorités cantonales ont été invitées à produire leurs dossiers sans échange d'écritures.
Par ordonnance présidentielle du 12 novembre 2012, l'effet suspensif sollicité a été accordé au recours.

Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-law>; cf. <ref-ruling> consid. 1 p. 472 et les arrêts cités).
1.1 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions dans le domaine du droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Le recourant invoque l'art. 50 al. 1 LEtr selon lequel, après dissolution de la famille, le droit du conjoint à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité subsiste dans certains cas. Dès lors qu'il n'est pas d'emblée exclu que les conditions de cette disposition soient remplies, il convient d'admettre le droit de recourir sous l'angle de l'art. 83 let. c ch. 2 LTF, étant précisé que le point de savoir si le recourant peut effectivement se prévaloir d'un tel droit relève du fond et non de la recevabilité (cf. arrêt 2C_304/2009 du 9 décembre 2009 consid. 1.1, non publié aux <ref-ruling>).
1.2 Le recours en matière de droit public étant recevable, le recours constitutionnel subsidiaire, formé subsidiairement par le recourant, ne l'est pas (cf. <ref-law> a contrario).
1.3 Au surplus, déposé en temps utile (<ref-law>) et dans les formes prescrites par la loi (<ref-law>), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), le présent recours, dirigé contre une décision rendue par une autorité cantonale supérieure de dernière instance (art. 86 al. 1 let. d et al. 2 LTF), est en principe recevable.
1.4 En revanche, dans la mesure où le recourant demande l'annulation des décisions de la Commission de recours du 31 août 2010 et de l'Office cantonal du 6 août 2009, ses conclusions ne sont pas recevables en raison de l'effet dévolutif complet du recours déposé auprès de la Cour de justice (cf. <ref-ruling> consid. 1.3 p. 474).
2. Le recourant demande à être admis à prouver les faits qu'il allègue. Conformément à l'<ref-law>, des mesures probatoires peuvent être ordonnées en vue d'élucider certains faits. Selon la jurisprudence, de telles mesures doivent toutefois conserver un caractère exceptionnel (<ref-ruling> consid. 2 p. 104), dès lors que le Tribunal fédéral statue et conduit en principe son raisonnement juridique sur la base des faits établis par l'autorité précédente (cf. <ref-law>); en effet, il n'appartient pas au Tribunal fédéral comme dernière instance d'instruire pour la première fois les faits pertinents (cf. arrêt 2C_427/2011 du 26 octobre 2011 consid. 2). En l'espèce, les faits de la cause sont suffisamment élucidés pour permettre au Tribunal fédéral de se prononcer et il n'existe aucun élément dont on pourrait conclure à la présence de circonstances exceptionnelles justifiant une mesure d'instruction. Il ne sera donc pas donné suite à la requête relative à la mise en ?uvre d'une procédure probatoire.
3. Saisi d'un recours en matière de droit public, le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (cf. pour cette notion <ref-ruling> consid. 6.1 p. 379 s.; <ref-ruling> consid. 7.1 p. 51) - ou en violation du droit (<ref-law>). La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées; à défaut, il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée. En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. <ref-ruling> consid. 5.1 p. 356).
Le recourant méconnaît à l'évidence ces principes. Il complète librement l'état de fait et critique l'appréciation des preuves effectuée par l'instance précédente. Il reproche en substance à la Cour de justice de ne pas avoir retenu que les époux X._ avaient vécu ensemble depuis leur mariage en décembre 2004 jusqu'au milieu de l'année 2008 lorsque Z._ a été hospitalisée. Ce reproche est infondé dans la mesure où il peut être considéré comme recevable. Les juges cantonaux ont en effet procédé à une analyse fouillée et pertinente des faits ressortant du dossier à leur disposition. Ils ont en particulier relevé que les époux n'ont pas vécu ensemble durant les dix-huit premiers mois qui ont suivi leur mariage, faute d'avoir trouvé un logement approprié, que Z._ avait admis qu'elle n'avait jamais habité le domicile formel commun que les époux s'étaient constitué en juin 2006, que l'enquête effectuée par le Service cantonal n'avait pas permis de confirmer que l'épouse avait réellement vécu avec son mari dans l'appartement loué par la suite par ce dernier à Meyrin, et enfin que Z._ avait été hospitalisée depuis novembre 2007 jusqu'au moment où, le 18 avril 2008, elle avait sollicité du juge civil le droit de se constituer un domicile séparé. Le recourant n'expose pas concrètement en quoi cette appréciation effectuée par le juges cantonaux serait arbitraire ou manifestement inexacte, se contentant d'opposer sa propre appréciation des faits à la description retenue par la Cour de justice. Il procède par ailleurs de même en ce qui concerne son activité professionnelle et sa connaissance du français. Une telle argumentation, caractéristique de l'appel, n'est pas admissible. Partant, l'Autorité de céans se limitera à examiner si le droit fédéral a été correctement appliqué par la Cour de justice sur la base des faits ressortant de l'arrêt entrepris.
4.1 Aux termes de l'art. 50 al. 1 let. a LEtr, après dissolution de la famille, le droit du conjoint à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité en vertu des art. 42 et 43 LEtr subsiste lorsque l'union conjugale a duré au moins trois ans et que l'intégration est réussie. Ces conditions sont cumulatives (cf. <ref-ruling> consid. 3.3.3 p. 119).
4.2 Le délai de trois ans de l'art. 50 al. 1 let. a LEtr se calcule en fonction de la durée pendant laquelle le couple fait ménage commun en Suisse (cf. <ref-ruling> consid. 3.3.5 p. 120). La durée de trois ans vaut de façon absolue, quand bien même la fin de la vie conjugale serait intervenue quelques jours ou semaines seulement avant l'expiration de ce délai (cf. arrêt 2C_735/2010 du 1er février 2011 consid. 4.1 et les arrêts cités). On est en présence d'une communauté conjugale (pertinente) lorsque le mariage est effectivement vécu et que les époux font preuve d'une volonté réciproque de vivre en union conjugale (cf. <ref-ruling> consid. 2 p. 231; <ref-ruling> consid. 3.1.2 p. 347).
En l'espèce, la Cour de justice a retenu de manière à lier le Tribunal fédéral (cf. supra consid. 3), que le mariage du recourant avec Z._ avait duré formellement plus de six ans, mais elle a aussitôt ajouté que, même en admettant l'hypothèse la plus favorable au recourant, à savoir que les époux ont vécu ensemble du 8 juin 2006, date de leur installation dans une chambre dans une auberge au Petit-Lancy, jusqu'au 25 septembre 2008, date où ils ont été autorisés à se constituer un domicile séparé, sans jamais qu'ils reprennent la vie commune, la communauté conjugale n'avait pas duré plus de deux ans et trois mois. Cette période est inférieure aux trois ans exigés par l'art. 50 al. 1 let. a LEtr. Partant, le recourant ne peut déduire de cette disposition un droit au renouvellement de son autorisation de séjour.
4.3 Par surabondance, il convient de relever que la condition de l'intégration réussie en Suisse n'est également pas remplie en ce qui concerne le recourant.
Le principe d'intégration doit permettre aux étrangers dont le séjour est légal et durable de participer à la vie économique, sociale et culturelle de la Suisse (art. 4 al. 2 LEtr). En vertu de l'art. 77 al. 4 de l'ordonnance fédérale du 24 octobre 2007 relative à l'admission, au séjour et à l'exercice d'une activité lucrative (OASA; RS 142.201), un étranger s'est bien intégré, au sens de l'art. 50 al. 1 let. a LEtr, notamment lorsqu'il respecte l'ordre juridique suisse et les valeurs de la Constitution fédérale (let. a) et qu'il manifeste sa volonté de participer à la vie économique et d'apprendre la langue nationale parlée au lieu de domicile (let. b). Selon l'art. 4 de l'ordonnance fédérale du 24 octobre 2007 sur l'intégration des étrangers (OIE; RS 142.205), la contribution des étrangers à l'intégration se manifeste notamment par le respect de l'ordre juridique et des valeurs de la Constitution fédérale (let. a), l'apprentissage de la langue nationale parlée sur le lieu de domicile (let. b), la connaissance du mode de vie suisse (let. c) et la volonté de participer à la vie économique et d'acquérir une formation (let. d). L'adverbe "notamment", qui est employé tant à l'art. 77 al. 4 OASA qu'à l'<ref-law>, illustre le caractère non exhaustif des critères d'intégration qui sont énumérés par ces dispositions; il signale aussi que la notion d'"intégration réussie" doit s'examiner à l'aune d'une appréciation globale des circonstances (cf. arrêt 2C_930/2012 du 10 janvier 2013 consid. 3.1 et les arrêts cités). Lors de l'examen de ces critères d'intégration, les autorités compétentes disposent d'un large pouvoir d'appréciation (cf. art. 54 al. 2 et 96 al. 1 LEtr et <ref-law>) que le Tribunal fédéral ne revoit qu'avec retenue (cf. arrêt 2C_430/2011 du 11 octobre 2011 consid. 4.2).
En l'espèce, l'instance précédente a retenu de manière à lier la Cour de céans (cf. supra consid. 3) que le recourant est au chômage depuis mars 2010, qu'il n'a pas réussi, depuis qu'il réside en Suisse, à trouver un emploi stable dans une entreprise, et qu'il ne maîtrise qu'imparfaitement le français. Dans ces conditions, force est de constater que c'est à juste titre que la Cour de justice a retenu que le recourant ne remplit pas les conditions relatives à l'intégration réussie telle que requise par l'art. 50 al. 1 let. a LEtr.
4.4 Le recourant n'invoque par ailleurs aucune autre disposition qui lui donnerait un droit au renouvellement de son autorisation de séjour. Il ne se prévaut en particulier pas de l'art. 50 al. 1 let. b LEtr et ne fait pas valoir des raisons personnelles majeures qui imposeraient la poursuite de son séjour en Suisse. C'est par conséquent à juste titre que la Cour de justice a confirmé le refus de renouveler ladite autorisation.
5. Au vu de ce qui précède, le recours en matière de droit public doit être rejeté dans la mesure où il est recevable et le recours constitutionnel subsidiaire déclaré irrecevable.
Succombant, le recourant supporte les frais judiciaires (<ref-law>) et n'a pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. Les frais judiciaires, arrêtés à CHF 2'000.-, sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, à l'Office cantonal de la population et à la Cour de justice de la République et canton de Genève, Chambre administrative, 2ème section, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 28 janvier 2013
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Beti