Faits:
A. A.a X._, né en 1962, est immatriculé à l'Université de Genève depuis le semestre d'été 1994. Dans sa séance du 22 octobre 2003, le collège des professeurs de la Faculté des sciences économiques et sociales (ci-après la Faculté) a accepté le sujet de la thèse de X._, à savoir "La démocratie locale et régionale dans le système politique de l'Union européenne: approche comparative d'une forme nouvelle de la légitimation démocratique", ce qui l'autorisait à s'inscrire en qualité de candidat au doctorat. Le jury était composé de A._, directeur de thèse, B._, codirecteur, et C._. Le délai d'obtention du titre brigué a été fixé au terme du semestre d'été 2008.
Le 7 janvier 2008, le directeur de thèse a informé le doyen de l'acceptation du mémoire préliminaire de X._ par le jury, à la suite de quoi le collège des professeurs a autorisé celui-ci à rédiger sa thèse, dont le titre était désormais "L'espace public subnational peut-il être un moyen pour consolider la légitimation démocratique dans l'Union européenne? Le cas de la France".
Par courriel du 5 novembre 2008, X._ a informé la Faculté qu'il avait été très malade à partir du 26 juillet 2008, ce qui l'avait empêché de travailler sa thèse pendant près de trois mois. Sur indication de la Faculté, X._ a formellement sollicité une prolongation exceptionnelle d'une année pour la conclusion de son doctorat. Le 23 mars 2009, le rectorat de l'Université a accordé la dérogation sollicitée et octroyé deux semestres supplémentaires au doctorant, le manuscrit devant être remis au plus tard début octobre 2009 et la soutenance de la thèse intervenir au plus tard à la fin du semestre d'automne 2009-2010.
Le 3 décembre 2009, le directeur de thèse a informé le doyen de ce que la thèse de X._ allait être déposée sous peu et lui a transmis une proposition relative à la constitution du jury de soutenance et au titre définitif de la thèse, à savoir "Le rôle des espaces publics subnationaux dans le processus de légitimation démocratique: le cas des conseils de quartier dans la ville de Lyon". Le collège des professeurs a accepté la composition du jury proposée ainsi que le changement de titre.
La Faculté ayant accordé à X._ un délai supplémentaire de trois mois, la soutenance de la thèse s'est tenue le 12 mai 2010. Le jury a décidé de lui accorder le titre de docteur mention science politique de la Faculté, ainsi que l'imprimatur de sa thèse.
A.b A la suite de soupçons de plagiat, le manuscrit de X._ a été soumis à une vérification des sources durant les mois d'août et de septembre 2010. Le rapport daté du 17 septembre 2010 constate l'existence de nombreux cas de plagiat. Invité à se déterminer, X._ a reconnu qu'il avait "sans doute fait preuve de négligence en omettant de mettre entre guillemets certaines phrases reprises d'autres auteurs", négligence qui était due à la pression du temps.
Par courrier du 22 décembre 2010, le doyen a informé X._ que le collège des professeurs avait décidé, lors de sa séance du 10 décembre 2010, de prononcer son échec définitif au doctorat, ce qui amenait le doyen à décider son élimination de la Faculté.
X._ s'est opposé à cette sanction. Par décision du 13 mai 2011, le doyen a rejeté cette opposition.
B. X._ a saisi la Chambre administrative de la Cour de justice du canton de Genève (ci-après la Cour de justice) d'un recours contre la décision sur oppostion du doyen. Il demandait son annulation et à ce qu'il soit ordonné à la Faculté de lui octroyer un délai raisonnable pour corriger son manuscrit. Il faisait valoir que le réel motif de son échec était le manque d'encadrement qui l'avait poussé à "bâcler son travail de recherche".
La Cour de justice a rendu son arrêt le 31 janvier 2012. Elle a rejeté le recours en retenant, en substance, qu'aux termes du règlement applicable, toute fraude, plagiat, tentative de fraude ou de plagiat, reconnue comme tel par le collège des professeurs de la Faculté, entraînait l'échec au doctorat et l'élimination de la Faculté, peu importe que le plagiat soit intentionnel ou non. Le plagiat étant avéré, la sanction était indiscutable et l'existence alléguée de circonstances exceptionnelles ne devait, par conséquent, pas être examinée.
C. Par acte du 14 mars 2012, X._ dépose un recours constitutionnel subsidiaire contre l'arrêt de la Cour de justice du 31 janvier 2012. Il sollicite le bénéfice de l'assistance judiciaire et conclut à l'annulation de l'arrêt précité et à ce qu'il soit ordonné aux autorités intimées de lui octroyer un délai raisonnable d'une année au moins pour corriger son manuscrit, le tout sous suite de frais et dépens. Subsidiairement, il demande le renvoi de la cause à la Cour de justice pour nouvelle décision.
Par courrier du 27 avril 2012, la Faculté conclut, principalement, au rejet du recours et à la confirmation de l'arrêt attaqué, le tout sous suite de dépens.
La Cour de justice s'en remet à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt.

Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (cf. <ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (cf. <ref-ruling> consid. 1 p. 103).
1.1 Aux termes de l'art. 83 let. t LTF, le recours en matière de droit public est irrecevable contre les décisions sur le résultat d'examens ou d'autres évaluations des capacités, notamment en matière de scolarité obligatoire, de formation ultérieure ou d'exercice d'une profession. Selon la jurisprudence, les décisions d'exmatriculation d'une université ou d'une haute école ou celles d'élimination d'une faculté ou d'un programme d'études peuvent tomber sous le coup de l'art. 83 let. t LTF. Encore faut-il, pour que la voie du recours en matière de droit public soit fermée, que la décision d'exmatriculation ou d'élimination soit en lien avec une évaluation des capacités de l'étudiant évincé (cf. arrêt 2C_579/2010 du 17 novembre 2010 consid. 1.1 et les références citées).
En l'espèce, le recours porte sur l'échec, pour cause de plagiat, du recourant au doctorat ès sciences économiques et sociales de la Faculté des sciences économiques et sociales de l'Université de Genève, ce qui entraînait au surplus son élimination de la Faculté. Au regard de l'arrêt attaqué, il faut admettre que, dans la mesure où l'élimination pour plagiat suppose d'examiner le travail fourni au fond, celle-ci relève de l'art. 83 let. t LTF, de sorte que la voie du recours en matière de droit public n'est pas ouverte (cf. arrêts 2D_18/2009 du 22 juin 2009 consid. 1.1 et 2D_62/2008 du 21 août 2008). C'est donc à juste titre que le recourant a choisi la voie du recours constitutionnel subsidiaire (cf. <ref-law> a contrario).
1.2 D'après l'<ref-law>, le Tribunal fédéral connaît des recours constitutionnels contre les décisions des autorités cantonales de dernière instance qui ne peuvent, comme en l'espèce, faire l'objet d'aucun recours selon les art. 72 à 89 LTF. Le recours constitutionnel subsidiaire ne peut cependant être formé que pour violation des droits constitutionnels (<ref-law>). En vertu de l'<ref-law> applicable par renvoi de l'<ref-law>, les griefs y relatifs doivent être invoqués et motivés de façon détaillée, sous peine d'irrecevabilité (<ref-ruling> consid. 1.4.2 p. 254).
1.3 Interjeté par une partie qui a succombé dans ses conclusions et qui a un intérêt juridique à l'annulation ou la modification de la décision attaquée (<ref-law>), le recours, déposé dans le délai (art. 117 et 100 al. 1 LTF) et dans la forme (<ref-law>) prévus par la loi, est en principe recevable, puisqu'il est dirigé contre un jugement final (art. 117 et 90 LTF) rendu par un tribunal supérieur statuant en dernière instance cantonale (art. 114 et 86 al. 1 let. d et al. 2 LTF). Il convient donc d'entrer en matière.
2. Le recourant se plaint d'une violation du droit d'être entendu protégé par l'art. 29 al. 2 Cst. Il fait valoir que la Cour de justice n'a pas examiné la question du manque d'encadrement dont il a souffert, circonstance qui ne lui est pas imputable et qui l'a placé dans un état de nécessité excusable.
2.1 Le droit d'être entendu est une garantie constitutionnelle de nature formelle ancrée à l'art. 29 al. 2 Cst., dont la violation entraîne l'annulation de la décision attaquée sans égard aux chances de succès du recours sur le fond (cf. <ref-ruling> consid. 2.6.1 p. 285), de sorte qu'il convient de commencer par son examen.
Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. exige que l'autorité examine les allégués de l'intéressé et en tienne compte dans sa décision. Il en découle l'obligation, pour l'autorité, de motiver sa décision. Elle n'est cependant pas tenue de discuter de manière détaillée tous les arguments soulevés par les parties ni de statuer séparément sur chacun des allégués qui lui sont présentés. Elle peut se limiter à l'examen des questions décisives pour l'issue du litige (cf. <ref-ruling> consid. 5.2 p. 236).
2.2 En l'espèce, la Cour de justice a retenu que la jurisprudence et le texte légal pertinent imposaient en cas de plagiat avéré le prononcé de l'échec au doctorat sans autoriser l'examen de circonstances exceptionnelles. Ce faisant, l'instance précédente a estimé qu'il était inutile d'entrer en matière sur les circonstances alléguées par le recourant et qu'elle pouvait se limiter à constater l'existence d'un plagiat pour prononcer la sanction. Le point de savoir si c'est à juste titre que l'instance précédente a considéré que la disposition légale applicable imposait le prononcé de la sanction, de sorte que les circonstances alléguées par le recourant ne devaient pas être examinées, se confond avec l'arbitraire et devra être analysé ci-après. Le grief de violation du droit d'être entendu, de nature formelle, doit en revanche être rejeté.
3. Le recourant se prévaut également d'une violation du principe de l'égalité de traitement protégé par l'art. 8 Cst. Il reproche ainsi à l'instance précédente de l'avoir traité de la même manière que les étudiants qui font valoir des circonstances qui leur sont propres, alors qu'en ce qui le concerne, le manque d'encadrement était imputable à la Faculté, ce que la Cour de justice devait prendre en compte dans sa décision.
3.1 Une décision viole le principe de l'égalité consacré à l'art. 8 al. 1 Cst. lorsqu'elle établit des distinctions juridiques qui ne se justifient par aucun motif raisonnable au regard de la situation de fait à réglementer ou qu'elle omet de faire des distinctions qui s'imposent au vu des circonstances, c'est-à-dire lorsque ce qui est semblable n'est pas traité de manière identique et ce qui est dissemblable ne l'est pas de manière différente. Il faut que le traitement différent ou semblable injustifié se rapporte à une situation de fait importante (arrêt 2C_322/2011 du 6 juillet 2011 consid. 5.1; cf. <ref-ruling> consid. 6.1 p. 304).
3.2 En l'espèce, la Cour de justice a retenu qu'il ne saurait être question d'examiner l'existence alléguée de circonstances exceptionnelles en présence d'un cas de plagiat, ajoutant qu'il apparaissait pour le moins douteux qu'un étudiant, pour pallier ses problèmes, n'ait aucune autre possibilité que celle de tricher. A l'appui de sa décision, la Cour de justice s'est référée à trois arrêts rendus par la même instance ainsi que l'instance cantonale précédemment compétente en matière de sanctions universitaires. Dans l'affaire ATA/499/2009 du 6 octobre 2009, il avait été retenu que l'intéressé faisait valoir qu'il souffrait d'une sinusite chronique affectant profondément ses capacités intellectuelles ainsi que sa concentration, que trop peu de temps lui avait été accordé par son professeur pour rendre une nouvelle version de son travail et qu'il avait dû travailler pendant ses études pour subvenir à ses besoins. La Cour de justice avait rejeté ces arguments au motif que les effets perturbateurs allégués, à supposer qu'ils existent, n'étaient en aucun cas susceptibles de justifier le plagiat. Quant à l'affaire ACOM/60/2008 du 7 mai 2008, elle concernait un étudiant qui invoquait des soucis personnels, dont il a été retenu qu'ils n'étaient pas susceptibles de justifier un plagiat. L'affaire ACOM/22/2005 du 21 avril 2005 enfin, traitait d'une étudiante qui se prévalait d'un état dépressif. Là encore, il a été relevé qu'il était douteux qu'une attestation d'un état dépressif, si elle avait été produite, aurait justifié les plagiats commis.
Au vu de ce qui précède, on ne peut que constater que les instances cantonales compétentes ont traité toutes ces affaires de manière identique en considérant qu'aucune des circonstances invoquées ne permettait de justifier un plagiat. Il n'apparaît pas que la circonstance du manque d'encadrement alléguée par le recourant soit différente au point de ne pas traiter sa situation comme celles d'autres étudiants ayant commis un plagiat. Le grief de violation de l'égalité de traitement doit par conséquent être rejeté.
4. Le recourant estime être victime d'une décision contraire à l'art. 9 Cst., le principe de la bonne foi commandant aux autorités universitaires de reconnaître leur part de responsabilité liée à une absence d'encadrement et de lui permettre de corriger les irrégularités commises.
4.1 Découlant directement de l'art. 9 Cst. et valant pour l'ensemble de l'activité étatique, le principe de la bonne foi protège le citoyen dans la confiance légitime qu'il met dans les assurances reçues des autorités, lorsqu'il a réglé sa conduite d'après des décisions, des déclarations ou un comportement déterminé de l'administration (<ref-ruling> consid. 6.1 p. 636). En outre, le principe de la bonne foi commande aux autorités comme aux particuliers de s'abstenir, dans les relations de droit public, de tout comportement contradictoire ou abusif (arrêt 2C_730/2008 du 11 décembre 2008 consid. 5.2 et les références citées).
4.2 En l'espèce, le recourant estime avoir été victime d'un manque de suivi de ses travaux par les instances compétentes de la Faculté, manque de suivi qui l'aurait placé dans un état de nécessité tel qu'il n'aurait eu d'autre choix que de recourir au plagiat. Il ne saurait être suivi dans ce raisonnement. En effet, le plagiat est une faute grave, contraire à l'éthique et à l'intégrité de la recherche académique. Aucune circonstance, qu'elle soit imputable à l'étudiant ou à des tiers, ne saurait ainsi justifier le recours au plagiat. Dans ces conditions, on ne voit pas que, même si l'on pouvait reprocher à la Faculté un mauvais suivi du recourant, ce qui n'est pas établi, celle-ci aurait dû renoncer à sanctionner le plagiat dont celui-ci s'est rendu coupable. Le grief de violation du principe de la bonne foi doit ainsi être rejeté. Quant à la question de savoir dans quelle mesure la Cour de justice devait prendre en compte le manque d'encadrement imputable à la Faculté lors de la fixation de la sanction, elle ne relève pas de la possibilité de sanctionner le plagiat mais de la mesure de la sanction et, par conséquent, de la proportionnalité de cette dernière, qui sera examinée ci-après.
5. Le recourant soutient enfin qu'en prononçant son élimination de la Faculté sans tenir compte des circonstances exceptionnelles qu'il a fait valoir, en particulier du manque d'encadrement dont il a été victime, les juges cantonaux ont rendu une décision disproportionnée et partant arbitraire.
5.1 Exprimé de manière générale à l'art. 5 al. 2 Cst., le respect de la proportionnalité dans l'activité administrative exige que la mesure prise par l'autorité soit raisonnable et nécessaire pour atteindre le but d'intérêt public ou privé poursuivi (cf. <ref-ruling> consid. 3.2 p. 91 s.). Bien qu'étant de rang constitutionnel, le principe de la proportionnalité n'est pas un droit fondamental ayant une portée propre (cf. <ref-ruling> consid. 3.1 p. 251). Il est certes possible d'invoquer le principe de la proportionnalité directement et indépendamment d'un droit fondamental par la voie du recours en matière de droit public formé pour violation du droit fédéral en général (<ref-law>; cf. <ref-ruling> consid. 4.2 p. 157). En revanche, ce principe ne peut pas être invoqué en relation avec la violation du droit public cantonal ni par la voie du recours constitutionnel subsidiaire (<ref-law>). A défaut d'acte entraînant une atteinte à un droit fondamental spécifique, le Tribunal fédéral n'intervient, en matière de recours constitutionnel subsidiaire que si la décision attaquée est manifestement disproportionnée et qu'elle viole simultanément l'interdiction de l'arbitraire (cf. arrêt 2D_10/2011 du 15 juin 2011 consid. 3.2).
Une décision est arbitraire lorsqu'elle viole gravement une norme ou un principe juridique clair et indiscuté, ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice et de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs ou en violation d'un droit certain. Il ne suffit pas que la motivation de la décision critiquée soit insoutenable; encore faut-il que celle-ci se révèle arbitraire dans son résultat. En outre, il n'y a pas arbitraire du seul fait qu'une autre solution que celle adoptée par l'autorité intimée serait concevable, voire préférable (<ref-ruling> consid. 3.1 p. 153 et les arrêts cités).
5.2 En l'espèce, l'échec et l'élimination du recourant ont été prononcés en application des dispositions du Règlement d'études du doctorat ès sciences économiques et sociales (ci-après le Règlement de la faculté) dans la version entrée en vigueur le 20 septembre 2010, plus particulièrement son art. 14 al. 1 qui a la teneur suivante:
Art. 14 Fraude et plagiat
1 Toute fraude, plagiat, tentative de fraude ou de plagiat, reconnue comme tel par le Collège des professeurs de la Faculté, entraîne l'échec au doctorat et l'élimination de la Faculté.
Cette disposition concrétise l'art. 6 de la loi genevoise sur l'Université du 13 juin 2008 (LU; RS/GE C 1 30), entrée en vigueur le 17 mars 2009, qui prévoit que l'Université se donne des règles d'éthique et de déontologie conformes à sa mission et les moyens de veiller à leur respect. L'étudiant qui enfreint les règles et usages de l'Université est passible des sanctions (disciplinaires) suivantes, prononcées par un conseil de discipline, compte tenu notamment de la gravité de l'infraction: a) l'avertissement, b) la suspension, c) l'exclusion (art. 44 LU).
Contrairement à ce que semble soutenir la Cour de justice, le fait que l'art. 14 du Règlement de la faculté prône l'élimination dès qu'il y a plagiat, ne dispense pas l'autorité, qui doit tenir compte de manière générale du principe de la proportionnalité, de prendre en compte d'éventuelles circonstances particulières. Du reste, c'est bien ce que prévoit de manière générale l'art. 15 al. 3 du Règlement de la faculté qui laisse au doyen une certaine marge de manoeuvre en disposant qu'il se détermine sur d'éventuelles dérogations à l'élimination, pour de justes motifs, sur la base d'un préavis du comité scientifique ou du jury de thèse.
Par ailleurs, la nouvelle Directive de l'Université de Genève en matière de plagiat des étudiant-e-s du 12 septembre 2011 prévoit dans ses dispositions introductives que le plagiat et la tentative de plagiat constituent des infractions graves à l'éthique de l'Université et à l'intégrité de la recherche. Cette Directive souligne que les sanctions sont déterminées en respectant le principe de proportionnalité (art. 5 let. a) et en tenant compte des éléments suivants: le type de travail et le cursus concerné, l'éventuelle récidive, l'intentionnalité, les dimensions qualitative et quantitative du plagiat (art. 5 let. c). Elle n'est certes pas applicable à la présente affaire puisqu'elle est entrée en vigueur après que la décision ait été rendue en première instance (cf. arrêt 2C_736/2010 du 23 février 2012 consid. 5.2). Elle concrétise toutefois l'application du principe de proportionnalité des sanctions en matière de plagiat, qui devait déjà être respecté avant son entrée en vigueur.
De leur côté, les Directives et recommandations de l'Université de Genève en matière de plagiat des étudiants du 15 octobre 2008 (abrogées avec effet au 19 septembre 2011), applicables à la présente affaire, recommandaient aux facultés de généraliser les dispositions réglementaires relatives à la fraude et au plagiat dans tous les règlements d'études en adoptant en particulier les dispositions suivantes:
Article X Fraude et plagiat
1. Toute fraude, plagiat, tentative de fraude ou de plagiat est enregistré comme tel dans le relevé des notes et correspond à un échec à l'évaluation concernée.
2. En outre, le Collège des professeurs de la faculté peut annuler tous les examens subis par l'étudiant lors de la session; l'annulation de la session entraîne l'échec du candidat à cette session.
3. Le Collège des professeurs de la faculté peut également considérer l'échec à l'évaluation concernée comme définitif.
Ces dispositions exprimaient de la sorte également la nécessité de respecter le principe de proportionnalité lors du choix des sanctions, les dispositions étant dans leur majorité de nature potestative (Kann-Vorschrift) et non impérative.
La Cour de justice se devait donc, pour respecter le principe de proportionnalité, d'examiner les circonstances invoquées par le recourant. En ne procédant pas à un examen différencié et en se limitant à appliquer servilement le texte de l'art. 14 al. 1 du Règlement de la faculté, le plagiat en lui-même n'étant pas contesté, l'instance cantonale a par conséquent violé le principe de proportionnalité.
5.3 Encore faut-il que la décision querellée apparaisse arbitraire dans son résultat. Tel n'est pas le cas en l'espèce. En effet, le plagiat commis est important puisque, selon les éléments retenus par la Cour de justice, non contestés sur ce point, le recourant s'est rendu coupable à maints égards de plagiat, négligeant à plusieurs reprises de distinguer ses propres commentaires ou paraphrases des textes même des ouvrages plagiés. En outre, il est grave dès lors qu'il concerne un travail de doctorat, soit un travail de recherche scientifique d'une importance certaine dans le milieu académique, pour lequel le plagiat doit être jugé avec sévérité. Le manque d'encadrement dont se prévaut le recourant ne saurait excuser le fait qu'il ait recouru au plagiat pour achever son travail. Outre qu'il n'est pas avéré, force est de reconnaître qu'il appartenait au recourant de s'en plaindre bien plus tôt, à savoir dès qu'il s'en est rendu compte, et qu'il ne pouvait attendre d'avoir rendu son texte, près de sept années après le début de son travail, pour s'en prévaloir. Cette conclusion s'impose d'autant plus que le recourant a démontré, dans son parcours universitaire, connaître les processus de gestion des études, puisqu'il a informé l'autorité de ses ennuis de santé et obtenu de la sorte une prolongation de deux semestres pour achever son travail. Dans ces conditions, on ne peut pas qualifier d'arbitraire l'arrêt attaqué qui revient à confirmer l'élimination du recourant de la Faculté.
6. Il résulte de ce qui précède que le recours constitutionnel subsidiaire est mal fondé. Il doit donc être rejeté.
Dans la mesure où les conclusions du recourant paraissaient d'emblée dénuées de chances de succès, le bénéfice de l'assistance judiciaire doit lui être refusé (<ref-law>). Succombant, il supporte les frais judiciaires (<ref-law>), qui seront toutefois fixés en tenant compte de sa situation financière. Il ne sera pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à CHF 1'000.-, sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, à la Faculté des Sciences Économiques et sociales de l'Université de Genève, à l'Université de Genève et à la Cour de justice de la République et canton de Genève, Chambre administrative, 2ème section.
Lausanne, le 18 juillet 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Beti