Faits:
A. A._, ressortissant brésilien né en 1990, a été incarcéré depuis le 28 mars 2009 à la prison de Champ-Dollon, d'abord à titre préventif puis en exécution de sa condamnation à une peine privative de liberté de trois ans prononcée pour brigandages aggravés.
Par requête administrative du 23 août 2010 adressée à la Direction générale de l'Office pénitentiaire, A._ a conclu à la constatation du caractère indigne de sa détention et demandé une indemnité de CHF 150.- par jour de détention subi dans ces conditions. Ayant été avisé que sa demande d'indemnisation relevait du Tribunal de première instance de Genève, A._ a sollicité en date du 24 novembre 2010 le bénéfice de l'assistance juridique afin de saisir cette instance.
Par décision du 21 décembre 2010, confirmée par arrêt de la Chambre administrative de la Cour de justice du 13 septembre 2011, la Direction générale de l'Office pénitentiaire s'est déclarée incompétente pour statuer sur la prétention en indemnisation déposée par A._ et a transmis la demande au Tribunal de première instance, qui s'est saisi du litige le 23 décembre 2010.
Le 4 janvier 2011, l'assistance juridique a été accordée à A._ pour la procédure de première instance. Le 30 mars 2011, celui-ci a déposé un complément à sa demande d'indemnisation et réclamé le versement de CHF 96'450.- en raison de la détention subie du 28 mars 2009 au 31 décembre 2010.
Par jugement du 29 septembre 2011, le Tribunal de première instance a débouté A._ de toutes ses conclusions. Le 4 octobre 2011, A._ a requis l'extension du bénéfice de l'assistance juridique à la procédure de recours contre ce jugement. Par décision du 13 octobre 2011, le Vice-président du Tribunal civil a rejeté cette requête au motif que l'appel envisagé n'avait guère, voire aucune chance de succès.
B. Par acte du 31 octobre 2011, A._ a recouru contre la décision précitée du 13 octobre 2011.
Par décision du 8 décembre 2011, le Vice-président de la Cour de justice de Genève a rejeté le recours de A._. Il a considéré, en substance, que le droit à la réplique du recourant n'avait pas été violé puisque les pièces citées à l'appui de la décision lui étaient connues, que le défaut d'allégation et de motivation reproché au recourant en ce qui concernait les conditions de sa détention était patent, de sorte que l'on ne pouvait voir dans la sanction de ce vice une violation de l'interdiction du formalisme excessif, et que le droit à une enquête officielle effective et approfondie impliquait une motivation des griefs, laquelle faisait défaut en l'espèce. Le Vice-président de la Cour de justice en a conclu que l'appel du recourant sur ces points paraissait dénué de chances de succès, ce qui conduisait au rejet du recours.
C. Par acte du 30 janvier 2012, A._ dépose un recours en matière civile au Tribunal fédéral. Il requiert à titre préalable le bénéfice de l'assistance judiciaire pour la procédure fédérale. A titre principal, il conclut à l'annulation de la décision du 8 décembre 2011 et à ce que l'assistance juridique lui soit accordée pour la procédure d'appel à l'encontre du jugement du Tribunal de première instance du 29 septembre 2011. Subsidiairement, il requiert le renvoi de la cause à l'instance précédente pour nouvelle décision.
La Vice-présidence de la Cour de justice persiste dans les termes de la décision querellée. Le canton de Genève ne s'est pas déterminé.

Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (cf. art. 29 al. 1 LTF). Il contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 103).
1.1 Le refus d'accorder l'assistance judiciaire constitue une décision incidente susceptible de causer un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF (cf. <ref-ruling> consid. 4 p. 338 s.; <ref-ruling> consid. 1.1 p. 131). Il peut donc faire l'objet d'un recours immédiat au Tribunal fédéral.
1.2 La voie de droit ouverte à l'encontre d'une décision incidente dépend de la cause au fond (cf. <ref-ruling> consid. 1.2 p. 269; <ref-ruling> consid. 1.4 p. 264). En l'occurrence, la décision sur l'assistance judiciaire a été rendue en relation avec une demande d'indemnisation formée par le recourant, qui a été transmise au Tribunal de première instance de Genève en décembre 2010 en sa qualité d'autorité compétente en application de l'art. 7 al. 1 de la loi genevoise sur la responsabilité de l'État et des communes du 24 février 1989 (LREC/GE; RS-GE A 2 40). Le domaine de la responsabilité étatique, sous réserve de la responsabilité de l'État pour les activités médicales soumise au recours en matière civile (cf. art. 72 al. 2 LTF; art. 31 al. 1 let. d du Règlement du Tribunal fédéral du 20 novembre 2006 [RTF; RS 173.110.131]; <ref-ruling> consid. 1.1), peut faire l'objet d'un recours en matière de droit public au Tribunal fédéral à condition que la valeur litigieuse ne soit pas inférieure à CHF 30'000.- (cf. art. 85 al. 1 let. a LTF). Tel est le cas en l'espèce, le recourant réclamant le versement de CHF 96'450.- en raison de la détention subie du 28 mars 2009 au 31 décembre 2010.
La voie ouverte est par conséquent celle du recours en matière de droit public. Le fait que, sur le plan cantonal, la compétence relève des autorités judiciaires civiles (cf. art. 7 LREC/GE), n'est à cet égard pas pertinent (cf. arrêt 2C_860/2008 du 20 novembre 2009 consid. 1.1 et les arrêts cités). S'agissant de l'application de la législation cantonale sur la responsabilité de l'État, les cantons sont en effet libres de déterminer les autorités judiciaires compétentes et la nature de la procédure applicable. Si de nombreux cantons - dont Genève - soumettent ces litiges à la juridiction et à la procédure civiles (cf. art. 7 LREC; arrêt 2C_111/2011 du 7 juillet 2011 consid. 1.2; Message 01.023 du 28 février 2001 concernant la révision totale de l'organisation judiciaire fédérale, in FF 2001 4000 ss, spéc. p. 4123), une autre conception soumettant ces litiges aux autorités et à la procédure administrative n'est pas exclue (cf. arrêt 2C_563/2012 du 22 juin 2012 consid. 2.2). C'est du reste la solution figurant dans la loi fédérale du 14 mars 1958 sur la responsabilité de la Confédération, des membres de ses autorités et de ses fonctionnaires (LRCF; RS 170.32; cf. art. 10 al. 1 LRCF). La nature de ces procédures ne change toutefois rien à la voie de droit pour saisir le Tribunal fédéral.
1.3 Le point de savoir si, depuis le 1er janvier 2011, les prétentions en indemnisation en raison des conditions de la détention subie ne relèveraient pas des autorités pénales en vertu de l'art. 431 al. 1 CPP (RS 312.0; cf. CÉDRIC MIZEL/VALENTIN RÉTORNAZ, in ANDRÉ KUHN/YVAN JEANNERET (ÉD.), Commentaire romand du Code de procédure pénale suisse, 2011, n° 1 ad art. 431 CPP; BAPTISTE VIREDAZ/STÉPHANE JOHNER, in ANDRÉ KUHN/YVAN JEANNERET (ÉD.), Commentaire romand du Code de procédure pénale suisse, 2011, n° 6 ad art. 196 CPP; STEFAN WEHRENBERG/IRENE BERNHARD, in MARCEL NIGGLI/MARIANNE HEER/HANS WIPRÄCHTIGER (ÉD.), Basler Kommentar zur Schweizerischen Strafprozessordnung, 2011, n° 4 ad art. 431 CPP), n'a pas à être tranché dans la présente procédure. En effet, celle-ci n'a pour objet que la demande d'assistance judiciaire formée dans une procédure d'indemnisation introduite en 2010. Seule est donc déterminante la nature de la procédure principale suivie actuellement à Genève et qui relève de la responsabilité étatique.
1.4 Le fait que le recourant, se fiant à l'indication des voies de recours figurant dans l'arrêt attaqué, ait déclaré former un recours en matière civile devant le Tribunal fédéral, ne saurait lui porter préjudice, si son écriture convertie en un recours en matière de droit public remplit les conditions de cette voie de droit (cf. <ref-ruling> consid. 3.1 p. 399).
1.5 Dirigé contre une décision d'une autorité judiciaire cantonale supérieure statuant en dernière instance (art. 86 al. 1 let. d et al. 2 LTF), le recours a été interjeté en temps utile (art. 100 al. 1 LTF) et dans les formes prévues par la loi (art. 42 LTF) par la partie qui, se voyant refuser le bénéfice de l'assistance judiciaire, dispose d'un intérêt juridique à recourir (art. 89 al. 1 LTF). Il est par conséquent recevable en tant que recours de matière de droit public.
2. Dans un premier grief, le recourant dénonce une violation des art. 29 al. 2 Cst. et 6 CEDH au motif que l'instance précédente a retenu à tort que le premier juge n'avait pas violé le droit à la réplique.
2.1 Conformément à l'art. 29 al. 2 Cst. et à l'art. 6 par. 1 CEDH, les parties à un procès ont le droit d'être entendues. Le droit d'être entendu comprend notamment le droit, pour une partie à un procès, de prendre connaissance de toute argumentation présentée au tribunal et de se déterminer à son propos (droit à la réplique). L'exercice de ce droit présuppose que l'acte en question soit transmis à la partie concernée. Le Tribunal fédéral a retenu à de nombreuses reprises que les parties à une procédure ont le droit de prendre connaissance de toute argumentation présentée au tribunal, que celle-ci contienne ou non des éléments nouveaux, et qu'elle soit ou non concrètement susceptible d'influer sur le jugement à rendre. Avant de rendre son jugement, le tribunal doit donc communiquer aux parties toute prise de position nouvelle versée au dossier pour permettre à celles-ci de décider si elles veulent ou non faire usage de leur faculté de se déterminer (cf. <ref-ruling> consid. 2.3.1 p. 197 et les arrêts cités).
2.2 Dans son recours cantonal, le recourant a reproché au premier juge d'avoir ordonné l'apport à la procédure relative à l'assistance juridique de différentes pièces sans qu'il n'en soit informé. Le Vice-président de la Cour de justice a rejeté ce grief au motif que la décision de première instance ne se référait à aucune pièce qui ne serait pas déjà intégrée au dossier et connue du recourant, soit parce qu'il en était lui-même l'auteur, ainsi sa demande en paiement du 30 mars 2011, soit parce qu'il en était le destinataire, ainsi le jugement du 29 septembre 2011. Un tel raisonnement ne prête pas le flanc à la critique.
La procédure d'assistance judiciaire est une procédure accessoire à la procédure principale pour laquelle elle est demandée (cf. arrêt 4A_154/2010 du 28 mai 2010 consid. 1.3). Elle suppose d'examiner si, de prime abord, la demande au fond est dénuée de chances de succès. Il en découle que le juge qui se prononce sur l'assistance judiciaire peut et doit se référer à l'ensemble du dossier de la procédure principale sans qu'une transmission particulière de chaque pièce citée au requérant ne soit nécessaire, puisque celui-ci connaît par définition le dossier principal. De son côté, le requérant a la possibilité de s'exprimer sur tous les éléments figurant dans le dossier de la procédure principale dans la procédure relative à l'assistance judiciaire. Il doit en aller ainsi également lorsque, comme en procédure genevoise, l'instance qui décide de l'octroi de l'assistance judiciaire est différente de celle qui devra connaître de la cause principale.
Dans ces conditions, on ne voit pas que le droit d'être entendu du recourant aurait été violé s'agissant des pièces issues de la procédure principale. Le grief y relatif doit dès lors être rejeté.
3. Le recourant reproche également au Vice-président de la Cour de justice d'avoir violé son droit à la réplique en citant dans son état de fait l'arrêt de la Chambre administrative de la Cour de justice du 13 septembre 2011 confirmant l'incompétence de la Direction générale de l'Office pénitentiaire pour statuer sur la prétention en indemnisation, alors que le versement de cet arrêt à la procédure de recours en matière d'assistance judiciaire n'a pas été communiqué au recourant. Il ajoute qu'il s'agit d'un fait nouveau irrecevable selon l'art. 327 (recte: 326) CPC (RS 272), selon lequel les conclusions, les allégations de faits et les preuves nouvelles sont irrecevables, et qui aurait ainsi été appliqué arbitrairement.
Un tel grief confine à la témérité. Le document en cause n'est en effet pas une pièce inconnue du recourant, mais une décision judiciaire qui lui a été dûment notifiée. En outre, il ne s'agit pas d'une pièce nouvelle, puisqu'elle figurait déjà dans le dossier de première instance sur lequel le Vice-président du Tribunal civil s'est fondé pour rendre sa décision du 13 octobre 2011 rejetant la requête d'extension du bénéfice de l'assistance juridique à la procédure de recours. Dans ces conditions, on ne saurait reprocher à l'instance de recours d'avoir cité l'arrêt du 13 septembre 2011 dans sa décision. De même, cet arrêt ne saurait dès lors être qualifié de fait nouveau dans la procédure de recours. Le grief y relatif doit par conséquent être rejeté.
4. Dans un autre grief, le recourant reproche à l'instance cantonale d'avoir violé son droit d'être entendu (cf. art. 29 al. 2 Cst.) et appliqué arbitrairement l'art. 57 al. 2 LaCC/GE (Loi genevoise d'application du code civil suisse et autres lois fédérales en matière civile du 28 novembre 2010, RS-GE E 1 05), dès lors que le Vice-président de la Cour de justice a statué sans l'avoir invité à faire savoir s'il souhaitait une audition.
4.1 Une application arbitraire du droit cantonal, contraire à l'art. 9 Cst., constitue un motif de recours pouvant être invoqué dans le cadre d'un recours en matière de droit public (cf. <ref-ruling> consid. 1.2.1 p. 251 s.). Le Tribunal fédéral n'examine toutefois pas cette question d'office, mais uniquement si le grief est soulevé et dûment motivé par le recourant (cf. art. 106 al. 2 LTF).
Une décision est arbitraire lorsqu'elle viole gravement une norme ou un principe juridique clair et indiscuté, ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice et de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs ou en violation d'un droit certain. Il ne suffit pas que la motivation de la décision critiquée soit insoutenable; encore faut-il que celle-ci se révèle arbitraire dans son résultat. En outre, il n'y a pas arbitraire du seul fait qu'une autre solution que celle adoptée par l'autorité intimée serait concevable, voire préférable (cf. <ref-ruling> consid. 3.1 p. 153 et les arrêts cités).
4.2 En l'espèce, le recourant se réfère à la jurisprudence rendue par le Tribunal fédéral en relation avec l'art. 143A al. 3 de l'ancienne loi genevoise sur l'organisation judiciaire du 22 novembre 1941 (aLOJ/GE; arrêts 1P.573/2004 du 2 novembre 2004 et 4P.195/2002 du 13 novembre 2002), qui prévoit que, en règle générale, le recourant est entendu lorsqu'il recourt contre le refus ou le retrait de l'assistance judiciaire. La jurisprudence dont se prévaut le recourant a cependant été rendue en procédure administrative. Elle ne saurait donc s'appliquer telle quelle à la procédure d'assistance judiciaire introduite en lien avec une demande d'indemnisation fondée sur la LREC/GE, celle-ci étant soumise à la procédure civile (cf. art. 7 al. 2 LREC/GE). Partant, la présente affaire est différente de celle qui avait fait l'objet du recours au Tribunal fédéral dans la cause 2D_6/2012, puisque celle-ci relevait de la procédure administrative, de sorte qu'il se justifiait de reprendre la jurisprudence relative à l'art. 143A al. 2 aLOJ/GE au nouvel art. 10 al. 3 de la loi genevoise sur la procédure administrative du 12 septembre 1985 (LPA/GE; RS-GE E 5 10), qui a la même teneur (cf. arrêt 2D_6/2012 du 31 juillet 2012 consid. 3.4).
4.3 Le grief d'application arbitraire de l'art. 57 al. 2 LaCC/GE est par ailleurs à l'évidence infondé. En effet, selon le texte de son premier alinéa, cette disposition se rapporte exclusivement à l'assistance judiciaire requise en lien avec une procédure devant le tribunal tutélaire (cf. art. 57 al. 1 LaCC/GE), ce qui est confirmé par les travaux préparatoires (cf. Rapport PL 10481-A de la Commission ad hoc Justice 2011 chargée d'étudier le projet de loi du Conseil d'État d'application du code civil suisse et autres lois fédérales en matière civile du 20 août 2010, p. 30). L'art. 57 LaCC/GE n'est ainsi pas applicable à la présente affaire, de sorte que les griefs y relatifs doivent être rejetés.
4.4 Les procédures en responsabilité étatique sont traitées, à Genève, par les autorités judiciaires civiles qui statuent en application du Code de procédure civile suisse (art. 7 al. 2 LREC/GE). En ce qui concerne les procédures genevoises soumises au Code de procédure civile, l'art. 22 al. 3 LaCC/GE se réfère, pour l'assistance juridique, aux dispositions réglementaires édictées par le Conseil d'État. Le Règlement sur l'assistance juridique et l'indemnisation des conseils juridiques et défenseurs d'office en matière civile, administrative et pénale du 28 juillet 2010 (RAJ/GE; RS-GE E 2 05.04) renvoie à son tour au Code de procédure civile (cf. art. 8 al. 3 RAJ/GE). C'est donc le Code de procédure civile suisse qui trouve application à la présente procédure d'assistance judiciaire. Selon l'art. 119 al. 3 CPC, en première instance, le tribunal statue sur la requête d'assistance judiciaire en procédure sommaire. Cela signifie que, à moins que la loi n'en dispose autrement, le tribunal peut renoncer aux débats et statuer sur pièces (cf. art. 256 al. 1 CPC). Il en va de même en ce qui concerne la procédure de recours (cf. art. 121 CPC), l'art. 327 al. 2 CPC prévoyant que l'instance de recours peut statuer sur pièces. Les dispositions du Code de procédure civile ne prescrivent ainsi pas une audition du recourant en matière d'assistance judiciaire.
La tenue de débats peut certes être commandée par l'art. 6 CEDH, mais celui-ci n'est pas applicable à la procédure relative à l'assistance judiciaire en matière civile (cf. MARTIN KAUFMANN, in ALEXANDER BRUNNER/DOMINIK GASSER/IVO SCHWANDER (ÉD.), Kommentar der Schweizerischen Zivilprozessordnung, 2011, n° 14 ad art. 256 CPC; arrêt de la CourEDH Barillon c. France du 9 février 2006, 22897/02, § 24). Le recourant ne s'en prévaut d'ailleurs pas.
4.5 Le recourant n'invoque au surplus aucune autre disposition de droit cantonal qui lui offrirait un droit d'être entendu plus large que l'art. 29 al. 2 Cst. (cf. arrêt 2C_382/2011 du 16 novembre 2011 consid. 3.3.1). Or, cette disposition ne comprend en principe pas le droit d'être entendu oralement (<ref-ruling> consid. 5.3 p. 148), ni l'obligation pour l'autorité saisie de demander systématiquement au justiciable, en l'absence de demande expresse de sa part, s'il souhaite être entendu oralement. Le grief doit par conséquent être rejeté.
5. Le recourant dénonce également une violation de l'obligation de motiver garantie à l'art. 29 al. 1 et 2 Cst., l'instance précédente n'ayant pas traité l'intégralité des griefs qu'il avait soulevés. Il allègue que la décision attaquée n'aborde pas le fait que le premier juge s'est basé sur un examen complet et non sommaire des chances de succès de la demande au fond et que l'instance précédente ne prend pas position sur son argumentation relative aux conditions de détention et aux difficultés de démontrer leur caractère dégradant.
5.1 Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. implique notamment pour l'autorité l'obligation de motiver sa décision. Selon la jurisprudence, il suffit que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause. L'autorité n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais elle peut au contraire se limiter à ceux qui lui paraissent pertinents (<ref-ruling> consid. 5.1 p. 237).
5.2 Dans la décision attaquée, le Vice-président de la Cour de justice a traité tour à tour des exigences relatives à l'étendue de l'examen auquel il y a lieu de procéder lors de l'appréciation des chances de succès de la procédure pour laquelle l'assistance judiciaire est sollicitée (consid. 3.1 de la décision attaquée), le grief de l'interdiction du formalisme excessif que le recourant avait soulevé (consid. 3.2 de la décision attaquée), et les conditions du droit à une enquête officielle (consid. 3.3 de la décision attaquée). Ce faisant, l'argumentation s'avère suffisante pour apprécier la portée de la décision et le grief relatif au défaut de motivation doit par conséquent être rejeté.
6. Enfin, le recourant estime que l'autorité cantonale a violé l'art. 29 al. 3 Cst. en lui refusant l'assistance judiciaire.
6.1 Aux termes de l'art. 29 al. 3 Cst., toute personne qui ne dispose pas de ressources suffisantes a droit, à moins que sa cause paraisse dépourvue de toute chance de succès, à l'assistance judiciaire gratuite. Il résulte clairement de ce texte que l'assistance judiciaire ne peut être accordée qu'à la condition que la démarche à entreprendre ne soit pas vouée à l'échec. D'après la jurisprudence, un procès est dépourvu de chances de succès lorsque les perspectives de le gagner sont notablement plus faibles que les risques de le perdre, et qu'elles ne peuvent donc être considérées comme sérieuses, de sorte qu'une personne raisonnable et de condition aisée renoncerait à s'y engager en raison des frais qu'elle s'exposerait à devoir supporter; il ne l'est pas non plus lorsque les chances de succès et les risques d'échec s'équilibrent à peu près, ou que les premières ne sont que légèrement inférieures aux secondes. L'élément déterminant réside dans le fait que l'indigent ne doit pas se lancer, parce qu'il plaide aux frais de la collectivité, dans des démarches vaines qu'une personne raisonnable n'entreprendrait pas si, disposant de moyens suffisants, elle devait les financer de ses propres deniers (cf. <ref-ruling> consid. 2.2.4 p. 218; <ref-ruling> consid. 2.2 p. 133 ss).
6.2 Le recourant reproche en premier lieu à l'instance précédente d'avoir admis que son recours était dépourvu de chances de succès au terme d'un examen approfondi, alors qu'elle aurait dû se limiter à examiner si, de prime abord, son recours n'était pas dénué de chances de succès.
Le Vice-président de la Cour de justice a retenu que la demande d'indemnisation du recourant souffrait d'un défaut d'allégation et de motivation patent, de sorte que c'était à bon droit que l'autorité de première instance l'avait rejetée et qu'un appel paraissait dénué de chances de succès. A l'appui de sa décision, il a relevé que le recourant s'était borné à dénoncer, de manière toute générale et abstraite, la surpopulation carcérale notoire de la prison de Champ-Dollon, le seul élément concret dont le recourant se plaignait, lié aux pratiques occasionnelles de culte d'un codétenu ponctuel, n'étant pas de nature à porter atteinte à sa personnalité. Le Vice-président de la Cour de justice a ajouté que les conditions de détention à la prison de Champ-Dollon, pour difficiles qu'elles puissent être en raison de la saturation notoire de l'établissement, n'étaient manifestement pas inhumaines ou dégradantes et, partant, ne portaient pas atteinte à la personnalité des détenus, ce qui correspond à la jurisprudence du Tribunal fédéral (cf. arrêts 1B_174/2010 du 15 juin 2010 consid. 3.2; 1P.265/2006 du 15 juin 2006 consid. 4.2). Cette analyse succincte ne saurait être qualifiée d'examen approfondi, de sorte que le reproche y relatif doit être rejeté. Au demeurant, on ne voit pas qu'en se prononçant de manière précise sur les griefs du recourant le juge de l'assistance judiciaire pourrait se voir reprocher une violation de l'art. 29 al. 3 Cst., dans la mesure où il ne met pas en évidence une question juridique complexe dont la solution ne serait pas évidente qui aurait justifié l'octroi de l'assistance judiciaire (cf. arrêt 5A_842/2011 du 24 février 2012 consid. 5.3 non publié aux <ref-ruling>).
6.3 Le recourant conteste également le fait que le Vice-président de la Cour de justice a retenu qu'il n'alléguait ni ne se plaignait, avec un minimum de précision factuelle, d'aucun élément ou circonstance concret, lié à sa détention, susceptible d'avoir lésé sa personnalité, comme une privation indue d'espace personnel en cellule, de nourriture, de soins, de loisirs, de travail, d'exercice physique, etc. Le recourant estime que c'est faire fi de ses allégués 9 à 29, et surtout 31, 32 et 33, qui justifiaient, à son avis, sous l'angle des chances de succès, qu'on l'autorise à en apporter la preuve, de sorte que sa demande et son appel n'étaient pas d'emblée dénués de chances de succès.
Les constatations du Vice-président de la Cour de justice relatives au contenu de la demande d'indemnisation du recourant sont des éléments de fait qui lient le Tribunal fédéral, dès lors qu'il n'est pas prétendu qu'ils auraient été retenus de façon arbitraire (cf. art. 106 al. 2 et 97 al. 1 LTF; <ref-ruling> consid. 5.2.2 p. 322).
Or, sur la base de ces constatations, le défaut d'allégation et de motivation de la demande d'indemnisation du recourant doit être considéré comme établi. Dans ces conditions, on ne saurait reprocher à l'instance précédente d'avoir considéré que l'appel du recourant était dénué de chances de succès. L'autorité cantonale n'a par conséquent pas violé l'art. 29 al. 3 Cst. en lui refusant l'assistance judiciaire.
7. Les considérants qui précèdent conduisent au rejet du recours.
Dans la mesure où ses conclusions apparaissaient dénuées de chances de succès, le bénéfice de l'assistance judiciaire devant le Tribunal fédéral doit être refusé au recourant (cf. art. 64 al. 1 LTF). Succombant, celui-ci supportera les frais judiciaires (art. 66 al. 1 LTF), qui seront toutefois fixés en tenant compte de sa situation financière, et n'a pas droit à des dépens (art. 68 al. 2 LTF). Aucune indemnité à titre de dépens ne sera accordée au canton de Genève (art. 68 al. 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à CHF 1'000.-, sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, au canton de Genève, par son Conseil d'Etat, et à la Cour de justice de la République et canton de Genève.
Lausanne, le 27 novembre 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Beti