Faits:
A. X._ s'est présentée à la session d'examens d'août/septembre 2010 de la Faculté de droit de l'Université de Genève (en abrégé: la faculté). Pour les six enseignements obligatoires de la première série, elle n'a obtenu que 19,25 points, soit une moyenne générale de 3,21. Après ses deux échecs aux sessions d'examens précédentes, cela signifiait son élimination de la faculté, ainsi que le mentionnait le procès-verbal d'examens du 22 septembre 2010.
Par lettre du 26 octobre 2010, X._ a déclaré faire opposition à l'examen écrit de droit pénal général du Professeur A._, pour lequel elle avait obtenu la note de 2,5, en soutenant notamment que celle-ci devait être portée à 4,5 au moins. Le Professeur concerné s'est déterminé le 29 novembre 2010 sur l'opposition, en concluant à son rejet. Il rappelait notamment que, selon une pratique constante de la faculté, les grilles de corrections n'étaient pas remises aux candidats qui en faisaient la demande, mais que l'intéressée aurait pu obtenir de sa part toutes les explications verbales utiles sur son travail. X._ a produit ses observations le 17 décembre 2010, puis le dossier a été transmis à la Commission des oppositions de la faculté (en abrégé: la commission), le 20 janvier 2011.
Par décision du 11 février 2011, le Collège des professeurs a rejeté l'opposition et confirmé la note de 2,5 obtenue par la candidate à l'examen de droit pénal général.
B. X._ a recouru contre cette décision auprès de la Cour de justice du canton de Genève, Chambre administrative, qui a rejeté le recours dans la mesure de sa recevabilité, par arrêt du 11 octobre 2011.
C. X._ forme auprès du Tribunal fédéral un recours constitutionnel subsidiaire et conclut, avec suite de frais et dépens, à l'annulation de l'arrêt de la Cour de justice du 11 octobre 2011; elle demande aussi au Tribunal fédéral de constater que la note de l'examen litigieux est d'au moins 4,5.
La Cour de justice se réfère aux considérants et au dispositif de son arrêt. Au terme de sa réponse, la Faculté de droit conclut au rejet du recours avec suite de frais et produit en copie un extrait du procès-verbal de la séance du Collège des professeurs du 11 février 2011, mentionnant que le Professeur A._ s'était retiré pendant les délibérations concernant l'opposition litigieuse.
Les déterminations de la recourante sur ces écritures du 29 mars 2012 ont été transmises aux intimées pour information.
Considérant en droit:
1. 1.1 Le litige porte sur l'échec de la recourante aux enseignements obligatoires de la première série d'examens de la Faculté de droit. Comme la décision querellée a trait plus précisément au résultat obtenu par la recourante à l'examen de droit pénal général, en lien avec l'évaluation de ses capacités dans cette branche, la voie du recours en matière de droit public n'est pas ouverte (art. 83 let. t LTF; ATF 136 I 229 consid. 1 p. 231; arrêts 2D_11/2011 du 2 novembre 2011 consid. 1.1; 2D_14/2011 du 29 août 2011 consid.1.1 et les arrêts cités). C'est donc à juste titre que la recourante a déclaré former un recours constitutionnel subsidiaire (art. 113 LTF).
1.2 La recourante a un intérêt juridique à l'annulation ou la modification de la décision attaquée qui a pour résultat de l'éliminer de la Faculté de droit (art. 115 LTF). Le présent recours constitutionnel subsidiaire a par ailleurs été déposé en temps utile (art. 100 al. 1 en relation avec l'art. 117 LTF) et en la forme (cf. art. 42 LTF) prévus par la loi. Dirigé contre un jugement final (art. 90 en relation avec l'art. 117 LTF) rendu par un tribunal supérieur statuant en dernière instance cantonale (art. 86 al. 1 let. d et al. 2 en relation avec l'art. 114 LTF), il est donc en principe recevable.
1.3 Le recours constitutionnel subsidiaire peut être formé pour violation des droits constitutionnels (art. 116 LTF). Le Tribunal fédéral examine toutefois la violation de droits fondamentaux, ainsi que celle de dispositions de droit cantonal et intercantonal, seulement lorsque ce grief a été invoqué et motivé de façon détaillée par la partie recourante (art. 106 al. 2 et 117 LTF; ATF 134 I 83 consid. 3.2 p. 88; 133 III 439 consid. 3.2 p. 444). Il statue sur la base des faits constatés dans la décision attaquée et ne peut rectifier ou compléter les constatations de l'autorité précédente que si les faits ont été établis en violation des droits constitutionnels (art. 118 LTF). En outre, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. ATF 136 II 101 consid. 3 p. 104 ss; 135 II 313 consid. 5.2.2 p. 322).
A cela s'ajoute qu'en matière d'examen, le Tribunal fédéral revoit l'application des dispositions cantonales régissant la procédure d'examen - pour autant que les griefs soulevés satisfassent aux exigences rappelées ci-dessus - sous l'angle restreint de l'arbitraire. Il vérifie en premier lieu si l'examen s'est déroulé conformément aux prescriptions et dans le respect des droits constitutionnels. Il fait en revanche preuve d'une retenue particulière lorsqu'il revoit les aspects matériels de l'examen et n'annule le prononcé attaqué que si l'autorité précédente s'est laissée guider par des motifs sans rapport avec l'examen ou d'une autre manière insoutenables, de telle sorte que celui-ci apparaît arbitraire (ATF 131 I 467 consid. 3.1 p. 473 et les références).
C'est dès lors à la lumière de ces principes qu'il y a lieu d'examiner les moyens soulevés par la recourante.
1.4 Le recours ne peut contenir des faits nouveaux ou des conclusions nouvelles qui s'écartent du jugement entrepris (art. 117 et 99 LTF). Les griefs que la recourante soulève dans son écriture du 29 mars 2012 à propos d'autres affaires qui ne concernent pas la présente procédure ou qui ont trait à la présence de certains professeurs ayant participé aux délibérations du Collège des professeurs du 11 février 2011 doivent dès lors être déclarés irrecevables. Quant aux critiques que la recourante formule à propos de l'extrait du procès-verbal de ces délibérations produit devant le Tribunal fédéral par la Falculté de droit, dont elle met en doute l'authenticité, elles sont de nature appellatoire et n'ont pas davantage à être examinées.
2. Sur la base des dispositions cantonales de procédure, la recourante se plaint d'une violation de son droit être entendu pour retard injustifié.
Pour autant qu'il réponde aux exigences de motivation de l'art. 106 al. 2 LTF, ce grief est mal fondé et doit être rejeté. Il faut en effet rappeler que la loi genevoise sur la procédure administrative du 12 septembre 1985 (LPA; RSGE E 5 10) n'est applicable qu'à titre supplétif, sous réserve des dispositions contenues dans le règlement relatif à la procédure d'opposition au sein de l'Université de Genève du 16 mars 2009 (cf. art. 35 RIO-UNIGE). L'art. 77 LPA, prescrivant que les juridictions administratives doivent statuer dans le délai d'une année (al. 1), sauf exceptions dues aux circonstances (al. 2), ou dans le délai de deux mois dès le dépôt du recours lorsque le recourant se plaint d'un déni de justice ou d'un retard injustifié (al. 3), n'était donc pas applicable devant le Collège des professeurs, puisque le RIO-UNIGE contient lui-même une disposition qui prévoit que l'autorité statue en principe dans les 30 jours dès la fin de l'instruction. Or ce délai a été respecté en l'espèce, puisque la décision du Collège des professeurs du 11 février 2011 a été rendue moins d'un mois après la transmission du dossier à la Commission des oppositions de la faculté, le 20 janvier 2011. Quant à l'instruction elle-même, sa mise en oeuvre a certes été relativement longue, puisqu'après la réception de l'opposition, le 28 octobre 2010, l'envoi de celle-ci au Professeur A._ pour préavis n'a été effectué que le 17 novembre 2010. La durée globale de cette instruction n'a cependant pas été excessive, au regard des délais de réponse accordés au Professeur concerné et à la recourante, ainsi que de la période des vacances universitaires courant entre la fin de l'année 2010 et celle du début de l'année 2011. En ce qui concerne enfin la Cour de justice, elle a dû non seulement statuer sur le retard injustifié invoqué par la recourante, mais sur tous les autres griefs soulevés dans le recours, de sorte qu'il lui appartenait de rendre sa décision dans le délai d'une année de l'art. 77 al. 1 LPA, ce qu'elle a fait, et non dans celui de deux mois applicable en cas de déni de justice.
3. La recourante voit également une violation de son droit d'être entendu dans le fait qu'elle ne disposait pas des éléments nécessaires pour former son opposition, du moment que le Professeur chargé de corriger son épreuve de droit pénal n'a pas annoté correctement son travail, mais a procédé à un « barbouillage illisible », et qu'il ne lui a pas non plus remis le barème et les modalités relatifs à la fixation de sa note.
3.1 Le droit d'être entendu, tel qu'il est garanti par l'art. 29 al. 2 Cst., comprend le droit pour l'intéressé de prendre connaissance du dossier (ATF 126 I 7 consid. 2b p. 10), de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (ATF 135 II 286 consid. 5.1 p. 293; 132 II 485 consid. 3.2 p. 494). En matière d'examens, la jurisprudence admet que la non-remise de documents internes, comme les grilles de corrections, l'échelle des notes ou les notes personnelles des examinateurs lors des examens oraux, ne viole pas le droit d'être entendu des candidats, à condition qu'ils aient été en mesure de comprendre l'évaluation faite de leur travail (arrêts 2D_55/2010 du 1er mars 2011, consid. 4; 2D_2009 du 26 avril 2010, consid. 2.2 et 1P.742/1999 du 15 février 2000 consid. 4).
3.2 En l'espèce, la Cour de justice a estimé que la correction détaillée à laquelle s'était livré le Professeur A._ dans son préavis du 29 novembre 2010 permettait de comprendre mieux qu'une grille de corrections la manière dont les réponses de la candidate avaient été appréciées. Dès lors que celle-ci avait eu l'occasion de se déterminer sur ce préavis avant la décision sur opposition du 11 février 2011, son droit d'être entendu avait été respecté. Sur ce point, la recourante ne dit pas en quoi elle aurait été prétéritée en ayant connaissance des éléments précis sur lesquels le Professeur A._ a basé son appréciation seulement après réception du préavis de ce dernier. Ce préavis est en effet complet, car il apporte les précisions nécessaires aux annotations sommaires de ce Professeur figurant en marge de l'épreuve contestée. Le Professeur A._ a au demeurant relevé que, s'il n'est pas d'usage de remettre les grilles de corrections aux candidats, ceux-ci peuvent obtenir oralement des assistants et du professeur lui-même toutes les indications nécessaires pour contrôler l'évaluation de leur travail. Cette possibilité avait d'ailleurs été utilisée par la candidate lors de la précédente session d'examens, puisqu'il l'avait longuement reçue le 18 août 2010. A cet égard, la recourante dit avoir renoncé à solliciter un tel rendez-vous en lieu et place de la grille de corrections, de sorte qu'elle doit en supporter les conséquences (cf. arrêt 2D_11/2011 du 2 novembre 2011, consid. 2). Pour le reste, elle formule des critiques appellatoires sur la manière dont le Professeur en cause et ses assistants ont corrigé son épreuve de droit pénal. Dans la mesure où il est recevable, son grief doit donc être rejeté.
4. La recourante se plaint d'une violation des art. 28 al. 6 RIO-UNIGE et 19 al. 2 du règlement d'études de la Faculté de droit du 15 octobre 2004, qui prévoient tous deux que la commission chargée d'instruire les oppositions formées par les étudiants adresse un préavis au Collège des professeurs à la fin de son instruction.
4.1 Dans l'arrêt attaqué, la Cour de justice a admis que la décision du Collège des professeurs du 11 février 2011 ne faisait mention que du préavis du Professeur A._, mais pas de celui de la commission des oppositions qui ne figurait pas non plus au dossier. Elle a cependant jugé que cette informalité n'était pas de nature à conduire à l'invalidation de la décision sur opposition, sauf à faire preuve d'un formalisme excessif prohibé part l'art. 29 Cst. Ce faisant, elle n'a pas retenu la version des faits de la Faculté de droit qui, dans sa réponse au recours, a soutenu que le Collège des professeurs avait pris sa décision à la majorité des membres présents, sur la base d'un rapport présenté oralement par le président de la commission.
4.2 En l'espèce, la recourante se borne à indiquer que l'absence de préavis de la commission équivaut au non-respect d'une règle de procédure qui doit conduire à l'invalidation de l'arrêt attaqué. Elle n'invoque toutefois pas l'art. 9 Cst., pas plus qu'elle ne prétend que la Cour cantonale aurait retenu arbitrairement que le fait d'admettre le recours sur la base de cette informalité constituerait un formalisme excessif. Faute d'une motivation répondant aux exigences de l'art. 106 al. 2 LTF et de la jurisprudence (cf. supra consid. 1.3), son grief doit dès lors être déclaré irrecevable.
5. La recourante soutient également que son épreuve a été corrigée en violation de l'art. 49 al. 1 du règlement transitoire de l'Université (RTU) prévoyant que les épreuves d'examen sont soumises à l'appréciation d'un jury composés de deux membres au moins, dont l'un doit faire partie du corps professoral, l'autre devant être au moins titulaire d'une maîtrise universitaire. Toutefois, contrairement à ce qu'elle prétend, le Professeur A._ n'a jamais soutenu, dans son préavis du 29 novembre 2010, que son travail avait été corrigé par un assistant et un chargé d'enseignement, mais parle, d'une façon générale, des « deux correcteurs de chaque copie, à savoir un assistant et le professeur en charge de l'enseignement ».
Si la Cour de justice a seulement examiné ce point sous l'angle de la récusation des membres du jury, au même titre que celle des membres de la commission des oppositions et du Collège des professeurs, et a jugé tardives ces demandes de récusation, la décision sur opposition du 11 février 2011 donne en revanche une motivation tout à fait convaincante de cette règle. Elle relève que le RTU, tel qu'applicable à l'époque de l'examen litigieux, ne s'opposait pas à ce que le jury soit composé du Professeur ayant administré le cours, puisqu'il est le mieux placé pour fixer les exigences auxquelles est soumis le contrôle des connaissances lié à son propre cours. Le soi-disant manque d'indépendance de ses assistants relevait d'une affirmation gratuite de l'opposante qui ne formulait d'ailleurs aucun motif de récusation permettant de douter de l'objectivité du professeur et de ses assistants. Devant le Tribunal fédéral, la recourante ne fournit pas davantage d'éléments susceptibles de démontrer l'absence d'impartialité du Professeur A._ et de ses assistants à son égard. On ne voit dès lors pas pour quelles raisons, il aurait fallu s'écarter de la règle générale, impliquant qu'il appartient au professeur qui a donné le cours de procéder au contrôle des connaissances, et faire corriger son épreuve de droit pénal par des experts neutres, comme elle l'a demandé.
Le moyen tiré de la violation de l'art. 49 al. 1 RTU doit dès lors être rejeté.
6. La recourante se plaint enfin de l'inadéquation de la note de 2,5 obtenue pour son travail et prétend que sa prestation méritait au moins la note de 4,5. Sur ce point, la Cour cantonale a seulement constaté que la recourante n'avait pas établi que l'appréciation de sa note serait choquante ou revêtirait un caractère arbitraire.
Devant le Tribunal fédéral, la recourante soutient que ni le Professeur A._, ni les autorités cantonales n'ont apporté la preuve que la correction envisagée par les correcteurs serait plus juste que la sienne, qui se base sur la législation actuelle, la jurisprudence et la doctrine de référence. Elle aurait ainsi démontré que la solution matérielle retenue par ce Professeur s'écartait des principes de droit pénal et serait dès lors arbitraire.
La recourante ne saurait être suivie dans ses critiques, dès lors que, comme l'a relevé le Collège des professeurs dans sa décision du 11 février 2011, elle se borne à opposer sa propre appréciation de sa prestation à celle du Professeur A._. Dans ses déterminations du 29 novembre 2010, ce dernier a en effet clairement expliqué les annotations abrégées figurant en marge de la copie de l'intéressée et précisé les lacunes du travail fourni par rapport aux problèmes à analyser. Compte tenu de son pouvoir limité en matière d'examen (cf. supra consid. 1.3), le Tribunal fédéral n'a pas à se prononcer sur les réponses fournies par la recourante, qui ne dit au demeurant pas en quoi la solution matérielle retenue par le Professeur A._ serait arbitraire, mais revient sur l'absence de critères de notation, grief déjà rejeté sous l'angle de la violation du droit d'être entendu (cf. supra consid. 3).
7. Au vu de ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité, avec suite de frais à la charge de la recourante (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué à la recourante, à la Faculté de droit de l'Université de Genève et à la Cour de justice de la République et canton de Genève, Chambre administrative, 2ème Section.
Lausanne, le 11 juin 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Rochat