Faits:
A. Par courrier électronique du 1er octobre 2008 E._ a répondu à une annonce publiée par la faculté de psychologie et des sciences de l'éducation (FPSE) de l'Université de Genève. Elle a déposé son dossier de candidature pour le remplacement d'un poste d'assistante en psychologie du développement cognitif pour la durée du congé maternité de la titulaire. Après un entretien avec l'enseignant responsable, le professeur P._, un cahier des charges pour "assistante et maître assistante" a été signé le 28 octobre 2008 par ce dernier et E._.
Le 30 octobre 2008 E._ a commencé son travail. Au début du mois de novembre, elle a été informée du fait que son engagement posait problème, car elle avait déjà occupé auparavant une fonction d'assistante pendant six ans. On lui a alors proposé une embauche sous le titre de secrétaire, puis de collaboratrice scientifique. Lors d'une entrevue du 12 novembre 2008 avec l'assistante administrative de la FPSE et le professeur responsable, il lui a été proposé de signer un contrat de collaboratrice scientifique avec un taux d'activité de 55 %, pour un travail à 80 %, ce qu'elle n'a pas accepté. En conséquence, elle a été priée de cesser de travailler avec effet immédiat.
Par lettre du 18 novembre 2008, adressée au professeur P._, E._ s'est opposée à son licenciement. Elle a offert ses services et demandé, pour le cas où sa réintégration ne devait pas être acceptée, le versement de l'entier de son salaire pour la période initialement convenue. Aucune suite n'ayant été donnée à ce courrier, elle a formé opposition auprès de l'Université de Genève le 11 décembre 2008. Elle faisait valoir qu'en signant un cahier des charges et en entrant en fonction le 30 octobre 2008, elle avait été engagée comme assistante suppléante pour une durée déterminée. Dès lors qu'il n'existait pas de motif justifiant une révocation avec effet immédiat, la décision de résiliation devait être annulée et la totalité du salaire dû pour la période de remplacement prévue, soit 112 jours ouvrables, devait être versée. Par décision du 23 décembre 2008, l'Université a rejeté l'opposition.
B. E._ a formé un recours devant le Tribunal administratif du canton de Genève en concluant à l'annulation de la décision sur opposition du 23 décembre 2008 et de la "décision de résiliation avec effet immédiat" du 12 novembre 2008, ainsi qu'à la condamnation de l'Université de Genève au paiement du salaire pour la durée de l'engagement prévu, soit 112 jours en classe 8 annuité 12.
Statuant le 12 janvier 2010, le Tribunal administratif a déclaré le recours irrecevable, considérant que le professeur P._ n'avait aucune compétence pour engager la remplaçante de son assistante, étant donné que la nomination des assistants et maîtres-assistants relevait de la compétence du rectorat de l'Université.
C. E._ exerce un recours en matière de droit public, subsidiairement un recours constitutionnel. Elle conclut principalement à l'annulation de l'arrêt du 12 janvier 2010, à la constatation de la recevabilité du recours interjeté contre la décision sur opposition du 23 décembre 2008 et au renvoi de la cause au Tribunal administratif afin qu'il statue sur le fond. A titre subsidiaire, elle demande l'annulation de cette même décision sur opposition et de la "décision de résiliation avec effet immédiat" du 12 novembre 2008, ainsi que la condamnation de l'Université au paiement de 22'904 fr. brut, avec intérêts à 5 % dès le 15 janvier 2009, à titre de salaires pour la durée de l'engagement (112 jours en classe 8 annuité 12 de l'échelle des traitements). Elle requiert en outre l'assistance judiciaire.
L'Université de Genève conclut principalement à l'irrecevabilité du recours en matière de droit public, subsidiairement à son rejet, et au rejet du recours constitutionnel subsidiaire.

Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (<ref-law>). Il contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 43).
2. 2.1 Le recours est dirigé contre une décision finale (<ref-law>) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) sur la base du droit public cantonal (<ref-law>). Sur le fond, le litige porte sur le droit au salaire pour 112 jours que la recourante déduit d'un engagement en qualité d'assistante de durée déterminée au service de l'Université de Genève. La décision attaquée concerne donc des rapports de travail de droit public au sens de l'art. 83 let. g LTF et 85 al. 1 let. b LTF.
2.2 Selon l'art. 83 let. g LTF, en matière de rapports de travail de droit public (lorsque, comme en l'espèce, la question de l'égalité des sexes n'est pas en cause), le recours en matière de droit public est irrecevable contre les décisions qui concernent une contestation non pécuniaire. Une affaire doit être considérée comme pécuniaire dès lors qu'elle a un but économique et que son objet peut être apprécié en argent (arrêt 8C_104/2010 du 20 septembre 2010 consid. 1.1), ce qui est le cas en l'espèce. Le motif d'exclusion de l'art. 83 let. g LTF n'entre donc pas en considération.
2.3 Pour que le recours soit recevable, il faut encore, en principe, que la valeur litigieuse minimale de 15'000 fr. soit atteinte (<ref-law>). En cas de recours contre une décision finale, qu'il s'agisse d'une décision sur le fond ou d'une décision d'irrecevabilité (<ref-ruling> consid. 4.1.1 p. 480; <ref-ruling> consid. 1.2.1 p. 110), la valeur litigieuse est déterminée par les conclusions restées litigieuses devant l'autorité précédente (<ref-law>). Si les conclusions ne tendent pas au paiement d'une somme d'argent déterminée, le Tribunal fédéral fixe la valeur litigieuse selon son appréciation (<ref-law>), comme sous l'ancienne loi d'organisation judiciaire (art. 36 al. 2 OJ). Ce contrôle d'office ne supplée toutefois pas au défaut d'indication de la valeur litigieuse. Il n'appartient pas au Tribunal fédéral de procéder lui-même à des investigations pour déterminer cette valeur, si elle ne résulte pas d'emblée des constatations de la décision attaquée (<ref-law>) ou d'autres éléments ressortant du dossier (JEAN-MAURICE FRÉSARD, in Commentaire de la LTF, 2009, n° 7 ad <ref-law>). Le Tribunal fédéral n'est toutefois lié ni par l'estimation de la partie recourante ou un accord des parties, ni par une estimation manifestement erronée de l'autorité cantonale (BEAT RUDIN, in Basler Kommentar, Bundesgerichtsgesetz, 2008, n° 47 ad <ref-law>).
2.4 Etait en l'espèce litigieuse devant l'autorité précédente la conclusion de la recourante tendant au versement d'un salaire correspondant à 112 jours en classe 8 annuité 12. Dans son recours au Tribunal administratif, la recourante n'a pas chiffré le montant total de sa prétention. Devant le Tribunal fédéral, elle soutient que la valeur litigieuse est atteinte en alléguant que le salaire pour 112 jours, soit 20 semaines à 7 jours pour un taux d'activité de 80 %, comme prévu dans l'offre d'emploi de l'Université du 1er octobre 2008 et repris dans le cahier des charges du 28 octobre 2008, correspond selon l'échelle des traitements en 2008 de l'Etat de Genève à 22'904 fr. (6'135 fr. 45 par mois : 30 jours x 112 jours). L'intimée soutient que le seuil requis n'est pas atteint. Selon elle, l'Université ne disposait que d'une enveloppe budgétaire calculée sur la base du salaire de l'assistante à remplacer, soit de 12'992 fr.
2.5 La LTF ne contient pas de règle pour le cas où la valeur litigieuse diffère pour chaque partie. Selon la jurisprudence rendue sous le régime de l'OJ (<ref-ruling> consid. 1 p. 248; Rudin, op. cit., n° 48 ad <ref-law>), il faut tenir compte du montant le plus élevé, l'intérêt du demandeur étant en principe considéré comme déterminant (cf. aussi Alain Wurzburger, Les conditions objectives du recours en réforme au Tribunal fédéral, 1964, p. 136 ). Il se justifie, en l'absence d'autres éléments de calcul, d'appliquer cette règle en l'espèce, de sorte que le seuil requis doit être considéré comme atteint.
3. La décision attaquée pouvant ainsi faire l'objet d'un recours selon les <ref-law>, le recours constitutionnel est irrecevable (<ref-law>), étant d'ailleurs précisé que le droit fédéral dont la violation peut être invoquée à l'appui d'un recours en matière de droit public (<ref-law>) comprend les droits constitutionnels (<ref-ruling> consid. 3.1 p. 447, 462 consid. 2.3 p. 466).
4. Le mémoire de recours doit contenir les conclusions et les motifs à l'appui de celles-ci (<ref-law>) sous peine d'irrecevabilité (<ref-law>). Les motifs doivent exposer succinctement en quoi l'acte attaqué viole le droit (<ref-law>). Pour satisfaire à ces exigences, la partie recourante doit discuter les motifs de la décision entreprise et indiquer précisément en quoi elle estime que l'autorité précédente a méconnu le droit (<ref-ruling> consid. 1.4.2 p. 254; <ref-ruling> consid. 1.4 p. 287). En particulier, la motivation doit se rapporter à l'objet du litige tel qu'il est circonscrit par la décision attaquée (cf. <ref-ruling> consid. 6.4 p. 121). En outre, si elle se plaint de la violation de droits fondamentaux ou de dispositions de droit cantonal, la partie recourante doit respecter le principe de l'invocation en indiquant précisément quelle disposition constitutionnelle ou légale a été violée et en démontrant par une argumentation précise en quoi consiste la violation. Le Tribunal fédéral n'examine en effet de tels griefs que s'ils ont été invoqués et motivés (<ref-law>), c'est-à-dire s'ils ont été expressément soulevés et exposés de façon claire et détaillée (<ref-ruling> consid. 3.2 p. 88; <ref-ruling> consid. 1.4.2 p. 254; <ref-ruling> consid. 1.4 p. 287).
5. A titre liminaire, la cour cantonale a examiné si les conditions de recevabilité du recours interjeté le 23 janvier 2009 étaient réalisées. Dans le premier considérant de l'arrêt attaqué, elle déclare recevable le recours porté devant elle, en application de l'art. 56A de la loi du 22 novembre 1941 sur l'organisation judiciaire (LOJ; RS/GE E 2.05) et de l'art. 63 al. 1 let. a de la loi du 12 septembre 1985 sur la procédure administrative (LPA; E 5.10). Cette dernière disposition concerne le délai de recours. Quant à l'art. 56A al. 1 LOJ, il prévoit que le Tribunal administratif est l'autorité supérieure ordinaire de recours en matière administrative. En vertu de l'art. 56A al. 2 LOJ, le recours au Tribunal administratif est ouvert contre les décisions des autorités et juridictions au sens des art. 4, 5, 6 al. 1 let. d et 57 de la LPA, sauf exception prévue par la loi. En admettant la recevabilité du recours en vertu de l'art. 56A LOJ, les premiers juges ont - de manière implicite tout au moins - considéré que la décision sur opposition du rectorat de l'Université de Genève du 23 décembre 2008 constituait une décision au sens de l'art. 4 LPA, prise par une autorité administrative au sens de l'art. 5 LPA. Ils ont ainsi admis que la voie de recours empruntée - en temps utile - par la recourante était ouverte dans ce cas. Ce n'est donc pas pour des motifs d'ordre procédural qu'ils ont prononcé l'irrecevabilité du recours.
6. 6.1 Les premiers juges ont ensuite considéré que le Conseil d'Etat avait délégué la compétence de nomination des assistants et des maîtres-assistants au rectorat de l'Université en vertu de l'art. 57E al. 3 de la loi du 26 mai 1973 sur l'Université (aLU; abrogée par la loi sur l'Université du 13 juin 2008 [LU; C 1.30], entrée en vigueur le 17 mars 2009) en relation avec l'art. 15 al. 2 du règlement d'application du 10 mars 1986 de la loi sur l'Université (aRALU; abrogé lors de l'adoption du règlement du 16 mars 2009 sur le rectorat de l'Université de Genève (RRU; C 1 30.10). Selon les constatations des juges cantonaux, aucune décision de nomination n'a été prise par le rectorat de l'Université concernant le remplacement par la recourante de la titulaire du poste pendant son congé maternité. Le professeur P._ ne pouvait pas lier l'Université en signant le cahier des charges de l'intéressée, car il n'avait aucune compétence pour engager la remplaçante de son assistante. La recourante, de par son expérience passée en qualité d'assistante, aurait dû s'en rendre compte et ne pouvait dès lors invoquer avec succès le droit à la protection de la bonne foi. La juridiction cantonale a conclu qu'aucune décision de licenciement n'avait pu être rendue et que déjà l'opposition formée auprès de l'Université aurait dû être déclarée irrecevable.
6.2 La recourante reproche aux premiers juges d'être tombés dans l'arbitraire en se fondant sur des motifs qui ne relèvent pas des conditions de recevabilité du recours. Elle fait valoir qu'une opposition déclarée irrecevable n'entraîne pas l'irrecevabilité du recours contre cette décision et que l'analyse des conditions du droit à la protection de la bonne foi n'a pas trait à la recevabilité du recours. Les premiers juges l'auraient privée d'un jugement au fond en déclarant son recours irrecevable. Invoquant l'art. 29 al. 1 Cst., elle soutient qu'ils ont violé leur obligation de statuer.
6.3 Bien que le dispositif du jugement attaqué déclare le recours irrecevable "à la forme", la juridiction cantonale n'en a pas moins analysé dans sa motivation les arguments relevant du litige au fond. Elle a ainsi clairement écarté, avec une motivation à l'appui, les conclusions de la recourante visant au paiement d'un salaire pour 112 jours à raison d'un licenciement prétendument contraire au droit. Les prétentions de la recourante ont donc été soumises a un examen matériel. Le grief tiré d'un déni de justice formel au sens de l'art. 29 al. 1 Cst. n'est dès lors pas fondé.
6.4 A lui seul, le fait que le dispositif du jugement attaqué prononce l'irrecevabilité du recours au lieu de le rejeter comme mal fondé n'est pas un motif d'annulation de ce jugement. Une annulation assortie d'un renvoi de la cause à l'autorité cantonale pour nouvelle décision n'aurait pour seul effet que de prolonger inutilement la procédure du moment que les considérants contiennent sur le fond les éléments essentiels qui permettaient à la recourante d'en contester le bien- fondé et au Tribunal fédéral d'exercer un examen des griefs susceptibles d'être soulevés à cet égard.
7. 7.1 Selon la jurisprudence, lorsque la décision attaquée comporte plusieurs motivations indépendantes, alternatives ou subsidiaires, toutes suffisantes pour sceller le sort de la cause, le recourant doit, sous peine d'irrecevabilité, indiquer en quoi chacune d'elles est contraire au droit. En effet, s'il arrive à la conclusion que l'autorité précédente a déclaré à tort un recours irrecevable, le Tribunal fédéral peut renoncer à annuler la décision attaquée et examiner les motifs subsidiaires par lesquels l'action ou le recours a été rejeté au fond. L'<ref-law> impose au recourant de développer, dans l'acte de recours, des griefs à l'encontre de chacune des motivations de la décision attaquée (<ref-ruling> consid. 6.3 p. 121; FLORENCE AUBRY GIRARDIN, in Commentaire de la LTF, op. cit., n° 32 ad <ref-law>; LAURENT MERZ, in Basler Kommentar, op. cit., n° 73 ad <ref-law>). Cela vaut à plus forte raison quand le tribunal cantonal, comme en l'espèce, ne déclare pas le recours irrecevable pour des raisons procédurales et procède à une analyse des arguments se rapportant au fond de la cause. En cela, le présent cas se distingue des situations visées par les arrêts 4D_84/2007 du 11 mars 2008 et 4A.11/2006 du 1er septembre 2009, invoqués par la recourante.
7.2 Sur le fond, la recourante se limite à reprocher au Tribunal administratif une contradiction dans la motivation, puisque celui-ci admet qu'elle doit être indemnisée pour sa période de travail effective, bien qu'indiquant de manière erronée que l'Université l'a indemnisée pour neuf jours. Or, d'après la recourante, si elle a droit à un salaire pour la période de travail effectivement réalisée, cela signifie qu'elle a été engagée, puis licenciée, ce qui l'aurait empêchée de poursuivre son travail pendant la durée initialement prévue de 112 jours. Il est douteux que l'argumentation soulevée ici par la recourante remplisse les exigences de motivation de l'<ref-law> relativement à une application arbitraire du droit cantonal (cf. <ref-ruling> consid. 1.2 p. 382 s.; <ref-ruling> consid. 1 p. 203; <ref-ruling> consid. 2.3 p. 466). Cette question peut néanmoins être laissée ouverte dans la mesure où cet argument doit de toute façon être écarté.
7.3 La recourante ne remet pas en cause la constatation du jugement attaqué, selon laquelle aucune décision de nomination n'a été prise par le rectorat de l'Université au sens de l'art. 57E al. 3 aLU en relation avec l'art. 15 al. 2 aRALU. Sur un plan plus général, la nomination d'une personne au moyen d'un acte unilatéral est l'expression caractéristique d'un rapport de droit public. L'acte de nomination est qualifié de décision soumise à acceptation de l'intéressé (cf. PETER HÄNNI, Das öffentliche Dienstrecht der Schweiz, 2002, p. 26 ss; TOBIAS JAAG, Das öffentlichrechtliche Dienstverhältnis im Bund und im Kanton Zürich - ausgewählte Fragen, ZBl 10/1994 p. 442; PIERRE MOOR, Droit administratif II, 2ème éd., 2002, n° 2.1.2.7 p. 177). Plus encore que pour d'autres décisions (cf. MOOR, op. cit., n° 2.2.8.1 p. 297), il doit revêtir la forme écrite. Le fait que la recourante a oeuvré au sein de l'Université pendant neuf jours et qu'elle peut indiscutablement prétendre une indemnisation pour cette période ne saurait suppléer à l'absence d'une nomination en bonne et due forme et suffire à fonder la création d'un rapport de travail de droit public. Il en va de même en ce qui concerne le cahier des charges, tel qu'il a été signé le 28 octobre 2008 par le professeur P._ et la recourante: il s'agit d'un acte purement interne qui détermine les devoirs attachés au service (ATF 8D_8/2009 du 16 août 2010 consid. 4.4), mais qui n'est pas non plus constitutif d'un acte de nomination. Il faut certes, dans le présent contexte, réserver le droit constitutionnel à la protection de la bonne foi de l'intéressée. Les premiers juges ont toutefois retenu à ce propos - cela n'est pas contesté - que les conditions mises à la reconnaissance de ce droit n'étaient pas remplies en l'espèce.
7.4 Dans ces circonstances, on ne voit pas que les premiers juges aient fait une application arbitraire du droit cantonal en constatant qu'aucune décision de nomination n'avait été prise par l'autorité compétente et en en tirant la conclusion que la recourante ne pouvait prétendre une indemnisation au titre de salaire pour une période de 112 jours.
7.5 Il est vrai que l'autorité cantonale a retenu par erreur que la recourante avait été indemnisée pour les neuf jours durant lesquels elle a effectivement travaillé au sein de l'Université. Ce point n'a toutefois aucune influence sur le sort de la cause (cf. <ref-law>), car l'intimée reconnaît devoir indemniser la recourante pour les heures effectuées dès réception d'un décompte de ces heures et cette question n'est pas litigieuse. Elle pourra, en cas de contestation sur le nombre d'heures allégué, faire l'objet d'une procédure séparée.
8. Les considérants qui précèdent conduisent à l'irrecevabilité du recours constitutionnel subsidiaire et au rejet du recours en matière de droit public. Les conclusions du présent recours paraissaient d'emblée vouées à l'échec, de sorte qu'il y a lieu de rejeter la demande d'assistance judiciaire (cf. <ref-law>). Succombant, la recourante doit supporter les frais de la procédure fédérale (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est rejeté.
3. La demande d'assistance judiciaire est rejetée.
4. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge de la recourante.
5. Le présent arrêt est communiqué aux parties et au Tribunal administratif de la République et canton de Genève.
Lucerne, le 29 novembre 2010
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Ursprung Hofer