Faits:
A. Par arrêté du 17 novembre 1999, le Conseil d'Etat du canton de Genève a nommé A._ en qualité de professeur auprès de l'Ecole de traduction et d'interprétation de l'Université de Genève du 1er décembre 1999 au 30 septembre 2003. Par arrêté du 19 mars 2003, A._ a été nommé professeur associé du 1er octobre 2003 au 30 septembre 2006. Par arrêté du 29 novembre 2006, cet engagement a été renouvelé du 1er octobre 2006 au 31 juillet 2007. Enfin, par arrêté du 10 janvier 2007, le Conseil d'Etat a décidé que le mandat de A._ ne serait pas renouvelé au 31 juillet 2007. Cet arrêté n'indiquait aucune voie de recours.
B. Le 16 février 2007, A._ a recouru contre cette décision auprès du Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif). Il concluait à l'annulation de l'arrêté précité et se plaignait principalement d'une violation de son droit d'être entendu.
Par arrêt du 4 septembre 2007, le Tribunal administratif a déclaré ce recours irrecevable. Il s'est fondé sur l'art. 56B al. 4 let. a de la loi cantonale du 22 novembre 1941 sur l'organisation judiciaire (LOJ; RSG E 2 05), aux termes duquel les décisions concernant le statut et les rapports de service des fonctionnaires et autres membres du personnel de l'Etat, des communes et des autres corporations et établissements de droit public ne peuvent faire l'objet d'un recours au Tribunal administratif que si une disposition légale, réglementaire ou statutaire le prévoit. Or, le non-renouvellement du mandat d'un professeur est régi par la loi cantonale du 26 mai 1973 sur l'université (LU; RSG C 1 30), qui ne prévoit pas de compétence du Tribunal administratif à cet égard. Cette autorité a donc transmis la cause à la Commission de recours de l'université "afin que celle-ci se détermine sur sa propre compétence".
C. Agissant par la voie du recours en matière de droit public et du recours constitutionnel subsidiaire, A._ demande au Tribunal fédéral d'annuler cet arrêt et de renvoyer la cause au Tribunal administratif pour qu'il se déclare compétent pour connaître du litige, subsidiairement d'annuler l'arrêté du Conseil d'Etat du 10 janvier 2007 et de renvoyer la cause à cette autorité pour nouvelle décision, plus subsidiairement encore d'"acheminer le recourant à rapporter, par toutes voies de droit applicables, la preuve des faits allégués dans [son] recours". Il invoque le droit d'avoir accès à un tribunal conformément aux art. 6 CEDH et 29a Cst. et se plaint d'une violation de ces dispositions. Il se prévaut également de l'interdiction du déni de justice formel, au sens de l'art. 29 al. 1 Cst.
D. Le recourant avait requis préalablement la suspension de la procédure jusqu'à droit jugé sur la compétence de la Commission de recours de l'université à connaître du litige. Par ordonnance du 23 octobre 2007, le Président de la Ire Cour de droit public a accédé à cette requête. Par décision du 15 mai 2008, la Commission précitée a déclaré le recours de A._ irrecevable, si bien que l'instruction de la cause a été reprise. Le Tribunal administratif a renoncé à formuler des observations. Le Conseil d'Etat s'est déterminé; il conclut au rejet du recours, dans la mesure de sa recevabilité. Le recourant a présenté des observations complémentaires.

Considérant en droit:
1. La décision attaquée ayant été rendue en matière de rapports de travail de droit public, elle peut en principe faire l'objet d'un recours en matière de droit public selon les <ref-law>. Le recourant conclut notamment à l'annulation de l'arrêté du Conseil d'Etat du 10 janvier 2007; bien que les griefs soulevés soient essentiellement de nature formelle, l'admission de son recours sur ce point aurait pour effet d'annuler la décision qui a mis un terme à son mandat, ce qui pourrait faire naître des prétentions financières. Par conséquent, son action a, en tout cas partiellement, un but économique et son objet peut être apprécié en argent, si bien qu'il y a lieu de considérer qu'il s'agit d'une contestation de nature pécuniaire (cf. FABIENNE HOHL, Procédure civile, Tome II, Berne 2002, p. 77; JEAN-FRANÇOIS POUDRET, Commentaire de la loi fédérale d'organisation judiciaire, vol. II, Berne 1990, p. 196 ss). Il s'ensuit que le motif d'exclusion de l'art. 83 let. g LTF n'entre pas en considération. La valeur litigieuse atteint le seuil de 15'000 fr. ouvrant la voie du recours en matière de droit public dans ce domaine (art. 51 al. 2 et 85 al. 1 let. b LTF). Le recourant est particulièrement atteint par la décision attaquée - qui déclare irrecevable le recours contre le non-renouvellement de son mandat - et il a un intérêt digne de protection à son annulation; il a donc la qualité pour recourir (art. 89 al. 1 let. b et c LTF). La voie du recours en matière de droit public étant ouverte en l'espèce, le recours constitutionnel subsidiaire doit être déclaré irrecevable (<ref-law>).
2. Le recourant invoque les art. 6 CEDH et 29a Cst. pour se plaindre du fait que sa cause n'a pas pu être soumise à une autorité judiciaire.
2.1 En vigueur depuis le 1er janvier 2007, l'art. 29a Cst. donne à toute personne le droit à ce que sa cause soit jugée par une autorité judiciaire. La Confédération et les cantons peuvent, par la loi, exclure l'accès au juge dans des cas exceptionnels. Cette norme étend le contrôle judiciaire à toutes les matières, y compris aux actes de l'administration, en établissant une garantie générale de l'accès au juge (<ref-ruling> consid. 4.2 p. 327 et les références). Selon la jurisprudence, elle est concrétisée par l'<ref-law>, aux termes duquel les cantons doivent instituer des tribunaux supérieurs qui statuent comme autorités précédant immédiatement le Tribunal fédéral, sauf dans les cas où une autre loi fédérale prévoit qu'une décision d'une autre autorité judiciaire peut faire l'objet d'un recours devant le Tribunal fédéral. L'<ref-law> impartit aux cantons un délai de deux ans pour édicter les dispositions d'exécution y relatives. Avant l'expiration de ce délai, le grief lié à l'absence d'accès à un tribunal supérieur n'est en principe pas fondé (arrêts 2C_64/2007 du 29 mars 2007 consid. 3.2, 1D_3/2008 du 10 juillet 2008 consid. 3.2; Denise Brühl-Moser, in Basler Kommentar, Bundesgerichtsgesetz, 2008, n. 5 ad <ref-law>), de sorte que le recourant ne pourrait pas se prévaloir de l'art. 29a Cst. pour exiger que sa cause soit traitée par une telle autorité. En l'état, la présente cause doit par conséquent être examinée uniquement à la lumière de l'art. 6 CEDH.
2.2 L'art. 6 par. 1 CEDH donne à toute personne le droit à ce que sa cause soit entendue équitablement, publiquement et dans un délai raisonnable, par un tribunal indépendant et impartial établi par la loi, qui décidera soit des contestations sur ses droits et obligations de caractère civil, soit du bien-fondé de toute accusation en matière pénale dirigée contre elle. La jurisprudence de la Cour européenne des droits de l'homme a récemment étendu le champ d'application de cette disposition en ce qui concerne les employés publics. Elle s'est écartée de l'ancien "critère fonctionnel", selon lequel étaient soustraits au champ d'application de l'art. 6 par. 1 CEDH "les litiges des agents publics dont l'emploi était caractéristique des activités spécifiques de l'administration publique dans la mesure où celle-ci agit comme détentrice de la puissance publique chargée de la sauvegarde des intérêts généraux de l'Etat ou des autres collectivités publiques" (arrêt Pellegrin contre France du 8 décembre 1999, Recueil CourEDH 1999-VIII § 66). Désormais, il y a une présomption que l'art. 6 par. 1 CEDH s'applique dans les contestations relatives aux employés publics. Pour que ces litiges soient soustraits à la protection offerte par cette norme, deux conditions doivent être remplies. En premier lieu, le droit interne de l'Etat concerné doit avoir expressément exclu l'accès à un tribunal s'agissant du poste ou de la catégorie de salariés en question. En second lieu, cette dérogation doit reposer sur des motifs objectifs liés à l'intérêt de l'Etat. Le simple fait que l'intéressé relève d'un secteur ou d'un service qui participe à l'exercice de la puissance publique n'est pas en soi déterminant. Il faut encore que l'objet du litige soit lié à l'exercice de l'autorité étatique, de sorte que les conflits ordinaires du travail - tels ceux portant sur un salaire, une indemnité ou d'autres droits de ce type - ne sont en principe pas soustraits aux garanties de l'article 6 CEDH (arrêt Vilho Eskelinen et autres contre Finlande du 19 avril 2007, § 62).
2.3 En l'espèce, les conditions posées par la jurisprudence susmentionnée pour soustraire un employé public à la protection offerte par l'art. 6 CEDH ne sont pas réunies. En effet, le droit applicable n'exclut pas expressément, pour des motifs qui seraient liés à l'intérêt de l'Etat, l'accès à un tribunal pour le poste du recourant ou pour la catégorie de salariés à laquelle il appartient. Or, le recourant s'est vu refuser l'accès au Tribunal administratif - ainsi qu'à la Commission de recours de l'université - et il n'apparaît pas en l'état que sa cause puisse être examinée par une autre autorité judiciaire au niveau cantonal, le Tribunal administratif et le Conseil d'Etat ne soutenant d'ailleurs pas le contraire. Par ailleurs, sous l'angle de l'art. 6 par. 1 CEDH, le Tribunal fédéral ne saurait être la seule autorité judiciaire compétente pour connaître du litige. Son pouvoir d'examen est en effet fortement limité en ce qui concerne les faits de la cause, puisqu'il statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 et 118 al. 1 LTF). Il convient enfin de relever que, même si le législateur cantonal avait prévu une dérogation, le domaine d'activité en cause et l'objet du litige sont manifestement étrangers à l'exercice de l'autorité étatique, de sorte qu'il n'y a pas de raison objective de soustraire cette cause aux garanties de l'art. 6 CEDH.
Dans ces conditions, il y a lieu de constater que la cause du recourant n'a pas été examinée par un tribunal, de sorte que l'art. 6 par. 1 CEDH a été violé. Il se justifie donc de renvoyer l'affaire au Tribunal administratif pour qu'il statue sur le fond du litige ou qu'il transmette la cause à une autre autorité judiciaire répondant aux exigences posées par l'art. 30 al. 1 Cst.
3. Il s'ensuit que le recours en matière de droit public doit être admis et l'arrêt attaqué annulé, l'affaire étant renvoyée au Tribunal administratif pour nouvelle décision dans le sens des considérants. Il n'y a pas lieu de percevoir des frais judiciaires (<ref-law>). Le recourant, assisté d'un avocat, a droit à des dépens, à la charge de l'Etat de Genève (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est admis; l'arrêt attaqué est annulé et la cause est renvoyée au Tribunal administratif du canton de Genève, pour nouvelle décision dans le sens des considérants.
3. Il n'est pas perçu de frais judiciaires.
4. Une indemnité de 2000 fr. est allouée au recourant à titre de dépens, à la charge de l'Etat de Genève.
5. Le présent arrêt est communiqué au mandataire du recourant, ainsi qu'à la Commission de recours de l'Université, au Conseil d'Etat et au Tribunal administratif du canton de Genève.
Lausanne, le 6 novembre 2008
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Rittener