Faits:
A. Le 22 juillet 2003, le Juge d'instruction des affaires économiques du canton du Valais (ci-après: le juge d'instruction) a ouvert une instruction pénale d'office contre A._ pour abus de confiance, voire pour gestion déloyale et blanchiment d'argent. Celui-ci était soupçonné d'avoir utilisé à son profit des biens, sommes d'argent et autres valeurs patrimoniales au détriment de la Caisse de retraite et de prévoyance du personnel enseignant du canton du Valais (ci-après: la CRPE), dont il était président.
Le 2 septembre 2003, A._ a demandé la récusation du juge d'instruction et du juge d'instruction cantonal. Le 12 septembre 2003, il a formé une nouvelle demande de récusation du juge d'instruction. Ces requêtes ont été déclarées irrecevables ou rejetées. Les recours formés auprès du Tribunal fédéral contre ces décisions ont été rejetés dans la mesure de leur recevabilité (arrêts 1P.619/2003, 1P.620/2003 et 1P.621/2003 du 26 novembre 2003). Le 28 avril 2004, A._ a à nouveau demandé la récusation du juge d'instruction en charge de l'affaire, au motif que celui-ci serait membre de la fédération des magistrats, des enseignants et des fonctionnaires de l'Etat du Valais (ci-après: la FMEF), institution concernée par l'instruction et dont le prévenu était secrétaire général. Le 6 mai 2004, il a demandé la récusation de tous les magistrats ou greffiers étant membres de la FMEF, ainsi que celle du président du Tribunal cantonal. Ces requêtes ont été rejetées. Le 16 décembre 2004, A._ a requis la récusation du Procureur général en charge du dossier. Cette requête a également été rejetée.
Le 21 décembre 2004, A._ a une nouvelle fois demandé la récusation du juge d'instruction. Le même jour, il a en outre requis la récusation de deux inspecteurs de police, alléguant qu'ils seraient affiliés à la FMEF. Ces deux requêtes ont été retirées par l'intéressé. Une nouvelle requête de récusation formulée le 20 octobre 2006 a été rejetée en ce qui concerne le juge d'instruction et déclarée irrecevable s'agissant du juge d'instruction cantonal. Le recours formé contre cette décision a lui aussi été rejeté dans la mesure de sa recevabilité par la Cour de céans (arrêt 1P.815/2006 du 13 mars 2007). Le 12 mars 2007, A._ a encore une fois demandé la récusation du juge d'instruction. Cette requête a connu le même sort que les précédentes (arrêt 1B_99/2007 du 26 septembre 2007).
B. Le 24 février 2009, le Procureur général du canton du Valais a renvoyé A._ à jugement devant le tribunal du IIe arrondissement pour le district de Sion, pour répondre des infractions d'abus de confiance (art. 138 ch. 1 CP), de vol (art. 139 ch. 1 CP), d'escroquerie (art. 146 ch. 1 CP), de gestion déloyale (art. 158 ch. 1 al. 1 et 3 et ch. 2 CP), de faux dans les titres (art. 251 ch. 1 CP), d'instigation à faux dans les titres (art. 24 al. 1 et 251 ch. 1 CP) et de blanchiment d'argent (art. 305bis ch. 1 CP). En substance, il est reproché à A._ d'avoir, en sa qualité de président de la CRPE et de secrétaire général de la FMEF, occasionné à ces deux entités, en particulier la première, un préjudice de plusieurs millions de francs. La qualité de partie civile a été reconnue à la CRPE et la FMEF.
Par ordonnance du 21 avril 2009, le président du Tribunal du IIe d'arrondissement pour le district de Sion a fixé aux parties un délai au 20 mai 2009 pour requérir l'administration de preuves. Le 1er mai 2009, A._ a requis la récusation de ce magistrat, ainsi que de "tous les juges et greffiers appelés à former le tribunal d'arrondissement jugeant [sa] cause". Il demandait en outre la constitution d'un "tribunal d'arrondissement formé de trois juges et d'un greffier provenant d'un autre canton que celui du Valais". A l'appui de cette requête, il se prévalait du fait que tous les magistrats et greffiers du canton du Valais seraient membres de la future "CPVAL", qui résultera de la fusion de la CRPE et de la caisse de prévoyance du personnel de l'Etat du Valais (ci-après: la CPPEV). Ils seraient par conséquent "personnellement concernés par l'affaire pénale puisqu'une condamnation de A._ leur serait personnellement favorable".
Le 4 mai 2009, le président du Tribunal d'arrondissement a transmis la requête de récusation à la présidente du Tribunal cantonal du canton du Valais. Le 6 mai 2009, A._ a contesté la capacité de la présidente et du vice-président du Tribunal cantonal à statuer sur la requête de récusation, au motif qu'ils étaient membres de la CPPEV et de la CPVAL en formation, ainsi que de la FMEF, partie en cause. Par décision du 15 mai 2009, le vice-président du Tribunal cantonal - remplaçant la présidente en exercice, laquelle doit se récuser obligatoirement dès lors que son frère défend les intérêts d'une partie à la procédure - a rejeté, dans la mesure où elle n'est pas sans objet ou irrecevable, la demande de récusation dirigée contre lui-même et les juges du Tribunal cantonal, rejeté la demande de récusation des juges du tribunal du IIe arrondissement pour le district de Sion et déclaré irrecevable la demande de récusation du greffier de ce tribunal.
C. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler cette décision, d'admettre la demande de récusation du président du Tribunal d'arrondissement, du vice-président du Tribunal cantonal et des "juges assesseurs", de dire que tous les juges appelés à former le tribunal d'arrondissement pour le district de Sion jugeant sa cause sont récusés et qu'un tribunal d'arrondissement formé de trois juges provenant d'un autre canton que celui du Valais est constitué "sur ordre et désignation du Président du Tribunal fédéral". Il se plaint d'une violation des art. 29 al. 2 et 30 al. 1 Cst. ainsi que de l'art. 6 CEDH. Il invoque également la violation de diverses dispositions du Code de procédure pénale valaisan du 22 février 1962 (CPP/VS; RS 312.0). A._ a complété son recours les 10 et 26 juin 2009. Le Tribunal cantonal a présenté des observations. Le président du Tribunal d'arrondissement y a renoncé.
D. Par ordonnance du 26 mai 2009, le Président du Tribunal fédéral a rejeté la requête d'effet suspensif formée par le recourant, dans la mesure où elle n'était pas sans objet.

Considérant en droit:
1. Selon l'art. 78 al. 1 LTF, le Tribunal fédéral connaît des recours contre les décisions rendues en matière pénale. Accusé dans la procédure pénale litigieuse, le recourant a la qualité pour agir au sens de l'art. 81 al. 1 LTF. Conformément à l'art. 92 al. 1 LTF, une décision préjudicielle ou incidente qui est notifiée séparément et qui porte sur une demande de récusation peut immédiatement faire l'objet d'un recours. Pour le surplus, interjeté en temps utile contre une décision prise en dernière instance cantonale, le recours est recevable au regard des art. 80 et 100 al. 1 LTF.
2. A titre de moyens de preuve, le recourant requiert notamment son interrogatoire ainsi que l'édition "par la CRPE de ses statuts, de l'avoir LPP des magistrats et greffiers concernés". Compte tenu des questions soulevées dans le recours, on ne voit cependant pas en quoi ces moyens de preuve seraient pertinents et le recourant ne l'explique aucunement. Il n'y a donc pas lieu d'y donner suite. Il en va de même de la réquisition du 26 juin 2009, au demeurant tardive, tendant à la production non seulement du dossier cantonal, mais encore des annexes à celui-ci.
3. Dans la deuxième partie de son écriture, le recourant présente son propre exposé des événements en alléguant de nombreux faits. Il perd ainsi de vue que le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Le recourant ne peut critiquer la constatation de faits, susceptibles d'avoir une influence déterminante sur l'issue de la procédure, que si ceux-ci ont été établis de manière manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF, en particulier en violation de l'interdiction constitutionnelle de l'arbitraire (art. 97 al. 1 LTF; <ref-ruling> consid. 4.3 p. 62; Message concernant la révision totale de l'organisation judiciaire fédérale du 28 février 2001, FF 2001 p. 4135; pour une définition de l'arbitraire cf. <ref-ruling> consid. 3.1 p. 265 s.; <ref-ruling> consid. 3.1 p. 153), ce qu'il lui appartient de démontrer par une argumentation répondant aux exigences de l'art. 42 al. 2 LTF, respectivement de l'art. 106 al. 2 LTF (<ref-ruling> consid. 1.4.3 p. 254 s.). Une telle démonstration faisant défaut en l'espèce, il n'y a pas lieu de s'écarter des faits retenus dans la décision attaquée.
Le recourant se plaint en outre de la violation de diverses dispositions cantonales de procédure, à savoir les art. 34, 35 ch. 4 et 207 CPP/VS. Or, sous réserve des cas visés à l'art. 95 let. c à e LTF, la violation du droit cantonal ou communal ne constitue pas un motif de recours. Elle peut en revanche être constitutive d'une violation du droit fédéral au sens de l'art. 95 let. a LTF, telle que l'interdiction de l'arbitraire (art. 9 Cst.). Dans la mesure où le recourant ne soulève pas un tel grief, ce qu'il lui appartenait de faire en proposant une démonstration de l'arbitraire répondant aux exigences de motivation susmentionnées, ces moyens sont irrecevables.
4. Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, le recourant se plaint d'une violation de son droit d'être entendu, au motif que le vice-président du Tribunal cantonal a refusé d'administrer des moyens de preuve qu'il avait proposés, à savoir son interrogatoire et l'édition des statuts actuels de la CRPE ainsi que du "relevé des prestations CRPE" des magistrats concernés.
4.1 Tel qu'il est garanti à l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit pour l'intéressé de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuve pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 3.1 p. 371; <ref-ruling> consid. 2.2 p. 504 s.; <ref-ruling> consid. 2b p. 56 et les arrêts cités). L'autorité peut cependant renoncer à procéder à des mesures d'instruction lorsque les preuves administrées lui ont permis de former sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 2.1 p. 429; <ref-ruling> consid. 6c/cc in fine p. 135; <ref-ruling> consid. 4a p. 211 et les références).
4.2 En l'espèce, le vice-président du Tribunal cantonal a refusé sans arbitraire de procéder à l'interrogatoire du recourant. Il a considéré en substance que ni la Constitution ni le CPP/VS ne prévoyaient le droit d'être entendu oralement par l'autorité dans une procédure de récusation, le recourant ayant au demeurant pu faire valoir exhaustivement son point de vue par écrit. C'est en vain que le recourant prétend que l'art. 49 CPP/VS "exige que l'accusé soit entendu par le Juge à l'instruction et au débat relatif à la récusation", la disposition invoquée n'ayant pas une telle teneur. A cet égard, le recourant n'explique pas en quoi la procédure pénale cantonale - que le Tribunal fédéral examine sous l'angle de l'arbitraire - imposerait au juge d'entendre oralement le prévenu dans une procédure de récusation. Quant à l'édition des statuts de la CRPE et du relevé des prestations des magistrats concernés, on ne voit toujours pas en quoi ils seraient pertinents et le recourant ne démontre pas une mise à l'écart arbitraire de ces offres de preuves. Ce premier grief doit donc être rejeté.
5. Le recourant se plaint pour le surplus d'une violation des art. 30 al. 1 Cst. et 6 CEDH, au motif que le vice-président du Tribunal cantonal a refusé de se récuser.
5.1 La garantie d'un tribunal indépendant et impartial instituée par les art. 30 al. 1 Cst. et 6 par. 1 CEDH - qui ont, de ce point de vue, la même portée - permet, indépendamment du droit de procédure cantonal, de demander la récusation d'un juge dont la situation ou le comportement est de nature à susciter des doutes quant à son impartialité; elle vise à éviter que des circonstances extérieures à l'affaire puissent influencer le jugement en faveur ou au détriment d'une partie. Il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale du magistrat, mais seules des circonstances constatées objectivement doivent être prises en considération; les impressions purement individuelles du plaideur ne sont pas décisives (<ref-ruling> consid. 2.1 p. 240, 20 consid. 4.2 p. 21; <ref-ruling> consid. 5.2 p. 3 et 6.2 p. 6; <ref-ruling> consid. 1.1 p. 25 et les arrêts cités).
5.2 En l'espèce, le recourant voit un motif de prévention dans le fait que le vice-président du Tribunal cantonal est membre de la FMEF et affilié à la CRPE, qui fusionnera avec la CPPEV. En substance, il allègue qu'on lui reproche d'avoir causé un important préjudice financier à ces institutions, ce qui aurait une incidence sur les cotisations de leurs membres ainsi que sur les prestations assurées. Par conséquent, le magistrat visé par la demande de récusation aurait, à l'instar de tous les juges du canton du Valais, un intérêt direct au procès.
Cette argumentation ne convainc pas. En effet, la décision attaquée retient, sans être contredite sur ce point, qu'il est reproché au recourant d'avoir frustré la CRPE d'un montant d'environ quatre millions de francs, alors que la fortune totale qui sera gérée par la future CPVAL avoisinera les deux milliards de francs. Dans ces conditions, il est douteux que l'issue du procès du recourant ait une incidence significative sur la santé financière des institutions en question et encore moins sur les cotisations et les prestations assurées. Il en va de même en ce qui concerne la FMEF, le recourant se bornant à affirmer que les dettes de cette fédération influeraient sur les cotisations de ses membres, sans aucunement démontrer que le comportement qui lui est reproché ait une influence notable sur la situation financière de l'institution en question. Le vice-président du Tribunal cantonal a en outre considéré que l'affiliation à la FMEF était un motif de récusation facultative et que, conformément à la jurisprudence cantonale, l'appartenance d'un magistrat à cette fédération ne faisait pas obstacle à son intervention pour trancher le cas de récusation soulevé. Le recourant ne remettant pas en cause cette appréciation, il n'y a pas lieu de s'en écarter.
Enfin, le recourant ne remet pas davantage en question les considérants de la décision querellée selon lesquels les engagements règlementaires de la CPVAL sont garantis par l'Etat, de sorte que les personnes qui seront affiliées à cette caisse ne risquent pas de pâtir d'une hypothétique situation financière problématique de celle-ci. En définitive, on ne voit pas en quoi le magistrat visé par la demande de récusation aurait un intérêt particulier à l'issue du procès ou se trouverait dans une situation de nature à susciter des doutes objectifs quant à son impartialité. C'est donc à bon droit que la demande de récusation a été rejetée.
6. Invoquant une violation de l'art. 30 al. 1 Cst., le recourant reproche encore au vice-président du Tribunal cantonal d'avoir statué sur la demande de récusation des membres du Tribunal d'arrondissement et d'avoir tranché lui-même une demande de récusation qui le visait.
6.1 En principe, le juge dont la récusation est demandée ne devrait pas participer à la décision à rendre à ce sujet (<ref-ruling> consid. 2b p. 476; <ref-ruling>; <ref-ruling> consid. 1b p. 303). La jurisprudence admet toutefois une exception à ce principe, en considérant que, même si cette décision incombait, selon la loi de procédure applicable, à une autre autorité, un tribunal dont la récusation est demandée en bloc peut écarter lui-même la requête lorsque celle-ci est abusive ou manifestement mal fondée (<ref-ruling> consid. 4.2.2 p. 464; <ref-ruling> consid. 3a p. 476; <ref-ruling>; <ref-ruling> consid. 1b p. 303; cf. également arrêts 6B_338/2008 du 7 janvier 2008 consid. 2.1, 1B_106/2007 du 20 juin 2007 consid. 3 et les références). Est notamment abusif le comportement de la partie qui entreprend de récuser systématiquement et sans discernement ses juges, en cherchant à paralyser le fonctionnement de l'appareil judiciaire (cf. arrêts 1B_41/2009 du 9 mars 2009 consid. 2 et 1B_246/2008 du 13 novembre 2008 consid. 2.2). Les juridictions cantonales peuvent aussi appliquer cette jurisprudence, développée dans le cadre d'une demande de récusation des juges du Tribunal fédéral, sans tomber dans l'arbitraire, à la condition que le caractère abusif ou manifestement infondé de la demande de récusation ne soit pas admis trop facilement (cf. arrêts 6P.54/2005 du 12 octobre 2005 consid. 3.2 et 1P.553/2001 du 12 novembre 2001 consid. 2b).
6.2 En l'espèce, le recourant a demandé la récusation de "tous les juges et greffiers appelés à former le tribunal d'arrondissement" compétent pour juger sa cause. Conformément à l'art. 35 ch. 4 let. b CPP/VS, c'est donc bien le président du Tribunal cantonal qui est appelé à statuer. La présidente en exercice s'étant récusée, le fait que le vice-président la remplace ne prête pas le flanc à la critique. Compte tenu des motifs invoqués pour demander la récusation de l'ensemble des juges du Tribunal d'arrondissement, le recourant est malvenu de reprocher au vice-président du Tribunal cantonal d'avoir statué sur la demande de récusation sans connaître la composition du tribunal qui sera appelé à juger sa cause. En effet, les motifs de récusation invoqués ayant trait à l'affiliation des juges à la CRPE et à la FMEF, ils s'appliquent à tous les magistrats de ce tribunal.
6.3 Il reste à examiner si le vice-président du Tribunal cantonal pouvait statuer lui-même sur sa propre récusation, conformément à la jurisprudence susmentionnée. Au cours de la procédure, le recourant a présenté de multiples demandes de récusation. Elles visaient le juge d'instruction, le juge d'instruction cantonal, le Procureur général, les membres du Tribunal cantonal, les magistrats affiliés à la FMEF voire même des inspecteurs de police. Les requêtes qui n'ont pas été retirées par le recourant ont toutes été rejetées ou déclarées irrecevables (cf. supra consid. A). Une fois la cause transmise au juge du fond, le recourant a immédiatement demandé sa récusation, puis celle de toutes les personnes appelées à fonctionner dans le Tribunal d'arrondissement compétent, du magistrat appelé à statuer sur la demande de récusation et enfin de tous les juges et greffiers du canton du Valais.
Le comportement procédural du recourant ne diffère donc pas fondamentalement des abus dénoncés dans les arrêts précités. En effet, le recourant entreprend de récuser tous ses juges sans guère de discernement, en se prévalant de motifs variés - notamment de liens ténus des juges avec les institutions concernées par le litige - et sans rendre vraisemblable un intérêt personnel des magistrats visés à l'issue du procès (cf. supra consid. 5.2). Le vice-président du Tribunal cantonal pouvait dès lors considérer que la requête de récusation qui le visait était abusive, ou à tout le moins manifestement mal fondée, de sorte qu'il pouvait statuer lui-même. Cette solution était d'autant plus justifiée que le recourant souhaite récuser tous les juges du canton du Valais et voir sa cause jugée par des magistrats d'un autre canton. Il y a lieu de rappeler à cet égard que la possibilité d'obtenir l'intervention d'un autre magistrat trouve naturellement sa fin lorsque la partie a récusé tous les juges appelés à statuer et que la désignation d'une autorité de récusation ou de jugement extérieure au canton concerné paraît inconciliable tant avec le principe de la légalité qu'avec les règles du for applicables au procès pénal (cf. arrêt 1P.127/1999 du 8 avril 1999 consid. 3 et les références). Dans ces conditions, le magistrat concerné n'a pas violé l'art. 30 al. 1 Cst. en statuant sur la requête de récusation, de sorte que ce grief doit lui aussi être rejeté.
7. Enfin, le recourant invoque encore un grief dans son écriture complémentaire du 10 juin 2009. Cette écriture ayant été déposée avant l'échéance du délai de recours, il convient d'entrer en matière. Le recourant se plaint en substance du fait que le vice-président du Tribunal cantonal a déjà fonctionné dans la même affaire en qualité de président de la Chambre pénale du Tribunal cantonal, autorité de recours contre les décisions du juge d'instruction (art. 166 CPP/VS). Il aurait donc agi, selon les termes du recourant, comme "supérieur des juges d'instruction" et comme "supérieur du juge de fond", ce qui contreviendrait aux art. 30 al. 1 Cst. et 6 par. 1 CEDH. Le recourant ne démontre cependant pas en quoi ces dispositions auraient été violées concrètement. Il soutient qu'en statuant comme président de la Chambre pénale puis comme vice-président du Tribunal cantonal, le magistrat concerné aurait exercé successivement les fonctions de juge d'instruction et de juge de fond, ce qui ne correspond manifestement pas à la réalité. Au demeurant, on ne voit pas d'emblée en quoi les circonstances invoquées par le recourant feraient redouter une partialité du juge visé par la demande de récusation, étant précisé qu'il est inévitable que les mêmes personnes statuent plusieurs fois dans la même cause lorsque le prévenu saisit à de multiples reprises le Tribunal cantonal.
8. Il s'ensuit que le recours doit être rejeté, dans la mesure de sa recevabilité. Le recourant, qui succombe, doit supporter les frais de la présente procédure (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Tribunal du IIe arrondissement pour le district de Sion et au vice-Président du Tribunal cantonal du canton du Valais.
Lausanne, le 12 août 2009
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Rittener