Faits: A. Le 22 juillet 2003, le Juge d'instruction des affaires économiques du canton du Valais (ci-après: le juge d'instruction) a ouvert une instruction pénale d'office contre A._ pour abus de confiance, voire pour gestion déloyale et blanchiment d'argent. Celui-ci était soupçonné d'avoir utilisé à son profit des biens, sommes d'argent et autres valeurs patrimoniales au détriment de la Caisse de retraite et de prévoyance du personnel enseignant du canton du Valais (ci-après: la CRPE), dont il était président. Le 2 septembre 2003, A._ a demandé la récusation du juge d'instruction et du juge d'instruction cantonal. Le 12 septembre 2003, il a formé une nouvelle demande de récusation du juge d'instruction. Ces requêtes ont été déclarées irrecevables ou rejetées. Les recours formés auprès du Tribunal fédéral contre ces décisions ont été rejetés dans la mesure de leur recevabilité (arrêts 1P.619/2003, 1P.620/2003 et 1P.621/2003 du 26 novembre 2003). Le 28 avril 2004, A._ a à nouveau demandé la récusation du juge d'instruction en charge de l'affaire, au motif que celui-ci serait membre de la fédération des magistrats, des enseignants et des fonctionnaires de l'Etat du Valais (ci-après: la FMEF), institution concernée par l'instruction et dont le prévenu était secrétaire général. Le 6 mai 2004, il a demandé la récusation de tous les magistrats ou greffiers étant membres de la FMEF, ainsi que celle du président du Tribunal cantonal. Ces requêtes ont été rejetées. Le 16 décembre 2004, A._ a requis la récusation du Procureur général en charge du dossier. Cette requête a également été rejetée. Le 21 décembre 2004, A._ a une nouvelle fois demandé la récusation du juge d'instruction. Le même jour, il a en outre requis la récusation de deux inspecteurs de police, alléguant qu'ils seraient affiliés à la FMEF. Ces deux requêtes ont été retirées par l'intéressé. Une nouvelle requête de récusation formulée le 20 octobre 2006 a été rejetée en ce qui concerne le juge d'instruction et déclarée irrecevable s'agissant du juge d'instruction cantonal. Le recours formé contre cette décision a lui aussi été rejeté dans la mesure de sa recevabilité par la Cour de céans (arrêt 1P.815/2006 du 13 mars 2007). Le 12 mars 2007, A._ a encore une fois demandé la récusation du juge d'instruction. Cette requête a connu le même sort que les précédentes (arrêt 1B_99/2007 du 26 septembre 2007). B. Le 24 février 2009, le Procureur général du canton du Valais a renvoyé A._ à jugement devant le tribunal du IIe arrondissement pour le district de Sion, pour répondre des infractions d'abus de confiance (art. 138 ch. 1 CP), de vol (art. 139 ch. 1 CP), d'escroquerie (art. 146 ch. 1 CP), de gestion déloyale (art. 158 ch. 1 al. 1 et 3 et ch. 2 CP), de faux dans les titres (art. 251 ch. 1 CP), d'instigation à faux dans les titres (art. 24 al. 1 et 251 ch. 1 CP) et de blanchiment d'argent (art. 305bis ch. 1 CP). En substance, il est reproché à A._ d'avoir, en sa qualité de président de la CRPE et de secrétaire général de la FMEF, occasionné à ces deux entités, en particulier la première, un préjudice de plusieurs millions de francs. La qualité de partie civile a été reconnue à la CRPE et la FMEF. Par ordonnance du 21 avril 2009, le président du Tribunal du IIe d'arrondissement pour le district de Sion a fixé aux parties un délai au 20 mai 2009 pour requérir l'administration de preuves. Le 1er mai 2009, A._ a requis la récusation de ce magistrat, ainsi que de "tous les juges et greffiers appelés à former le tribunal d'arrondissement jugeant [sa] cause". Il demandait en outre la constitution d'un "tribunal d'arrondissement formé de trois juges et d'un greffier provenant d'un autre canton que celui du Valais". A l'appui de cette requête, il se prévalait du fait que tous les magistrats et greffiers du canton du Valais seraient membres de la future "CPVAL", qui résultera de la fusion de la CRPE et de la caisse de prévoyance du personnel de l'Etat du Valais (ci-après: la CPPEV). Ils seraient par conséquent "personnellement concernés par l'affaire pénale puisqu'une condamnation de A._ leur serait personnellement favorable". Le 4 mai 2009, le président du Tribunal d'arrondissement a transmis la requête de récusation à la présidente du Tribunal cantonal du canton du Valais. Le 6 mai 2009, A._ a contesté la capacité de la présidente et du vice-président du Tribunal cantonal à statuer sur la requête de récusation, au motif qu'ils étaient membres de la CPPEV et de la CPVAL en formation, ainsi que de la FMEF, partie en cause. Par décision du 15 mai 2009, le vice-président du Tribunal cantonal - remplaçant la présidente en exercice, laquelle doit se récuser obligatoirement dès lors que son frère défend les intérêts d'une partie à la procédure - a rejeté, dans la mesure où elle n'est pas sans objet ou irrecevable, la demande de récusation dirigée contre lui-même et les juges du Tribunal cantonal, rejeté la demande de récusation des juges du tribunal du IIe arrondissement pour le district de Sion et déclaré irrecevable la demande de récusation du greffier de ce tribunal. C. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler cette décision, d'admettre la demande de récusation du président du Tribunal d'arrondissement, du vice-président du Tribunal cantonal et des "juges assesseurs", de dire que tous les juges appelés à former le tribunal d'arrondissement pour le district de Sion jugeant sa cause sont récusés et qu'un tribunal d'arrondissement formé de trois juges provenant d'un autre canton que celui du Valais est constitué "sur ordre et désignation du Président du Tribunal fédéral". Il se plaint d'une violation des art. 29 al. 2 et 30 al. 1 Cst. ainsi que de l'art. 6 CEDH. Il invoque également la violation de diverses dispositions du Code de procédure pénale valaisan du 22 février 1962 (CPP/VS; RS 312.0). A._ a complété son recours les 10 et 26 juin 2009. Le Tribunal cantonal a présenté des observations. Le président du Tribunal d'arrondissement y a renoncé. D. Par ordonnance du 26 mai 2009, le Président du Tribunal fédéral a rejeté la requête d'effet suspensif formée par le recourant, dans la mesure où elle n'était pas sans objet.