Faits: A. Le 13 février 2008, le Juge d'instruction du Valais central B._ (ci-après: le juge d'instruction) a ordonné une enquête préliminaire concernant A._, pour des menaces qu'il aurait proférées à l'encontre du personnel de l'administration communale de Montana et des infractions à la loi fédérale du 20 juin 1997 sur les armes, les accessoires d'armes et les munitions (LArm; RS 514.54). L'intéressé a été interpellé le jour même. Par décision du 14 mars 2008, le juge d'instruction a ouvert une instruction d'office pour les infractions précitées (cause P1 08 253). Le 25 février 2008, A._ a déposé une plainte et dénonciation pénale à l'encontre des personnes qui seraient responsables des blessures qu'il a subies lors de son interpellation. Cette affaire est instruite par l'Office du Juge d'instruction cantonal (cause P3 08 7). B. Par courrier du 14 avril 2008, A._ a demandé la récusation du juge d'instruction B._ dans la cause P1 08 253. Il faisait valoir que ce magistrat devrait être entendu dans la cause P3 08 7 sur les circonstances de l'interpellation du 13 février 2008. Il alléguait également que le juge B._ était intervenu dans une autre affaire qui l'impliquait et qui aurait fait naître chez le magistrat précité un certain ressentiment à son égard. Il a confirmé sa demande de récusation par écriture du 25 avril 2008 adressée à la Présidente du Tribunal cantonal du canton du Valais, en reprenant uniquement le premier motif de récusation exposé ci-dessus. Il invoquait l'art. 33 ch. 1 let. b du Code de procédure pénale du canton du Valais du 22 février 1962 (CPP/VS; RS/VS 312.0), relatif à la récusation obligatoire du juge ayant agi précédemment à un autre titre dans l'affaire en cause. Il se prévalait en outre implicitement de l'art. 34 let. c CPP/VS, qui prévoit une récusation facultative s'il existe "des circonstances de nature à faire suspecter l'impartialité" du magistrat. Par jugement du 30 mai 2008, la Présidente du Tribunal cantonal a rejeté la requête de récusation. Elle a considéré que l'art. 33 ch. 1 let. b CPP/VS ne trouvait pas application, l'audition éventuelle du juge B._ étant requise dans le cadre d'une procédure distincte de celle qu'il conduit. Pour le surplus, le fait que le magistrat en cause ait ordonné l'interpellation du 13 février 2008 ne permettait pas de le suspecter de partialité. C. Agissant par la voie du recours en matière pénale, A._ demande au Tribunal fédéral d'annuler ce jugement et de confier la cause P1 08 253 à un autre magistrat. Il se plaint d'une violation de l'art. 34 let. b et c CPP/VS et invoque les art. 30 al. 1 Cst. et 6 par. 1 CEDH relatifs à l'indépendance et à l'impartialité des magistrats. La Présidente du Tribunal cantonal et le Juge d'instruction du Valais central ont renoncé à se déterminer.