Faits:
A.
Le 29 octobre 2013, A._ a déposé deux recours auprès de la Cour de droit administratif et public du Tribunal cantonal (ci-après: la CDAP), l'un contre une décision rendue par les Archives cantonales vaudoises le 23 octobre 2013 et l'autre contre une décision de la cheffe du Département cantonal de la formation, de la jeunesse et de la culture du 4 novembre 2013.
B.
Par requêtes adressées les 20 et 28 novembre 2013 à la présidente de la CDAP III et au Tribunal cantonal, l'intéressé a demandé la récusation de la CDAP II dans le cadre de l'instruction de ces nouvelles causes. Il faisait valoir que cette cour avait déjà instruit la "cause connexe GE.2012.0185", que son approche des nouveaux litiges était de ce fait nécessairement biaisée et qu'une récusation était par conséquent indispensable pour garantir un traitement impartial.
La Cour administrative du Tribunal cantonal (ci-après: la Cour administrative) a rejeté ces demandes par arrêt du 24 janvier 2014, considérant en substance qu'il n'existait aucun motif de récusation.
C.
Le 24 février 2014, A._ a recouru contre l'arrêt précité auprès du Tribunal fédéral. Il réitère sa demande visant à faire récuser les magistrats Kaltenrieder et Zimmermann.
La Cour administrative ainsi que les trois juges interpellés dans le cadre de cette procédure ont renoncé à se déterminer.

Considérant en droit:
1.
Le recourant n'a pas indiqué par quelle voie de recours il procède auprès du Tribunal fédéral. Toutefois, cette imprécision ne saurait lui nuire si son recours remplit les exigences légales de la voie de droit qui lui est ouverte (au sujet d'une voie erronée de recours, cf. <ref-ruling> consid. 1.2 p. 382 et les arrêts cités).
1.1. Conformément aux art. 82 et 92 al. 1 LTF, une décision prise en dernière instance cantonale relative à la récusation d'un magistrat dans une procédure de droit public peut faire immédiatement l'objet d'un recours en matière de droit public, malgré son caractère incident. L'auteur de la demande de récusation débouté a par ailleurs qualité pour agir en vertu de l'<ref-law>.
1.2. Le recourant n'a pas pris de conclusion formelle (cf. <ref-law>). Il n'est toutefois pas nécessaire que les conclusions soient formulées explicitement pour qu'elles soient recevables; il suffit qu'elles ressortent clairement des motifs allégués (<ref-ruling> consid. 1 p. 488; <ref-ruling> consid. 2c p. 95). En l'espèce, la lecture du mémoire de recours permet de déduire sans équivoque que l'intéressé conteste le rejet de ses demandes de récusation et conclut implicitement à la réforme de l'arrêt attaqué, en ce sens que ses requêtes soient admises. Son recours répond ainsi aux exigences de l'<ref-law>.
1.3. Le recours est dès lors en principe recevable, sous réserve des conditions de motivation posées à l'art. 42 al. 2 et 106 al. 2 LTF (cf. consid. 2 ci-dessous).
2.
La Cour administrative a rejeté les demandes de récusation du recourant en application des art. 6 par. 1 CEDH, 30 al. 1 Cst. et 9 de la loi cantonale vaudoise du 28 octobre 2008 sur la procédure administrative.
2.1. Le Tribunal fédéral ne sanctionne une violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal que si ce moyen est invoqué et motivé par le recourant (<ref-law>). Celui-ci doit ainsi indiquer précisément quelle disposition constitutionnelle ou légale a été violée et démontrer par une argumentation précise en quoi consiste la violation (<ref-law>; cf. <ref-ruling> consid. 3.2 p. 88; <ref-ruling> consid. 1.4 p. 287). Le Tribunal fédéral n'a pas à vérifier de lui-même si l'acte entrepris est en tous points conforme au droit et à l'équité. Il n'examine que les griefs d'ordre constitutionnel invoqués et suffisamment motivés dans le mémoire de recours. Le recourant ne saurait se contenter de soulever de vagues griefs ou de renvoyer aux actes cantonaux (<ref-ruling> consid. 1.4 p. 254; <ref-ruling> consid. 6 p. 397).
2.2. Dans son mémoire, le recourant demande la récusation des juges Kaltenrieder et Zimmermann, en étayant les critiques qu'il avait formulées à l'appui de ses requêtes devant la Cour administrative. Il n'explique toutefois pas clairement en quoi l'arrêt attaqué ne serait pas conforme aux normes susmentionnées; l'argumentation développée, de style appellatoire, est plutôt confuse. La question de la recevabilité du recours sous l'angle de la motivation peut toutefois rester indécise puisque celui-ci doit de toute façon être rejeté au fond.
3.
3.1. La garantie d'un tribunal indépendant et impartial instituée par les art. 30 al. 1 Cst. et 6 par. 1 CEDH - qui ont, de ce point de vue, la même portée - permet, indépendamment du droit de procédure cantonal, de demander la récusation d'un juge dont la situation ou le comportement est de nature à susciter des doutes quant à son impartialité; elle vise à éviter que des circonstances extérieures à l'affaire puissent influencer le jugement en faveur ou au détriment d'une partie. Il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale du magistrat, mais seules des circonstances constatées objectivement doivent être prises en considération; les impressions purement individuelles du plaideur ne sont pas décisives (<ref-ruling> consid. 2.1 p. 240 et les arrêts cités).
Selon la jurisprudence, il n'est pas admissible qu'un magistrat connaisse successivement de la même affaire en première instance puis en instance de recours, comme juge titulaire ou suppléant (<ref-ruling> consid. 3d p. 58 et les références citées). En revanche, la participation successive d'un juge à des procédures distinctes posant les mêmes questions n'est contraire ni à la Constitution ni à la Convention européenne des droits de l'homme (arrêt 5P.202/2003 du 11 août 2003 consid. 2.2.3, in SJ 2004 I 128; arrêt de la Cour européenne des droits de l'homme Gillow contre Royaume-Uni du 24 novembre 1986, série A vol. 109 § 72 et 73, où il est observé qu'il arrive souvent que des juridictions supérieures aient à traiter successivement d'affaires analogues ou apparentées; cf. <ref-ruling> consid. 3d p. 58).
Le fait notamment qu'un magistrat ait déjà agi dans une cause peut éveiller un soupçon de partialité. Le cumul des fonctions n'est alors admissible que si le magistrat, en participant à des décisions antérieures relatives à la même affaire, n'a pas déjà pris position au sujet de certaines questions de manière telle qu'il ne semble plus à l'avenir exempt de préjugés et que, par conséquent, le sort du procès n'apparaisse plus indécis. Pour en juger, il faut tenir compte des faits, des particularités procédurales ainsi que des questions concrètes soulevées au cours des différents stades de la procédure (<ref-ruling> consid. 2a p. 169 et l'arrêt cité; cf. aussi <ref-ruling> consid. 6 p. 83 ss). Par ailleurs, le seul fait qu'un juge ait déjà rendu une décision défavorable au recourant ne suffit pas pour admettre un motif de prévention (cf. <ref-ruling> consid. 1 p. 279).
3.2. Dans le cas particulier, la Cour administrative a relevé que les deux causes actuellement pendantes devant la CDAP III présentaient des éléments de connexité avec l'affaire GE.2012.0185, jugée par cette même cour le 30 août 2013. Conformément à la jurisprudence, l'attribution au même juge de dossiers dont le complexe de faits était semblable respectait la garantie du juge impartial, dans la mesure où l'appréciation de l'autorité intervenait avec le jugement et sur la base des éléments produits et débattus en procédure; la loi instaurait une limite uniquement lorsque le juge agissait dans la même cause à un autre titre, ce qui n'était pas le cas en l'espèce. Il n'existait dès lors aucun motif de récusation de la CDAP III. La Cour administrative a ajouté que le recourant n'avait fait valoir aucun élément concret qui pourrait faire apparaître les juges de la CDAP III comme prévenus, si bien que les demandes de récusation devaient être rejetées en ce qu'elles visaient la récusation de la CDAP III dans son ensemble.
Aucun argument du recourant ne permet de déceler une violation, par la cour cantonale, des dispositions légales relatives à la récusation. Le recourant semble admettre qu'il n'existe pas de motif de récusation contre la CDAP dans son ensemble (cf. ch. 4.1.4 et 4.2 de son mémoire de recours). Il soutient toutefois que les juges Kaltenrieder et Zimmermann seraient prévenus contre lui "compte-tenu du fait du non-respect de la loi et du droit [par ces magistrats] dans le jugement dont a souffert GE.2012.0185". Or le recours de l'intéressé contre ce jugement a été rejeté par le Tribunal fédéral (arrêt 5A_771/2013 du 3 février 2014), qui n'a décelé aucune violation du droit par la CDAP dans le traitement de cette affaire. En définitive, on ne distingue pas dans les allégués du recourant d'éléments concrets permettant objectivement de retenir une apparence de prévention des juges cantonaux Kaltenrieder et Zimmermann. Dans ces conditions, il y a lieu de constater que la garantie du juge impartial a été respectée, de sorte que c'est à bon droit que la Cour administrative a rejeté les demandes de récusation.
4.
Il s'ensuit que le recours doit être rejeté, dans la mesure où il est recevable. Les frais judiciaires sont mis à la charge du recourant qui succombe (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, fixés à 1'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, à Imogen Billote et à la Cour administrative du Tribunal cantonal du canton de Vaud.
Lausanne, le 30 avril 2014
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Mabillard