Considérant en fait et en droit :
1.
Par décision du 16 septembre 2021, le Président de la Commission cantonale de recours en matière fiscale du canton du Valais (ci-après: la Commission de recours) a déclaré irrecevable, pour cause de paiement tardif de l'avance de frais, le recours que B.A._ et A.A._ avaient formé contre la décision sur réclamation du 12 mai 2021 de la Commission cantonale d'impôts des personnes physiques du canton du Valais concernant l'impôt cantonal et communal et l'impôt fédéral direct des périodes fiscale 2011, 2014 et 2016.
2.
B.A._ et A.A._ forment un recours en matière de droit public auprès de la I e Cour de droit public du Tribunal fédéral. Ils concluent, sous suite de frais et dépens, à l'annulation de la décision du 16 septembre 2021 et au renvoi de la cause à la Commission de recours pour nouvelle décision.
Il n'a pas été ordonné d'échange d'écritures.
3.
L'auteur d'un recours déclaré irrecevable pour non-paiement de l'avance de frais dans le délai imparti est habilité à contester l'arrêt d'irrecevabilité par un recours au Tribunal fédéral, lorsque l'arrêt au fond de l'autorité intimée aurait pu être déféré à cette autorité (cf. ATF 135 II 145 consid. 3.2 et les références; arrêts 2C_361/2021 du 28 septembre 2021 consid. 1.2; 2C_523/2019 du 12 novembre 2019 consid. 1.1). Cette condition est remplie en l'espèce. Sur le fond, la cause relève du droit public (art. 82 let. a LTF) et ne tombe sous aucune exception prévue à l'art. 83 LTF. Le recours est dirigé contre une décision finale (art. 90 LTF), qui a été rendue par le Président de la Commission de recours en vertu de l'art. 152b de la loi fiscale du 10 mars 1976 du canton du Valais (LF; RS/VS 642.1; cf. décision entreprise consid. 1), qui prévoit que les recours manifestement irrecevables peuvent faire l'objet d'une décision du Président de ladite Commission, qui statue comme juge unique. La décision attaquée émane donc d'une autorité cantonale supérieure de dernière instance (art. 86 al. 1 let. d et al. 2 LTF).
Au surplus, le recours a été formé dans les formes prescrites (art. 42 LTF) et en temps utile (art. 100 al. 1 LTF) par les destinataires de l'arrêt attaqué, qui ont qualité pour recourir (cf. art. 89 al. 1 LTF). Il convient donc d'entrer en matière sur le recours, étant précisé que le fait que les recourants aient adressé leur recours à la I e Cour de droit public du Tribunal fédéral, alors que les impôts sont de la compétence de la II e Cour de droit public (cf. art. 30 al. 1 let. b du Règlement du Tribunal fédéral; RS 173.110.131), ne saurait leur nuire.
4.
Comme le Tribunal fédéral n'a pas ordonné d'échange d'écritures, la demande des recourants de pouvoir déposer des observations complémentaires lorsque l'autorité cantonale se sera déterminée est sans objet, étant rappelé qu'ils auraient de toute manière disposé d'un droit de réplique en vertu de l'art. 29 al. 2 Cst. (ATF 138 I 154 consid. 2.3.2; 484 consid. 2.1 et 2.2; 137 I 195 consid. 2.3.1).
5.
5.1. Saisi d'un recours en matière de droit public, le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Toutefois et en dérogation à l'art. 106 al. 1 LTF, il n'examine la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal et intercantonal que si ce grief a été invoqué et motivé par le recourant (art. 106 al. 2 LTF) c'est-à-dire s'il a été expressément soulevé et exposé de façon claire et détaillée (ATF 147 II 44 consid. 1.2; 146 IV 114 consid. 2.1; 143 II 283 consid. 1.2.2; 142 III 364 consid. 2.4). Sauf exceptions non pertinentes en l'espèce (cf. art. 95 let. c et d LTF), la violation du droit cantonal en tant que tel ne peut pas être invoquée devant le Tribunal fédéral (art. 95 LTF a contrario). Il est néanmoins possible de faire valoir que son application consacre une violation du droit fédéral, notamment qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels. Le Tribunal fédéral n'examine cependant de tels moyens que s'ils ont été invoqués et motivés par le recourant de manière conforme aux exigences de l'art. 106 al. 2 LTF qui viennent d'être rappelées.
5.2. Pour statuer, le Tribunal fédéral se fonde sur les faits établis par l'autorité précédente (cf. art. 105 al. 1 LTF). Selon l'art. 97 al. 1 LTF, le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire - ou en violation du droit au sens de l'art. 95 LTF et si la correction du vice est susceptible d'influer sur le sort de la cause (ATF 142 II 355 consid. 6; 139 II 373 consid. 1.6), ce qu'il appartient au recourant de démontrer (ATF 137 II 353 consid. 5.1; 133 IV 286 consid. 6.2). La présentation des faits et les critiques appellatoires sont irrecevables (ATF 145 I 26 consid. 1.3; 144 II 281 consid. 3.6.2). En l'espèce, les recourants exposent en détail les faits du fond de la cause, qui ne ressortent pas de l'arrêt attaqué, sans expliquer en quoi les conditions de l'art. 97 LTF seraient remplies. Il n'en sera partant pas tenu compte.
6.
Le litige porte sur le point de savoir si c'est à juste titre que le Président de la Commission de recours a refusé d'entrer en matière sur le recours des recourants en raison du paiement tardif de l'avance de frais.
En substance, le Président de la Commission de recours a exposé qu'en vertu de l'art. 153 al. 6 LF, " l'autorité de recours, ou son secrétaire, peut exiger du recourant une avance de frais en lui impartissant un délai de 30 jours en l'avertissant qu'à défaut, le recours sera déclaré irrecevable". L'art. 140 est applicable par analogie. Il a souligné que, conformément à l'art. 140 LF, ce délai peut être restitué, si le contribuable établit avoir été empêché d'agir en temps utile en raison, notamment, de motifs sérieux. Dans le cas d'espèce, il a constaté que le secrétariat de la Commission de recours a, par courrier recommandé du 24 juin 2021, demandé au mandataire des recourants de verser, dans un délai de trente jours et sous peine d'irrecevabilité, une avance de frais de 500 fr., en annexant audit courrier un bulletin de versement qui indiquait le 28 juillet 2021 comme date d'échéance du paiement. Or, le paiement de l'avance de frais est intervenu le 2 août 2021 seulement. Dans sa réponse au courrier du 24 août 2021 du secrétariat de la Commission de recours informant le mandataire des recourants que ce paiement était tardif, mais qu'une restitution du délai était possible en cas de motif sérieux, ledit mandataire a expliqué que c'était de manière involontaire que le paiement avait été exécuté tardivement, le retard résultant de la manière dont l'exécution des paiements était organisée à l'interne. Le Président de la Commission de recours a estimé qu'il ne s'agissait pas là d'un motif sérieux justifiant la restitution du délai et, par conséquent, a déclaré le recours irrecevable.
7.
7.1. L'exigence de payer une avance de frais et les conséquences juridiques qui en découlent en cas de non-paiement relèvent du droit de procédure cantonal. Par conséquent, les cantons restent libres, dans le respect des garanties constitutionnelles, d'organiser cette matière à leur guise. Ils ne sont en particulier pas tenus d'adopter une solution semblable à celle figurant à l'art. 62 al. 3 LTF, qui prescrit d'accorder un délai supplémentaire pour le paiement de l'avance de frais en cas de non-paiement dans le premier délai (arrêts 2C_361/2021 du 28 septembre 2021 consid. 5.1; 2C_985/2019 du 26 mai 2020 consid. 6.1; 2C_1019/2019 du 12 décembre 2019 consid. 7.3 et les références). Il s'ensuit que, devant le Tribunal fédéral, les recourants peuvent seulement faire valoir que l'application du droit cantonal par les juges précédents est constitutive d'arbitraire ou est contraire à d'autres droits constitutionnels, en respectant les exigences de motivation qualifiées de l'art. 106 al. 2 LTF (arrêt 2C_54/2020 du 4 février 2020 consid. 6, in RF 75/2020 p. 431).
7.2. En l'occurrence, les recourants font valoir cinq moyens à l'encontre de l'arrêt attaqué.
7.2.1. Ils commencent par répéter que le paiement tardif de l'avance de frais est involontaire et qu'il est le résultat de la manière dont les ordres de paiements sont exécutés à l'interne par leur mandataire. Ils ne formulent toutefois aucun grief de violation du droit à l'encontre de l'arrêt attaqué, de sorte qu'il n'y a pas lieu de s'attarder plus avant sur ce point.
7.2.2. Ils soutiennent ensuite que la demande d'avance de frais qui leur a été adressée serait nulle de plein droit, car elle a été signée par une employée secrétaire "ad hoc" de la Commission de recours. Or, seule l'autorité de recours ou son secrétaire seraient compétents pour exiger une avance de frais selon l'art. 153 al. 6 LF. Les recourants n'invoquent toutefois pas une application arbitraire du droit cantonal, ni la violation de principes constitutionnels. Ils n'expliquent au surplus pas pour quel motif ils considèrent que le courrier du 24 août 2021 ne leur a pas été adressé par la Commission de recours ou par son secrétaire du (seul) fait qu'il a été signé par une personne du secrétariat.
7.2.3. Les recourants se prévalent ensuite du caractère facultatif du prélèvement d'une avance de frais selon l'art. 153 al. 6 LF pour en déduire que ce prélèvement n'est pas une condition légale au traitement d'un recours. Ils se fondent ici sur leur propre interprétation de l'art. 153 al. 6 LF, sans expliquer en quoi l'instance précédente l'aurait appliqué de manière arbitraire ou contraire à d'autres droits constitutionnels. Au demeurant, leur interprétation fait fi de la lettre claire de cette disposition.
7.2.4. Les recourants font également valoir qu'au vu du montant modique de l'avance de frais au regard des enjeux financiers en cause, qui s'élèveraient à plus d'un million de francs, la perception d'une avance de frais de 500 fr. n'est pas propre à couvrir les frais de la procédure, en violation du principe de la proportionnalité (art. 5 al. 2 Cst.). Refuser de traiter leur recours alors qu'une charge fiscale importante est en jeu serait par ailleurs contraire au principe de l'égalité de traitement (art. 127 al. 2 Cst.) et à leur droit d'être entendus (art. 29 al. 2 Cst.). Ces griefs, pour autant qu'ils soient compréhensibles, ne sont pas formulés de manière conforme aux exigences de motivation de l'art. 106 al. 2 LTF et sont partant d'emblée irrecevables. Au demeurant, il est paradoxal que les recourants tentent de justifier le paiement tardif de l'avance de frais au motif que celle-ci porterait sur un montant trop peu élevé.
7.2.5. Les recourants font finalement valoir qu'en refusant d'entrer en matière sur leur recours alors que le paiement n'est intervenu que deux jours après l'échéance du délai, l'instance précédente aurait fait preuve de formalisme excessif.
De jurisprudence constante, le Tribunal fédéral retient qu'il n'y a pas de formalisme excessif à refuser d'entrer en matière sur un recours lorsque, conformément au droit de procédure applicable, la recevabilité de celui-ci est subordonnée au versement d'une avance de frais dans un délai déterminé et que le montant requis n'a pas été versé dans ce délai, pour autant que l'auteur du recours ait été averti de façon appropriée du montant à verser, du délai imparti pour le paiement et des conséquences de l'inobservation de ce délai (ATF 133 V 402 consid. 3.3 104 Ia 105 consid. 5; jurisprudence encore rappelée in arrêt 2C_54/2020 du 4 février 2020 consid. 8.2). C'est donc en vain que les recourants - qui ne contestent pas avoir été dûment avertis des conséquences de l'inobservation du délai de paiement - se plaignent de formalisme excessif.
8.
Il découle de ce qui précède que le recours, manifestement infondé, doit être rejeté en application de l'art. 109 al. 2 let. a LTF.
9.
Succombant, les recourants doivent supporter les frais judiciaires, à parts égales et solidairement entre eux (art. 66 al. 1 et 5 LTF). Il n'est pas alloué de dépens (cf. art. 68 al. 1 et 3 LTF).i
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3.
Le présent arrêt est communiqué à la représentante des recourants, au Service cantonal des contributions du canton du Valais et à la Commission cantonale de recours en matière fiscale du canton du Valais.
Lausanne, le 22 décembre 2021
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Vuadens