Faits:
A. Né en 1983, X._ a touché, dès avril 2003, des indemnités journalières de l'assurance-invalidité (AI) en raison de problèmes de dos qui l'ont contraint à cesser son activité professionnelle. Il a été déclaré inapte au service le 11 août 2003.
B. Dans le cadre de ses déclarations d'impôt sur le revenu pour les années 2003 et suivantes, X._ a déclaré les indemnités AI précitées.
La taxe d'exemption de l'obligation de servir due par X._ pour les années 2003, 2004 et 2005 a été établie par décisions des 14 novembre 2004, 22 mars 2006 et 2 août 2006. L'intéressé n'a pas formé de réclamation contre ces décisions dans le délai utile de 30 jours et a payé les montants fixés.
C. Le 24 septembre 2007, X._ a demandé à l'Office cantonal valaisan des affaires militaires (ci-après: l'Office cantonal) de lui rembourser 2'261,20 fr. correspondant au montant des taxes d'exemption de l'obligation de servir des années 2003 à 2005. Il alléguait que, les indemnités journalières AI n'étant pas soumises à taxe, il devait payer la taxe minimale de 200 fr. par année.
Par trois décisions du 25 septembre 2007, l'Office cantonal a déclaré la demande irrecevable, parce que le délai de réclamation était largement passé et que les taxations en cause étaient entrées en force.
D. X._ a alors porté sa cause devant la Commission de recours en matière fiscale du canton du Valais (ci-après: la Commission de recours), qui a rejeté le recours dans la mesure de sa recevabilité par décision du 23 avril 2008, notifiée le 1er juillet 2008. La Commission de recours a considéré en substance que c'était à juste titre que l'Office cantonal avait refusé d'entrer en matière sur la demande de l'intéressé. En effet, cette requête ne pouvait être considérée comme une réclamation, car elle était manifestement tardive, et il n'existait aucun motif d'empêchement susceptible de fonder la restitution du délai de réclamation. Examinant ensuite la requête comme une demande de révision, la Commission de recours l'a rejetée, car X._ faisait valoir une erreur de droit, ce qui n'était pas pertinent. De plus, l'autorité de taxation compétente n'avait pas violé son obligation de communiquer et l'imposition des indemnités journalières AI résultait d'une erreur commise par l'intéressé lui-même, qui avait empêché que soit générée une annonce automatique concernant l'exonération de ces montants.
E. Le 31 juillet 2008, X._, procédant en personne, a formé un recours de droit administratif au Tribunal fédéral contre la décision de la Commission de recours du 23 avril 2008.
Le Tribunal fédéral n'a pas ordonné d'échange d'écritures. La Commission de recours et l'Office cantonal ont produit leurs dossiers respectifs dans le délai imparti à cette fin.

Considérant en droit:
1. 1.1 Le présent recours est dirigé contre une décision rendue dans une cause de droit public (art. 82 lettre a de la loi du 17 juin 2005 sur le Tribunal fédéral [LTF; RS173.110]) par une autorité cantonale supérieure de dernière instance (art. 86 al. 1 lettre d et al. 2 LTF; cf. arrêt 2C_491/2007 du 30 avril 2008, consid. 1.3), sans qu'aucune des exceptions prévues à l'<ref-law> ne soit réalisée, de sorte que la voie du recours en matière de droit public est en principe ouverte. L'intitulé erroné du mémoire de recours ne saurait porter préjudice au recourant, pour autant que cette écriture remplisse les conditions formelles de la voie de droit appropriée (<ref-ruling> consid. 1.2 p. 302/303, 308 consid. 4.1 p. 314).
Le recours a en outre été déposé en temps utile (art. 100 al. 1 et 46 al. 1 lettre b LTF); en revanche, on peut se demander s'il respecte les formes prescrites par la loi (cf. <ref-law>), puisque le recourant n'a pas séparé ses conclusions de sa motivation. La question peut toutefois rester ouverte. En effet, lorsque le recourant n'agit pas par l'entremise d'un professionnel qualifié, l'interdiction du formalisme excessif impose de ne pas se montrer trop strict dans l'énoncé des conclusions si, à la lecture du mémoire de recours, on comprend aisément ce que l'intéressé veut (cf. arrêt 1C_100/2008 du 18 juin 2008, consid. 1), comme c'est le cas en l'espèce.
1.2 Le 25 septembre 2007, l'Office cantonal a pris trois décisions (une par année d'assujettissement) par lesquelles il a déclaré irrecevable la requête présentée par l'intéressé. La Commission de recours a rejeté, dans la mesure de sa recevabilité, le recours formé contre ces décisions d'irrecevabilité, estimant en substance que c'était à juste titre que l'Office cantonal n'était pas entré en matière et elle a constaté l'inexistence d'un motif de révision. Devant le Tribunal fédéral, le recourant ne peut que remettre en cause la confirmation du refus d'entrer en matière sur sa requête et l'absence d'un quelconque motif de révision.
2. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est pas lié par l'argumentation des parties et apprécie librement la portée juridique des faits (cf. <ref-ruling> consid. 1.4.1 p. 254), à moins que n'ait été soulevée - ce qui n'est pas le cas en l'espèce - la violation de droits fondamentaux ou de dispositions de droit cantonal et intercantonal (cf. <ref-law>). Rien ne l'empêche donc d'admettre un recours sur la base d'une disposition qui n'aurait pas été invoquée dans la motivation ou de le rejeter en opérant une substitution de motifs (cf. <ref-ruling> consid. 2.2 p. 550; arrêt 5A_55/2007 du 14 août 2007, consid. 2.2).
3. Le litige porte sur la taxe d'exemption de l'obligation de servir pour les années 2003 à 2005. Cette taxe est régie par le droit fédéral, en particulier par la loi fédérale du 12 juin 1959 sur la taxe d'exemption de l'obligation de servir (LTEO; RS 661) et par l'ordonnance du 30 août 1995 sur la taxe d'exemption de l'obligation de servir (OTEO; RS 661.1). Les décisions de taxation ainsi que les décisions sur l'exonération ou la réduction de la taxe peuvent faire l'objet d'une réclamation écrite à l'autorité de taxation, dans les 30 jours suivant leur notification (<ref-law>). D'après l'<ref-law>, ce délai peut être restitué à condition notamment que l'assujetti ait été, sans sa faute, empêché d'agir dans le délai fixé et qu'il présente une demande motivée de restitution dans le délai de 10 jours dès la cessation de l'empêchement.
En l'espèce, la demande de l'intéressé était manifestement tardive et aucun élément ne permettait de retenir l'existence d'un empêchement au sens de l'<ref-law>. Elle ne pouvait donc être envisagée comme une réclamation.
4. Le recourant se prévaut d'une erreur et reproche à la Commission de recours de ne pas avoir tenu compte du fait qu'il s'était trompé en indiquant les indemnités journalières AI sous le chiffre 6, et non pas 7, de ses déclarations d'impôt. Certes, l'<ref-law> prévoit la possibilité pour l'assujetti d'obtenir la restitution d'un montant de taxe payé par erreur, s'il ne devait pas la taxe ou n'en devait qu'une partie. Cette disposition correspond à l'art. 168 de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (LIFD; RS 642.11) (FF 2002 p. 846) et a la même portée. Il ressort du texte de ces dispositions que seule la perception de la taxe est visée et non la procédure de taxation. La demande de restitution de taxes payées par erreur ne permet donc pas de remettre en cause une décision de taxation passée en force. Seule la voie de la procédure de révision permet de modifier une telle décision (cf., par analogie, Pierre Curchod, Commentaire romand, n. 1, 6 et 7 ad <ref-law>). Ainsi, l'<ref-law> n'est d'aucun secours au recourant, dès lors que les montants qu'il a payés correspondent à ceux qui figuraient dans ses décisions de taxation.
5. Reste à examiner si la requête de l'intéressé remplissait les conditions ouvrant la voie de la révision. L'<ref-law> confie, entre autres, au Conseil fédéral la compétence de fixer des règles qui concernent la révision des décisions passées en force. Quant à l'<ref-law>, il dispose:
"1 L'autorité de taxation ou la commission de recours procède à la révision d'une décision entrée en force, d'office ou à la demande de la personne touchée par celle-ci:
a. si des faits nouveaux importants sont allégués ou de nouveaux moyens de preuve produits;
b. si l'autorité n'a pas tenu compte de faits ou de demandes importants établis par pièces;
c. si l'autorité a violé des principes essentiels de la procédure, en particulier le droit de consulter les pièces et celui d'être entendu.
2 La révision est exclue lorsque le requérant invoque des motifs qu'il aurait pu faire valoir au cours de la procédure ordinaire s'il avait fait preuve de toute la diligence pouvant raisonnablement être exigée de lui.
(...)"
Ces motifs de révision correspondent à ceux prévus à l'art. 147 al. 1 et 2 LIFD, de sorte que l'on peut, dans leur interprétation, se fonder sur la jurisprudence et la doctrine relatives à l'impôt fédéral direct. Pour être qualifié d'important, un fait doit être de nature à influencer la décision dans un sens favorable à l'intéressé (cf. <ref-ruling> consid. 3 p. 19 et la jurisprudence citée). Quant à l'exclusion de la révision dès que l'on peut reprocher au requérant d'avoir failli à la diligence, qui est prévue tant à l'<ref-law> qu'à <ref-law>, elle constitue une limitation importante à la révision, qui s'explique par le caractère subsidiaire de cette voie de droit et par les exigences de la sécurité du droit (Hugo Casanova, Commentaire romand, n. 15 ad <ref-law>). La jurisprudence souligne du reste qu'il faut se montrer strict dans l'obligation de diligence imposée au requérant (cf. RtiD 2007 I 667, 2P.34/2006, consid. 3.3 p. 670). Une révision est ainsi exclue en cas d'erreur dans la déclaration d'impôt due à une négligence du contribuable ou de son représentant (Hugo Casanova, Commentaire romand, n. 15 ad <ref-law>). Il appartient en outre au contribuable de contrôler la décision de taxation lorsqu'il la reçoit et de signaler en temps utile les vices dont elle serait affectée (cf. arrêt 2P.201/2004 du 8 février 2006, consid. 3.5; Archives 67 p. 391, 2A.451/1996, consid. 3d p. 398 traduit in RDAF 1999 II 440, p. 446/447). A titre exceptionnel, la jurisprudence admet de déroger aux principes régissant la révision si le résultat de leur application est choquant et heurte le sentiment de l'équité (cf. <ref-ruling> consid. 5b p. 573; Archives 70 p. 755, 2A.294/1998, consid. 7b p. 762/763 et 45 p. 58, P.469/1975, consid. 4 p. 62), ce qui suppose toutefois que, s'il y a eu erreur de la part du contribuable, celle-ci paraisse excusable (<ref-ruling> consid. 5b p. 574).
En l'espèce, le fait que le recourant touchait des indemnités journalières AI est indubitablement important au sens de l'<ref-law>, compte tenu de l'art. 4 al. 1 lettre abis LTEO. Selon cette dernière disposition, est en effet exonéré de la taxe quiconque, au cours de l'année d'assujettissement, est considéré comme inapte au service en raison d'un handicap majeur et perçoit une rente ou une allocation pour impotent de l'assurance-invalidité fédérale ou de l'assurance-accidents. Il ressort toutefois de la décision entreprise que, si l'autorité fiscale n'a pas procédé à cette exonération, c'est en raison d'une erreur imputable au recourant, qui a été commise lors de l'établissement des trois déclarations d'impôt concernées. L'intéressé le reconnaît du reste. De plus, lorsqu'il a reçu les décisions de taxation correspondantes, il appartenait au recourant de les vérifier dans le délai pour former réclamation, ce qu'il a négligé de faire à plusieurs reprises, puisque trois taxations sont en cause. Le fait que ce soit, comme il le prétend, son père qui a rempli la déclaration d'impôt n'y change rien. Le cas de figure visé par l'<ref-law> est donc réalisé. En outre, on ne se trouve pas dans une situation justifiant, à titre exceptionnel, de déroger à une application stricte des règles sur la révision, car le recourant pouvait, avec un minimum d'attention, se rendre compte de l'inexactitude de la taxation et déposer une réclamation en temps utile, ce d'autant que la même erreur a été commise trois années de suite.
6. Au vu de ce qui précède, il y a lieu de rejeter le recours dans la mesure où il est recevable.
Succombant, le recourant doit supporter les frais judiciaires qui seront fixés compte tenu de sa situation financière (art. 65 al. 2 et 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 400 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Commission de recours en matière fiscale du canton du Valais.
Lausanne, le 12 septembre 2008
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Merkli Dupraz