Faits:
A. A.X._ et B.X._ sont domiciliés en France depuis 1970 et enseignent dans le canton de Genève. Ils ont été imposés à la source jusqu'en 1984. Après avoir acquis un bien immobilier à Y._, ils ont choisi d'être assujettis à l'impôt cantonal et communal (ICC) ainsi qu'à l'impôt fédéral direct (IFD) en qualité de personnes physiques avec domicile hors du canton.
Le 28 mars 2003, l'Administration fiscale cantonale genevoise (ci-après: l'Administration fiscale) a notifié aux époux X._ un bordereau ICC 2001 et un bordereau IFD 2001, pour la période d'im- position allant du 1er janvier au 31 décembre 2001. L'ICC était de 37'229 fr. pour un revenu imposable de 183'764 fr. et l'IFD de 11'262 fr. pour un revenu imposable de 177'600 fr.
Le 21 juillet 2003, l'Administration fiscale a informé par écrit les époux X._ qu'il avait été procédé à la rectification de l'impôt sur leur revenu, qui serait perçu à la source pour la période du 1er janvier au 31 décembre 2001, en vertu de la législation sur l'impôt à la source. Le revenu imposable était de 231'500 fr. et l'impôt dû se montait à 56'254,50 fr. Ce courrier attirait l'attention des contribuables sur les voie et délai de réclamation, ainsi que sur la forme et le contenu de cette dernière. Le 30 octobre 2003, l'Administration fiscale a notifié aux intéressés un bordereau rectificatif ICC 2001 ne portant plus que sur l'imposition de la fortune et s'élevant à 143,50 fr.
Le 13 juillet 2004, l'Administration fiscale a invité A.X._ à une entrevue destinée à éclaircir sa situation fiscale. L'intéressé n'y a pas donné suite. Le 28 juillet 2004, l'Administration fiscale a confirmé au couple X._ que, dès l'exercice fiscal 2001, il avait été imposé à la source pour ses revenus de l'activité professionnelle.
Le 20 septembre 2005, dans un courrier concernant la production de pièces, A.X._ a réitéré son étonnement et son désaccord quant à l'effet rétroactif de son imposition à la source pour les exercices 2001 à 2003 et demandé une entrevue pour éclaircir sa situation. Il précisait qu'il n'avait pu se rendre à l'entretien du 21 juillet 2004 ni excuser son absence, car il était en voyage à cette période.
Le 12 octobre 2005, l'Administration fiscale a indiqué qu'elle considérait le courrier du 20 septembre 2005 comme une réclamation contre la rectification d'imposition pour l'année 2001. Le 14 novembre 2005, elle a maintenu sa décision du 21 juillet 2003, considérant la requête comme tardive.
B. Par décision du 27 août 2007, la Commission cantonale de recours en matière d'impôts du canton de Genève (ci-après: la Commission de recours) a rejeté le recours des époux X._ contre la décision précitée du 14 novembre 2005. Elle a estimé en substance que la réclamation était tardive et que les intéressés n'avaient invoqué aucun motif sérieux qui les aurait empêchés d'agir en temps utile. La voie de la révision était par ailleurs exclue, car les arguments soulevés auraient déjà pu l'être au cours de la procédure de réclamation.
C. Par arrêt du 11 mars 2008, le Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif) a déclaré irrecevable le recours interjeté par les époux X._ contre la décision de la Commission de recours du 27 août 2007. Les juges cantonaux ont estimé en substance qu'ils ne pouvaient entrer en matière sur les conclusions prises par les intéressés au sujet des bordereaux ICC et IFD 2001 du 28 mars 2003 et des bordereaux rectificatifs notifiés le 30 octobre 2003, car elles n'avaient pas fait l'objet de la décision attaquée, ni de la décision de l'Administration fiscale du 14 novembre 2005. En outre, les conclusions tendant à l'annulation de la décision de la Commission de recours du 27 août 2007 étaient aussi irrecevables, car elles ne se fondaient pas sur une motivation adéquate au sens de l'art. 65 al. 2 de la loi genevoise du 12 septembre 1985 sur la procédure administrative (LPA; RSG E 5 10); en effet, les intéressés se contentaient de contester le droit pour l'Administration fiscale de modifier leurs bordereaux ICC et IFD 2001, sans que leur argumentation permît de comprendre quels griefs ils adressaient à la Commission de recours qui avait statué uniquement sur la question de la tardiveté de la réclamation.
D. Le 29 avril 2008, A.X._ et B.X._ ont déposé un recours en matière de droit public contre l'arrêt rendu le 11 mars 2008 par le Tribunal administratif. Principalement, ils demandent au Tribunal fédéral, sous suite de dépens, d'annuler l'arrêt attaqué, de dire que les bordereaux ICC et IFD 2001 datés du 28 mars 2003 sont entrés en force, de leur donner acte de ce qu'ils se sont totalement acquittés de ces bordereaux, de dire que les bordereaux rectificatifs ICC et IFD 2001 datés du 30 octobre 2003 sont nuls et de constater que le courrier de l'Administration fiscale du 21 juillet 2003 ne saurait modifier les bordereaux du 28 mars 2003, faute de respecter les conditions du rappel d'impôt. Subsidiairement, ils concluent à l'annulation de l'arrêt entrepris et au renvoi du dossier à la juridiction cantonale pour décision sur le fond. Ils requièrent aussi que l'état de fait de l'arrêt attaqué soit rectifié et complété.
Le Tribunal administratif n'a pas formulé d'observations sur le recours. L'Administration fiscale conclut, sous suite de frais, au rejet du recours et à l'irrecevabilité des conclusions nouvelles.
L'Administration fédérale des contributions propose le rejet du recours dans la mesure de sa recevabilité, avec suite de frais.

Considérant en droit:
1. Le présent recours est dirigé contre une décision finale (art. 90 de la loi du 17 juin 2005 sur le Tribunal fédéral [LTF; RS 173.110]) rendue dans une cause de droit public (<ref-law>), par une autorité cantonale de dernière instance (art. 86 al. 1 lettre d LTF), sans qu'aucune des exceptions mentionnées à l'<ref-law> ne soit réalisée. Déposé en temps utile (art. 100 al. 1 et 46 al. 1 lettre a LTF) par les destinataires de l'arrêt attaqué qui ont un intérêt digne de protection à l'annulation ou à la modification de celui-ci (<ref-law>), le présent recours est en principe recevable comme recours en matière de droit public, sous les réserves qui suivent.
1.1 L'acte attaqué est un arrêt d'irrecevabilité. Par conséquent, en cas d'admission du recours, le Tribunal fédéral ne pourrait pas statuer sur le fond, mais devrait renvoyer la cause à l'autorité genevoise compétente. Ainsi, les conclusions principales des recourants portant sur le fond de la cause sont irrecevables; seules les conclusions subsidiaires en renvoi sont admissibles.
1.2 Saisi d'un recours, le Tribunal fédéral ne revoit pas l'ensemble de la cause, mais est lié dans la mesure des conclusions par le contenu de la décision attaquée, dont il doit vérifier s'il est conforme au droit (<ref-law>). Le recourant doit ainsi présenter des motifs qui exposent succinctement en quoi l'acte attaqué viole le droit (cf. <ref-law>). Les critiques portant sur le litige dans son ensemble, mais qui n'ont pas de lien avec la décision entreprise, ne sont donc pas recevables.
En l'espèce, les recourants, pourtant représentés par un avocat, peinent à cerner l'objet du litige. Ce reproche a d'ailleurs déjà été formulé par le Tribunal administratif et c'est du reste essentiellement pour cette raison que le recours sur le plan cantonal a été déclaré irrecevable. Dans le cadre du présent recours, les intéressés ne peuvent ainsi que remettre en question l'arrêt d'irrecevabilité du 11 mars 2008, mais ils ne peuvent ni s'en prendre à leur taxation ni remettre en cause les décisions de l'Administration fiscale et de la Commission de recours, dès lors que l'arrêt attaqué n'est pas entré en matière sur ces points.
Les griefs soulevés traduisent, pour la plupart, une méconnaissance de ces principes et sont, par conséquent, irrecevables. Tel est le cas lorsque les recourants invoquent l'art. 53 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; RS 642.14) et les principes généraux de la procédure des art. 59 ss de la loi genevoise du 4 octobre 2001 de procédure fiscale (LPFisc; RSG D 3 17) ou lorsqu'ils se plaignent d'une violation du principe de la bonne foi en remettant en cause leur taxation.
Il en va de même lorsque les recourants, sous le couvert du formalisme excessif, critiquent le fait que leur réclamation ait été déclarée tardive. En effet, ils perdent de vue que l'arrêt attaqué ne s'est pas prononcé sur cette question.
Pour autant que l'on puisse comprendre la critique des recourants découlant des maximes inquisitoire et d'office, ceux-ci s'en prennent à nouveau au bien-fondé de la rectification de leur taxation, ce qui ne peut faire l'objet de la présente procédure.
Enfin, le grief des recourants fondé sur l'interdiction de l'arbitraire ne porte pas sur l'arrêt entrepris. Il concerne en premier lieu la procédure suivie devant l'Administration fiscale, à laquelle les recourants reprochent au Tribunal administratif d'avoir adhéré. Ce faisant, ils méconnaissent une fois encore que l'arrêt attaqué n'est précisément pas entré en matière sur ce point.
Partant, le Tribunal fédéral limitera son examen aux seuls griefs par lesquels les recourants remettent en cause l'arrêt attaqué du 11 mars 2008.
2. Invoquant l'<ref-law>, les recourants reprochent au Tribunal administratif d'avoir établi les faits de façon manifestement inexacte.
2.1 L'<ref-law> permet au Tribunal fédéral de rectifier ou compléter d'office les constatations de l'autorité précédente, à condition toutefois que les faits aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>, notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 1.2.2 p. 252, 384 consid. 4.2.2 p. 391). Encore faut-il que ces faits soient susceptibles d'influer sur le sort de la cause (cf. <ref-law>; arrêt 9C_44/2008 du 15 avril 2008 consid. 4.2).
2.2 Les recourants reprochent au Tribunal administratif de n'avoir pas retenu toute une série de faits démontrant qu'après l'envoi du 21 juillet 2003 de l'Administration fiscale les informant qu'il avait été procédé à la rectification de leur imposition pour la période 2001, ils avaient déjà manifesté leur désaccord, en particulier le 10 septembre 2003, lors d'un entretien téléphonique avec une collaboratrice de l'Administration fiscale.
On peut comprendre cette critique comme remettant en cause la partie de l'arrêt attaqué dans laquelle le Tribunal administratif a reproché aux recourants de n'avoir pas formé de griefs contre la tardiveté de la réclamation. Dans cette mesure, elle peut être considérée comme recevable, mais s'avère infondée. En effet, les réclamations contre les décisions de l'Administration fiscale doivent être formulées par écrit (cf. art. 39 al. 1 LPFisc), ce dont les recourants avaient été avertis par une mention figurant dans le courrier précité du 21 juillet 2003. Par conséquent on ne voit pas en quoi le désaccord formulé oralement serait déterminant pour juger si les intéressés ont formé une réclamation en temps utile. Il n'y a donc pas lieu de compléter les faits sur ce point, en application de l'<ref-law>.
3. Les recourants se prévalent de l'interdiction du formalisme excessif.
3.1 Il y a formalisme excessif lorsque la stricte application des règles de procédure ne se justifie par aucun intérêt digne de protection, devient une fin en soi et complique de manière insoutenable la réalisation du droit matériel (<ref-ruling> consid. 5.4.1 p. 183/184; <ref-ruling> consid. 2a p. 142 et la jurisprudence citée).
3.2 Le grief n'est admissible que dans la mesure où les recourants soutiennent qu'en considérant leurs conclusions sur le fond comme nouvelles et partant irrecevables, l'autorité intimée serait tombée dans le formalisme excessif.
Une lecture attentive de l'arrêt attaqué montre toutefois que ce n'est pas tant parce qu'elles étaient nouvelles que lesdites conclusions n'ont pas été prises en compte, mais parce qu'elles n'ont fait l'objet ni de la décision de l'Administration fiscale du 14 novembre 2005 ni de celle de la Commission de recours du 27 août 2007, qui ont toutes deux statué sur la tardiveté de la réclamation. Les autorités précédentes n'étant pas entrées en matière, les recourants ne pouvaient conclure à ce que le Tribunal administratif, en tant qu'instance de recours, se prononce lui-même sur le fond. C'est du reste pour ce même motif que les conclusions sur le fond présentées par les recourants devant la Cour de céans sont considérées comme irrecevables (cf. supra, consid. 1.2). Un tel raisonnement échappe manifestement au formalisme excessif.
4. Au vu de ce qui précède, le recours doit être rejeté dans la faible mesure où il peut être considéré comme recevable.
Succombant, les recourants doivent supporter solidairement les frais judiciaires (art. 66 al. 1 et 5 LTF) et n'ont pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'500 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Le présent arrêt est communiqué au mandataire des recourants, à l'Administration fiscale cantonale et au Tribunal administratif du canton de Genève ainsi qu'à l'Administration fédérale des contributions, Division juridique impôt fédéral direct.
Lausanne, le 23 septembre 2008
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Merkli Dupraz