Faits:
A. Les époux X._ sont domiciliés dans le canton du Jura. Le 11 mai 2007, le Service des contributions de ce canton (ci-après: le Service des contributions) leur a prétendument expédié sous pli simple deux avis de taxation fixant le revenu et la fortune imposables pour l'impôt fédéral direct et les impôts cantonaux et communaux des périodes fiscales 2004, respectivement 2005, ainsi que deux enveloppes contenant les bordereaux d'impôts y relatifs (deux documents par enveloppe). Les contribuables ont déclaré n'avoir jamais reçu ces documents.
B. Le 6 juillet 2007, le Service des contributions a envoyé aux recourants un rappel portant sur les impôts cantonaux et communaux de la période fiscale 2004 pour un montant de 19'414 fr. 80 et un pour la période fiscale 2005 de 21'502 fr. 45, ainsi que des rappels relatifs à l'impôt fédéral direct des périodes fiscales 2004 et 2005 s'élevant à 2'281 fr., respectivement 3'282 fr. Le 10 août 2007, en l'absence de paiement des recourants, ledit Service leur a expédié, sous pli recommandé, quatre sommations (impôt fédéral direct et impôts cantonaux et communaux des périodes fiscales 2004, respectivement 2005). Les contribuables ne contestent pas avoir reçu ces rappels et les sommations.
Les contribuables n'ayant pas donné suite aux injonctions de paiement, le Service cantonal des contributions leur a fait notifier deux commandements de payer le 21 septembre 2007, soit un pour l'impôt fédéral direct 2004 et un pour l'impôt fédéral direct 2005. Deux autres commandements de payer pour les impôts cantonaux et communaux 2004, respectivement 2005, leur ont été notifiés le 26 septembre 2007. Les recourants ont formé opposition à l'encontre de ces commandements de payer. Le 26 septembre 2007, ils ont également envoyé une réclamation au Service des contributions. Par décision du 2 octobre 2007, celui-ci l'a déclarée tardive et, partant, irrecevable.
Le 1er septembre 2008, la Commission cantonale des recours du canton du Jura (ci-après: la Commission cantonale des recours) a admis le recours de A.X._ et B.X._ et a renvoyé le dossier au Service des contributions pour qu'il statue sur la réclamation formée par les recourants contre les taxations relatives à l'impôt fédéral direct et aux impôts cantonaux et communaux des périodes fiscales 2004 et 2005.
Le 7 octobre 2008, le Service des contributions a recouru auprès de la Chambre administrative du Tribunal cantonal du canton du Jura (ci-après: le Tribunal cantonal) contre cette décision. Par arrêt du 6 avril 2009, celle-ci a admis le recours, annulé la décision du 1er septembre 2008 de la Commission cantonale des recours et constaté que la décision d'irrecevabilité du Service des contributions du 2 octobre 2007 était entrée en force.
C. A.X._ et B.X._ déposent un recours en matière de droit public contre ce jugement cantonal. Ils demandent, sous suite de frais et dépens, d'admettre le recours, d'annuler l'arrêt du 6 avril 2009 de la Chambre administrative du Tribunal cantonal, de "constater que la décision de la CCR du 1er septembre 2008 relative aux années fiscales 2004 et 2005 (IFD et impôt d'Etat) est entrée en force et ordonné au Service des contributions de statuer sur la réclamation formée par les recourants contre la taxation pour les années fiscales 2004 et 2005". Enfin, ils requièrent le renvoi du dossier à la Chambre administrative pour statuer sur le sort des frais et dépens de la procédure cantonale.
Le Service des contributions conclut au rejet du recours sous suite de frais. La Commission cantonale des recours a renoncé à déposer des observations. Le Tribunal cantonal et l'Administration fédérale des contributions demandent la confirmation de l'arrêt attaqué et le rejet du recours.

Considérant en droit:
1. 1.1 Dirigé contre une décision finale (<ref-law>) rendue dans une cause de droit public (<ref-law>) par une autorité cantonale judiciaire supérieure de dernière instance (art. 86 al. 1 lit. d et al. 2 LTF), le recours ne tombe pas sous le coup d'une des exceptions mentionnées à l'<ref-law>. Déposé en temps utile (<ref-law>) et en la forme prévue (<ref-law>), par les destinataires de la décision attaquée qui ont un intérêt digne de protection à l'annulation ou à la modification de celle-ci (<ref-law>), il est en principe recevable comme recours en matière de droit public; cette voie de recours est également ouverte par les art. 146 de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (LIFD; RS 642.11) et 73 al. 1 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; RS 642.14), dès lors que le recours concerne la notification d'une décision de taxation et le délai de réclamation à son encontre, soit des matières harmonisées.
1.2 Lorsque, comme en l'espèce, les questions juridiques à trancher sont réglées de la même façon en droit fédéral et en droit cantonal (cf. infra consid. 3 et 4), on peut admettre que l'autorité cantonale de dernière instance rende une seule et même décision qui ne fasse pas de distinction dans son dispositif entre les deux catégories d'impôts, à condition toutefois que les considérants ne laissent planer aucun doute sur le fait que la décision vaut aussi bien pour l'impôt fédéral direct que pour les impôts cantonaux et communaux (cf. <ref-ruling> consid. 1.3.1 p. 262 s.). Une telle décision peut ensuite logiquement être portée devant le Tribunal fédéral dans un seul recours, pour autant que la motivation s'en prenne clairement tant à l'impôt fédéral direct qu'aux impôts cantonaux et communaux (cf. <ref-ruling> consid. 1.3.2 p. 263 s., précisant la jurisprudence développée à l'<ref-ruling> consid. 8.3 p. 511). Le présent recours remplit ces exigences.
1.3 D'après l'<ref-law>, le Tribunal fédéral applique le droit d'office. Il examine en principe librement l'application du droit fédéral ainsi que la conformité du droit cantonal harmonisé et de son application par les instances cantonales aux dispositions de la loi fédérale sur l'harmonisation fiscale. Selon l'<ref-law>, en revanche, le Tribunal fédéral n'examine la violation de dispositions de droit cantonal que si ces griefs ont été soulevés et motivés (<ref-ruling> consid. 1.4.2 p. 254). Il en va de même lorsque les dispositions de la loi sur l'harmonisation fiscale laissent une certaine marge de manoeuvre aux cantons, l'examen de l'interprétation du droit cantonal étant alors limité à l'arbitraire (<ref-ruling> consid. 2 p. 209).
2. En l'espèce, en application des règles sur le fardeau de la preuve, le Tribunal cantonal a jugé que le Service des contributions n'avait pas prouvé à suffisance de droit que les taxations du 11 mai 2007 avaient été notifiées aux recourants. Il ressort par contre des faits retenus par ledit Tribunal que ceux-ci ont reçu les rappels du 6 juillet 2007 et les sommations du 10 août 2007.
Il s'agit ainsi de définir, à partir de ces éléments, si la réclamation du 26 septembre 2007 à l'encontre des décisions de taxation du 11 mai 2007 était ou non tardive.
I. Impôt fédéral direct
3. 3.1 L'<ref-law> prévoit que "les décisions et les prononcés sont notifiés au contribuable par écrit et doivent indiquer les voies de droit".
Selon l'<ref-law>, le contribuable peut adresser à l'autorité de taxation une réclamation écrite contre la décision de taxation dans les trente jours suivant sa notification. Le délai commence à courir le lendemain de la notification (<ref-law>).
3.2 La loi ne contient aucune autre disposition qui traiterait de manière spécifique des vices de notification. S'agissant de la loi sur l'impôt fédéral direct, il est ainsi difficile, voire impossible, de déterminer dans quelle mesure les règles fédérales de procédure peuvent être complétées par un droit cantonal complémentaire (Danielle Yersin, in Commentaire romand, Impôt fédéral direct, 2008, no 123 ad Remarques préliminaires). Dans un arrêt ancien (<ref-ruling>), le Tribunal fédéral l'avait admis.
3.3 Un principe général du droit (exprimé notamment à l'<ref-law>) veut que l'absence d'indication ou l'indication erronée des moyens de droit à l'encontre d'une décision, ainsi que l'absence de notification ou une notification irrégulière ne peut entraîner de préjudice pour le destinataire concerné. Ce principe découle des règles de la bonne foi, qui imposent des devoirs à l'autorité dans la conduite d'une procédure (<ref-ruling> consid. 8b p. 238). Ainsi, le destinataire d'un prononcé administratif ou judiciaire déficient n'a pas à subir les conséquences d'un acte imputable aux seules autorités. En particulier, il n'a pas à être restreint dans l'une des multiples modalités de son droit d'être entendu à la suite d'un tel vice de notification. Cette règle est toutefois limitée par le principe de la bonne foi, principe auquel l'administré est lui aussi tenu. Il n'est en effet pas contesté qu'une partie qui connaît ou doit connaître l'existence d'un prononcé la concernant mais qui n'entreprend aucune démarche pour en obtenir la communication agit de manière contraire à la bonne foi. Elle doit en effet faire preuve de diligence (<ref-ruling> consid. 1 p. 197; <ref-ruling> consid. 1c p. 332 ss) et est tenue de se renseigner sur l'existence et le contenu de la décision dès qu'elle peut en soupçonner le prononcé à défaut de quoi elle risque de se voir opposer l'irrecevabilité de son recours pour cause de tardiveté (arrêt du Tribunal fédéral des assurances I 663/99 du 4 mai 2000 consid. 2a et les références citées). Ce principe vaut pour tous les domaines du droit, notamment pour le droit administratif, et il a été repris par la jurisprudence en matière d'impôt fédéral direct (RDAT 2000 I n. 14t p. 655 consid. 3b/, 2P.434/1998; RDAT 1999 II n. 19t p. 360 consid. 4b/bb/, 2P.144/1998 et les arrêts cités).
Le Tribunal fédéral a, à plusieurs reprises, jugé que le délai de recours est respecté lorsque le recourant agit dans les trente jours à compter du moment où il pouvait de bonne foi prendre connaissance de la décision contestée (<ref-ruling> consid. 4 p. 95; <ref-ruling> consid. 4 p. 17; <ref-ruling> consid. 1d p. 691).
3.4 En l'espèce, il ressort des faits retenus par le Tribunal cantonal que les recourants ont bel et bien reçu les rappels du 6 juillet 2007 puis les sommations du 10 août 2007. Ces documents ne reprenaient pas le détail des décisions de taxation. Les rappels se référaient toutefois expressément aux périodes fiscales 2004 et 2005 et mentionnaient l'impôt auquel ils correspondaient, soit, par exemple, "Rappel 2004 (impôt fédéral direct)" et "Rappel 2004 (impôt cantonal, communal et ecclésiastique)". En outre, ils portaient sur le solde d'impôt à verser. Les sommations du 10 août 2007 faisaient également référence aux années fiscales et impôts concernés, soit, par exemple, "Sommation 2004 (impôt fédéral)" et "Sommation 2004 (impôt cantonal, communal et ecclésiastique)". Elles reprenaient aussi les montants dus mentionnés dans les rappels du 6 juillet 2007, en se référant au surplus à ceux-ci. Fondée sur des règles d'expérience, le Tribunal cantonal a estimé que les rappels datés du vendredi 6 juillet 2007 avaient été reçus par les recourants les premiers jours de la semaine suivante, alors que les sommations du mardi 10 juillet 2007 l'avaient été dans la semaine.
Les éléments susmentionnés démontrent que le contenu des rappels et des sommations ne laissait aucun doute sur l'émission de décisions de taxation. Or, dans de telles circonstances, le principe de la bonne foi, respectivement celui de l'interdiction de l'abus de droit faisait obligation aux contribuables de se renseigner sur l'existence et le contenu de ces décisions dont ils ne pouvaient ignorer l'existence. Ainsi, dès réception des rappels du 6 juillet 2007, les contribuables se devaient d'interpeller le Service des contributions afin de s'enquérir du sens d'un rappel, dans la mesure où ils n'avaient pas reçu la décision de taxation, ce qu'ils n'ont pas fait. Ils n'ont à nouveau pas réagi lors de la réception des sommations expédiées le 10 août 2007. En écrivant au Service des contributions le 26 septembre 2007 seulement, soit deux mois et demi après avoir reçu les rappels et un mois et demi après les sommations, les recourants n'ont pas respecté le principe de la bonne foi.
Au vu de ce qui précède, les recourants ont tardé à requérir la notification formelle des décisions de taxation dont ils devaient connaître l'existence. Ils ne peuvent dès lors bénéficier d'un délai élargi, découlant d'une notification irrégulière, pour le dépôt de leur réclamation. C'est ainsi à bon droit que celle du 26 septembre 2007 a été déclarée tardive et, partant, irrecevable. Le recours doit ainsi être rejeté en tant qu'il concerne l'impôt fédéral direct.
II. Impôts cantonal et communal.
4. 4.1 Comme la loi sur l'impôt fédéral direct, l'<ref-law> dispose que les décisions de taxation sont notifiées au contribuable par écrit et doivent indiquer les voies de droit; les autres décisions et prononcés doivent en outre être motivés. Selon l'<ref-law>, le contribuable peut adresser à l'autorité de taxation une réclamation écrite contre la décision de taxation dans les trente jours qui suivent sa notification.
L'<ref-law> ne mentionne pas de manière exhaustive les droits de procédure des contribuables (Martin Zweifel, in Zweifel/Athanas, Bundesgesetz über die Harmonisierung der direkten Steuern der Kantone und Gemeinden, 2ème éd., 2002, no 2 ad <ref-law>). Se pose ainsi la question de savoir s'il doit être complété par les normes ad hoc du droit cantonal, tout en relevant que la loi sur l'harmonisation a restreint les compétences des cantons pour la mise en oeuvre du droit cantonal de procédure, la procédure faisant partie des domaines harmonisés (<ref-law>).
Au demeurant, les garanties de procédure minimales des art. 29 et 30 Cst. complètent de manière subsidiaire une législation cantonale fragmentaire (Martin Zweifel, op. cit., no 1 ad <ref-law>).
4.2 Selon l'art. 157 de la loi jurassienne d'impôt du 26 mai 1988 (ci-après: la loi jurassienne d'impôt ou LI; RS/JU 641.11), dans sa teneur en 2007, le contribuable et la commune intéressée peuvent adresser au Service des contributions une réclamation écrite contre la décision de taxation dans les trente jours qui suivent sa notification. La loi jurassienne du 30 novembre 1978 de procédure et de juridiction administrative et constitutionnelle (code de procédure administrative) (ci-après: le code de procédure administrative ou CPA; RS/JU 175.1) règle la procédure de décision aux art. 83 ss CPA. En particulier, elle prévoit à l'art. 87 al. 1 CPA que l'autorité notifie sa décision aux parties par écrit, si nécessaire sous pli recommandé ou par un agent public ou d'une autre manière. Enfin, l'art. 89 CPA énonce le principe voulant qu'une notification irrégulière n'entraîne aucun préjudice pour les parties. Ce principe complète ainsi la règle générale de l'<ref-law>, dans la mesure où cet article est sommaire (<ref-ruling> consid. 3.2 p. 116 a contrario) et ne parle pas de notification irrégulière.
4.3 Le principe de la bonne foi, en sa qualité de principe général du droit, s'applique également en droit cantonal. La jurisprudence du Tribunal fédéral le reprend d'ailleurs en matière d'impôts cantonaux et communaux dans le cadre de recours tardifs (RDAT 1997 I n. 32t p. 533 consid. 5a, 2P.163/1995 et les arrêts cités).
4.4 Il s'ensuit que les considérations développées ci-dessus relatives au comportement des recourants contraire au principe de la bonne foi et à la tardiveté de la réclamation s'appliquent mutatis mutandis aux impôts cantonaux et communaux.
Par conséquent, le recours doit également être rejeté en tant qu'il concerne lesdits impôts.
5. Au vu de ce qui précède, le recours doit être rejeté tant en matière d'impôt fédéral direct que d'impôts cantonaux et communaux.
Succombant, les recourants doivent supporter, solidairement entre eux, les frais judiciaires (art. 65 et 66 al. 1 LTF). Il n'est pas alloué de dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'500 fr., sont mis à la charge des recourants solidairement entre eux.
3. Il n'est pas alloué de dépens.
4. Le présent arrêt est communiqué au mandataire des recourants, au Service des contributions, à la Commission cantonale des recours en matière d'impôts et à la Chambre administrative du Tribunal cantonal du canton du Jura, ainsi qu'à l'Administration fédérale des contributions, Division principale de l'impôt fédéral direct.
Lausanne, le 10 décembre 2009
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
R. Müller E. Kurtoglu-Jolidon