Faits:
A. Par décisions de taxation du 26 janvier 2004 pour les impôts cantonal et communal de la période fiscale 2002, l'Administration fiscale cantonale du canton de Genève (ci-après: l'Administration fiscale) a imposé A.X._ et B.X._ sur un gain en capital obtenu dans le jeu Pari mutuel romand de 19'708 fr. 50. Elle a admis en déduction de ce gain les mises gagnantes pour un montant de 288 fr. et refusé de déduire les mises perdantes qui s'élevaient selon les époux X._ à 19'412 fr.
Le 15 février 2004, A.X._ et B.X._ ont déposé une réclamation contre ces décisions. Ils demandaient la déduction des mises perdantes, comme cela avait toujours été admis jusqu'alors. La réclamation portant sur l'impôt cantonal et communal de la période fiscale 2002 a été rejetée par décision du 24 janvier 2005. Les intéressés ont interjeté recours contre cette dernière décision auprès de la Commission cantonale de recours en matière d'impôts (ci-après: la Commission cantonale de recours).
Par décisions de taxation du 21 février 2005 pour l'impôt fédéral ainsi que pour les impôts cantonal et communal de la période fiscale 2003, l'Administration fiscale a imposé A.X._ et B.X._ sur un gain en capital obtenu dans le jeu Pari mutuel romand de 27'874 fr. Elle a admis en déduction de ce gain les mises gagnantes pour un montant de 639 fr. et refusé de déduire les mises perdantes qui s'élevaient à 22'471 fr.
Le 4 mars 2005, A.X._ et B.X._ ont déposé une réclamation portant sur l'impôt cantonal et communal de la période fiscale 2003 contre ces décisions, demandant une nouvelle fois la déduction des mises perdantes. La réclamation a été rejetée par décision du 24 mars 2005. Les intéressés ont interjeté recours contre cette dernière décision auprès de la Commission cantonale de recours.
Par décision du 26 février 2007, après avoir joint les causes, la Commission cantonale de recours a admis les recours en matière d'impôts cantonal et communal. Contre cette décision, l'Administration fiscale a déposé un recours auprès du Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif).
B. Par arrêt du 26 février 2008, le Tribunal administratif a admis le recours, annulé la décision rendue le 26 février 2007 par la Commission cantonale de recours et confirmé les décisions sur réclamation rendues les 24 janvier et 24 mars 2005 par l'Administration fiscale. Les gains en capital obtenus en jouant au Pari mutuel romand étaient imposables et, à ce titre, ajoutés au revenu imposable ordinaire. Les mises gagnantes étaient déductibles, puisqu'elles étaient des dépenses nécessaires à l'acquisition du revenu. Les mises perdantes ne l'étaient en revanche pas. Il manquait un lien de connexité immédiat et direct entre la dépense et le gain. Le rôle des facteurs aléatoires intervenant dans l'obtention et l'importance du gain recherché rompait le lien d'immédiateté. Aucune déduction ne pouvait en outre être admise en l'absence de tout gain. En sus, la nature au porteur des billets délivrés par le Pari mutuel romand rendait difficile la preuve de la dépense, qui incombait au contribuable. En l'espèce, la déduction des mises perdantes devait être refusée, ce qui, par ailleurs, correspondait aux objectifs de protection des joueurs contre les dangers des jeux voulus par le législateur fédéral. Enfin, les conditions d'un changement de pratique étaient réunies.
C. Agissant par la voie du recours en matière de droit public, A.X._ et B.X._ demandent au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt rendu le 26 février 2008 par le Tribunal administratif et d'admettre la déduction des mises perdantes d'un montant de 19'412 fr. du revenu imposable pour 2002 et de 22'471 fr. pour 2003. Ils se plaignent de la constatation inexacte des faits pertinents et de la violation du droit fédéral.
Le Tribunal administratif renonce à déposer des observations. L'Administration fiscale cantonale ainsi que l'Administration fédérale des contributions concluent au rejet du recours.

Considérant en droit:
1. La loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; loi sur l'harmonisation fiscale; RS 642.14) est entrée en vigueur le 1er janvier 1993. Les cantons devaient adapter leur législation aux dispositions des titres deuxième à sixième de la loi sur l'harmonisation dans les huit ans qui suivent l'entrée en vigueur de cette loi (<ref-law>). En l'espèce, l'arrêt attaqué concerne le régime d'imposition cantonal et communal des gains provenant de jeux organisés par le Pari mutuel romand pour les périodes fiscales 2002 et 2003, de sorte que la loi sur l'harmonisation fiscale est applicable.
2. Déposé en temps utile et dans les formes prévues par la loi (art. 100 al. 1 et 106 al. 2 LTF) contre une décision finale prise en dernière instance cantonale, qui ne peut pas être attaquée devant le Tribunal administratif fédéral (art. 86 al. 1 lettre d LTF; <ref-law>) par ses destinataires (<ref-law>), le présent recours en matière de droit public est en principe recevable pour violation du droit fédéral qui comprend les droits constitutionnels (cf. art. 95 lettres a et c LTF). L'<ref-law>, qui ouvre aussi la voie du recours en matière de droit public, n'a plus de portée propre depuis l'entrée en vigueur de la loi sur le Tribunal fédéral (<ref-ruling> consid. 1.3 p. 188), tandis que l'<ref-law> l'emporte sur l'<ref-law> (<ref-ruling> consid. 1.5 p. 190 ss), de sorte que les conclusions des recourants, qui demandent plus que l'annulation de l'arrêt attaqué, sont recevables.
3. Le Tribunal fédéral examine librement si le droit cantonal et son interprétation par les autorités cantonales respectent les exigences de la loi sur l'harmonisation fiscale. Dans la mesure où le droit fédéral laisse une marge de manoeuvre au législateur cantonal, le pouvoir d'examen du Tribunal fédéral se limite à l'interdiction de l'arbitraire (<ref-ruling> consid. 3.1 206; <ref-ruling> consid. 1a et 2b p. 59 s.).
4. 4.1 Conformément à l'<ref-law>, l'art. 1 de de la loi genevoise du 22 septembre 2000 sur l'imposition des personnes physiques, Impôt sur le revenu (revenu imposable) (LIPP-IV; RSGE D 3 14), l'impôt sur le revenu a pour objet tous les revenus, prestations et avantages du contribuable, qu'ils soient uniques ou périodiques, en espèces ou en nature et quelle qu'en soit l'origine, avant déductions. L'art. 9 lettre e LIPP-IV déclare également imposables les gains de loterie et d'autres institutions semblables.
4.2 Conformément à l'<ref-law>, l'art. 1 de la loi genevoise du 22 septembre 2000 sur l'imposition des personnes physiques - Détermination du revenu net - Calcul de l'impôt et rabais d'impôt - Compensation des effets de la progression à froid (LIPP-V; RSGE D 3 16) prévoit que le revenu net se calcule en défalquant du total des revenus bruts les déductions générales et les frais mentionnés aux articles 2 à 8. Ces derniers autorisent les déductions liées à la prévoyance, à l'exercice d'une activité lucrative dépendante et indépendante, à la santé, aux contributions d'entretien, à la fortune, aux frais de garde et au bénévolat. D'après l'art. 9 lettre a LIPP-V, ne peuvent en revanche pas être déduits les autres frais et dépenses, en particulier les frais d'entretien du contribuable et de sa famille, y compris les loyers du logement et les dépenses privées résultant de sa situation professionnelle.
4.3 Constituent des frais nécessaires à l'acquisition du revenu les dépenses faites pour acquérir le revenu imposable qui sont en rapport immédiat et direct avec ce dernier. La condition de nécessité doit être comprise dans un sens large. Le Tribunal fédéral n'exige en effet pas que le contribuable ne puisse pas acquérir le revenu du travail sans les dépenses professionnelles. Selon la pratique, il n'est pas non plus nécessaire que l'on ait l'obligation légale de payer la charge correspondante, mais il suffit que les dépenses puissent économiquement être considérées comme étant nécessaires pour l'obtention du revenu et que l'on ne puisse raisonnablement exiger du contribuable d'y renoncer. Il faut ainsi considérer comme frais généraux toutes les dépenses nécessaires à l'obtention du revenu et qui, selon les conceptions courantes, peuvent y être englobées habituellement (<ref-ruling> consid. 3a p. 32 et les nombreuses références citées; arrêt 2C_260/2008 du 6 août 2008, consid. 2.2).
4.4 Selon un principe généralement admis en matière fiscale, comme l'a rappelé le Tribunal administratif, il incombe à celui qui fait valoir l'existence d'un fait de nature à éteindre ou à diminuer sa dette fiscale d'en apporter la preuve et de supporter les conséquences de l'échec de cette preuve (arrêt 2C_265/2007 du 8 octobre 2007, consid. 4.1; 2A.461/2001 du 21 février 2002 in Revue fiscale 57/2002, p. 816, consid. 2; Revue fiscale 54 118 consid. 9a p. 126; <ref-ruling> consid. 4c/aa p. 266 et les arrêts cités).
5. 5.1 C'est à bon droit que le Tribunal administratif a jugé que le montant brut des gains en cause, qui ont été obtenus en jouant au Pari mutuel romand, hors maisons de jeu, est imposable, ce que les recourants ne contestent pas. Ces derniers demandent en revanche le droit de déduire non seulement les mises gagnantes mais également les mises perdantes des gains qu'ils ont obtenus, ce que le Tribunal administratif leur a refusé.
5.2 Selon l'arrêt attaqué, qui se réfère à l'<ref-ruling>, en raison du rôle considérable des facteurs aléatoires intervenant dans l'attribution et l'importance du gain recherché, le lien d'immédiateté exigé par la loi est rompu de sorte que les mises perdantes ne peuvent être déduites du revenu. Les recourants contestent cette opinion. Il est vrai sur ce point qu'une partie de la doctrine considère qu'en principe, les dépenses pour le jeu de loterie sont des dépenses d'entretien privé du contribuable, non déductibles (Markus Reich, in Zweifel/Athanas, Kommentar zum Schweizerischen Steuerrecht, vol. I/1, Bundesgesetz über die Harmonisierung der direkten Steuern der Kantone und Gemeinden [StHG], 2e éd., Bâle/Genève/Munich 2002, n° 7 ad <ref-law>; Philipp Funk, Der Begriff der Gewinnungskosten nach Schweizerischem Einkommensteuerrecht, Grüsch 1989, p. 212). Ce ne serait que lorsque les jeux de loterie conduiraient à un gain, qui constitue un revenu imposable (cf. <ref-law>; Markus Reich, op. cit., n° 32 ad <ref-law>), que le principe de l'impôt sur le revenu net autoriserait la déduction des mises - gagnantes et perdantes - à concurrence du gain obtenu, le jeu de loterie devant en revanche être qualifié de hobby lorsque, durant une période fiscale, les mises dépasseraient les gains obtenus (Markus Reich, op. cit., n° 7 ad <ref-law>; Peter Locher, Kommentar zum DBG, Therwil/Bâle 2001, n° 48 ad <ref-law>; Ernst Känzig, Die Eidgenössische Wehrsteuer, 2e éd., Bâle 1982, n° 22a ad art. 21 al. 1 lettres e et f AIFD, ces deux derniers auteurs font référence à l'<ref-ruling>). Il n'est toutefois pas nécessaire de développer cette question du moment que le recours doit être rejeté pour un autre motif.
5.3 Le Tribunal administratif a également jugé que, comme les billets du PMU sont des coupons au porteur, il était difficile de s'assurer que seuls les recourants et non pas des tiers avaient consenti à la dépense. Il a estimé au surplus qu'il ne suffisait pas d'apposer un nom sur les coupons pour que la preuve de la dépense effective soit apportée. La preuve de l'achat effectif par les recourants n'avait donc pas été apportée en l'espèce.
Les recourants reprochent à tort au Tribunal administratif d'avoir renversé le fardeau de la preuve. Le Tribunal administratif n'a en effet pas requis des recourants la preuve que les billets perdants produits n'ont pas été achetés par des tiers, mais uniquement qu'ils ont bien été achetés par eux-mêmes, ce qui consiste à n'en pas douter à apporter la preuve d'un fait positif. A l'instar du Tribunal administratif, force est de constater qu'il ne suffit pas de déposer des billets originaux sur lesquels sont apposés les noms des recourants pour démontrer que ceux-ci en sont bien les acheteurs effectifs (cf. pour un cas similaire: arrêt du Tribunal fédéral 2A.242/2005 du 17 mars 2006). Les recourants ont en revanche raison de souligner que cette preuve peut être apportée par divers moyens et non pas uniquement par la production d'un billet nominatif délivré par la société qui exploite le PMU. Celle-ci fait toutefois défaut en l'espèce.
Par conséquent, en refusant la déduction des mises perdantes parce que les recourants n'avaient pas suffisamment prouvé en avoir supporté le coût, le Tribunal administratif n'a pas violé le droit fédéral.
5.4 Au vu du résultat du recours, il n'est pas nécessaire d'examiner le grief de constatation manifestement inexacte des faits ni celui de violation de la force dérogatoire du droit fédéral, qui se confond au demeurant avec la violation de la loi sur l'harmonisation fiscale, directement applicable le cas échéant (<ref-law>), ni non plus celui de violation du principe de la légalité et de l'intérêt public.
6. Les considérants qui précèdent conduisent au rejet du recours.
Succombant, les recourants doivent supporter un émolument judiciaire solidairement entre eux (art. 65 et 66 LTF). Ils n'ont pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3. Le présent arrêt est communiqué au mandataire des recourants, à l'Administration fiscale et au Tribunal administratif du canton de Genève, ainsi qu'à l'Administration fédérale des contributions, Division juridique impôt fédéral direct.
Lausanne, le 1er octobre 2008
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Merkli Dubey