Faits:
A. A X._, né en 1931, a conclu le 3 août 2001 avec la Compagnie d'Assurance SA C._ (ci-après: l'assurance C._) un contrat prévoyant le versement d'une rente temporaire annuelle d'un montant de 92'072 fr., en cas de vie de lui-même ou de son épouse B X._, née en 1938. Cette rente était payable la première fois le 1er novembre 2001 et la dernière fois le 1er mai 2009. En cas de décès de l'une des personnes assurées, la rente continuait à être versée en totalité au survivant. Ce n'est qu'en cas de décès des deux époux que le contrat prenait fin, sans prestations de l'assureur. L'assurance a été financée par le paiement d'une prime unique de 700'000 fr. La police contenait une clause de participation aux excédents. Tant en 2002 qu'en 2003, les bénéficiaires ont perçu la rente convenue de 92'072 fr., ainsi qu'un montant de 10'500 fr. à titre de participation aux excédents, soit un total de 102'572 fr.
Par bordereau du 24 février 2004 relatif aux impôts cantonaux et communaux 2002, l'Administration fiscale cantonale du canton de Genève (ci-après: l'Administration fiscale cantonale ou le fisc) a fixé le montant de la rente imposée au titre de revenu à 36'828 fr. (92'072 fr. x 40%) et la valeur de la "rente viagère capitalisée" à 920'720 fr. pour l'impôt sur la fortune.
Le 26 mai 2005, l'Administration fiscale cantonale a notifié aux époux X._ le bordereau pour l'impôt fédéral direct 2003, ainsi que pour les impôts cantonaux et communaux 2003. Le montant de la rente imposé au titre de revenu était de 41'029 fr. (102'572 fr. x 40%) et la valeur capitalisée de celle-ci pour l'impôt sur la fortune cantonal et communal se montait à 1'025'720 fr., montant dû à une erreur et ramené, par courrier du 30 mai 2005, à 552'432 fr.
Par décision du 14 juin 2005 concernant les impôts cantonaux et communaux 2002, l'Administration fiscale cantonale a partiellement admis la réclamation des intéressés en tant qu'elle portait sur l'impôt sur la fortune et a ramené le montant de la rente capitalisée à 616'882 fr.
Dans une décision sur réclamation du 14 juillet 2005 relative à l'impôt fédéral direct et aux impôts cantonaux et communaux 2003, l'Administration fiscale cantonale a rejeté la réclamation des époux X._.
B. Les recourants ont déféré les décisions de l'Administration fiscale cantonale des 14 juin et 14 juillet 2005 auprès de la Commission cantonale de recours en matière d'impôts du canton de Genève, devenue, depuis le 1er janvier 2009, la Commission cantonale de recours en matière administrative (ci-après: la Commission cantonale de recours) par actes des 12 juillet et 8 août 2005. Statuant sur les deux recours par décision unique du 4 février 2009, la Commission cantonale de recours les a partiellement admis. Elle a estimé que les prestations versées en application d'un contrat d'assurance conclu pour une durée de huit ans par un contribuable âgé de 70 ans, devaient être assimilées à des rentes viagères temporaires relevant de l'assurance viagère et non pas à des rentes certaines relevant de l'assurance de capital. S'agissant de l'impôt fédéral direct et de l'impôt cantonal et communal sur le revenu 2002 et 2003, elle a considéré que les 102'572 fr. perçus pour chacune de ces années étaient imposables à raison de 40%, soit 41'029 fr. En ce qui concerne l'impôt cantonal et communal sur la fortune, elle a pris acte de l'engagement de l'Administration fiscale cantonale de modifier le montant imposable en faveur des contribuables, en appliquant un facteur de capitalisation de 5.2 pour l'année 2002 et 4.5 pour l'année 2003, déterminant respectivement une fortune imposable de 533'374 fr. et de 461'574 fr. Elle a considéré, à l'instar du fisc, qu'en l'absence de valeur de rachat, la valeur capitalisée des rentes viagères, comprenant les participations aux excédents, devait être prise en compte.
C. Saisi d'un recours dirigé contre la décision précitée de la Commission cantonale de recours du 4 février 2009, le Tribunal administratif du canton de Genève, 2ème Section (ci-après: le Tribunal administratif), l'a rejeté, par arrêt du 16 juin 2009. Il a retenu, en substance, que l'assimilation de rentes viagères temporaires à des rentes certaines ne pouvait pas être retenue en l'espèce, compte tenu de la durée de la rente, soit dix ans, et de l'âge des assurés, dont le plus jeune avait 63 ans au début du versement de la rente, qui impliquait un risque. L'imposition au titre du revenu de ces rentes au taux de 40% était en conséquence justifiée. En outre, les assurances sans valeur de rachat n'étaient pas pour autant dénuées de valeur économique et devaient être prises en compte au titre de l'impôt sur la fortune, leur valeur étant fonction de la durée du versement en cas de rente temporaire ou de l'âge de l'assuré en cas de rente viagère. En l'espèce, en application de l'échelle applicable aux rentes temporaires, la rente capitalisée était effectivement de 533'374 fr. pour 2002 et de 461'574 fr. pour 2003. Pour le surplus, le Tribunal administratif a considéré que les recourants ne pouvaient rien tirer des quelques cas isolés dans lesquels le fisc n'avait pas soumis à l'impôt sur la fortune des assurances sans valeur de rachat ni restitution, compte tenu du principe selon lequel il n'y avait pas d'égalité dans l'illégalité.
D. Agissant par la voie du recours en matière de droit public, A X._et B X._ demandent au Tribunal fédéral, avec suite de dépens, d'annuler l'arrêt du Tribunal administratif du 16 juin 2009, de dire que les rentes perçues en 2002 et 2003 doivent être imposées, au titre du revenu pour l'impôt cantonal et communal 2002 et 2003 et pour l'impôt fédéral direct 2003, à concurrence de 12'252 fr., soit des intérêts servis, et que la valeur de fortune de l'assurance correspond à la valeur de rachat, soit zéro, pour l'impôt sur la fortune cantonal et communal 2002 et 2003 et d'inviter le Département cantonal des finances à émettre de nouveaux bordereaux pour les impôts cantonaux et communaux 2002 et 2003 ainsi que pour l'impôt fédéral direct 2003. Ils invoquent une "violation du droit cantonal" et fédéral, ainsi qu'une violation de la capacité économique, de la garantie de la propriété, de la primauté du droit fédéral et de l'interdiction de l'arbitraire.
Le Tribunal administratif renonce à formuler des observations et persiste dans les considérants et le dispositif de l'arrêt entrepris. L'Administration fiscale cantonale conclut au rejet du recours. L'Administration fédérale des contributions conclut également au rejet du recours, pour autant qu'il soit recevable.

Considérant en droit:
1. 1.1 L'arrêt attaqué concerne l'impôt fédéral direct 2003 et les impôts cantonaux et communaux 2002 et 2003. Il est donc fondé sur le droit public, de sorte que la voie du recours en matière de droit public est, en principe, ouverte en vertu de l'<ref-law>, les exceptions de l'<ref-law> n'étant pas réalisées.
1.2 Interjeté par des parties directement touchées par la décision attaquée et qui ont un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), dirigé contre un arrêt final (<ref-law>) et déposé dans le délai (art. 100 al. 1 et 46 al. 1 let. b LTF) et la forme (<ref-law>) prévus par la loi, le recours est en principe recevable.
2. D'après l'<ref-law>, le Tribunal fédéral applique le droit d'office. Par conséquent, il examine en principe librement l'application du droit fédéral, ainsi que la conformité du droit cantonal harmonisé et son application par les instances cantonales aux dispositions de la loi fédérale sur l'harmonisation fiscale.
D'après l'<ref-law>, en revanche, le Tribunal fédéral n'examine la violation de droit fondamentaux, ainsi que celle de dispositions de droit cantonal et intercantonal, que si ces griefs ont été invoqués et motivés. Il en va de même lorsque les dispositions de la loi sur l'harmonisation fiscale laissent une certaine marge de manoeuvre aux cantons, l'examen de l'interprétation du droit cantonal étant alors limité à l'arbitraire (<ref-ruling> consid. 2 p. 209 ss). Dans ces conditions, l'<ref-law> exige que l'acte de recours contienne, à peine d'irrecevabilité, un exposé succinct des droits constitutionnels ou des principes juridiques violés et précise en quoi consiste la violation (<ref-ruling> consid. 1.3 p. 67). Lorsqu'il est saisi d'un recours, le Tribunal fédéral n'a donc pas à vérifier de lui-même si l'arrêt entrepris est en tous points conforme au droit et à l'équité (<ref-ruling> consid. 2.1 p. 143).
I. Impôt fédéral direct.
3. L'objet de la contestation porte sur l'imposition, au titre de l'impôt fédéral direct 2003, des rentes servies par la compagnie d'assurance aux recourants. Le Tribunal administratif a assimilé celles-ci à des rentes viagères au sens de l'art. 22 al. 3 de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (LIFD; RS 642.11) et les a imposées à hauteur de 40%. Les recourants estiment qu'en l'absence de toute restitution, l'assurance de rente souscrite ne contenait aucune composante d'assurance. En effet, l'assureur n'encourait aucun risque viager lié à la longévité des assurés mais pouvait tout au plus réaliser un "gain de décès". On se trouvait par conséquent, dans le cas d'une rente certaine, assimilable à une opération purement financière et dénuée de toute dimension de prévoyance et d'assurance. Dès lors, ces revenus devraient être soumis à l'<ref-law>. Les recourants soutiennent que seuls doivent être imposés, au titre du rendement de la fortune mobilière, les intérêts et rendements perçus, correspondant à la différence entre les rentes versées et la part de remboursement du capital, soit, pour 2003, 12'250 fr. (102'572 ./. 4/31 x 700'000 fr.), ce qui représente le rendement de leur investissement.
3.1 Aux termes de l'<ref-law>, qui règle l'imposition du rendement de la fortune mobilière, sont notamment imposables à ce titre les intérêts d'avoirs, y compris les rendements versés, en cas de vie ou de rachat, d'assurances de capitaux susceptibles de rachat et acquittées au moyen d'une prime unique, sauf si ces assurances servent à la prévoyance. La prestation d'assurance est réputée servir à la prévoyance lorsqu'elle est versée à un assuré de 60 ans révolus en vertu d'un contrat qui a duré au moins cinq ans et qui a été conclu avant le 66e anniversaire de ce dernier. Dans ce cas, la prestation est exonérée.
L'<ref-law> prévoit que les rentes viagères et les revenus provenant de contrats d'entretien viager sont imposables à raison de 40%.
3.2 Les rentes versées aux recourants par l'assurance A s'analysent comme des rentes viagères temporaires dès lors qu'elles sont payées de manière périodique aux bénéficiaires, aussi longtemps que les personnes assurées sont en vie et que la durée du versement est limitée à un laps de temps déterminé à l'avance. La question se pose de savoir si ces rentes doivent être assimilées, comme le soutiennent les recourants, à des rentes certaines relevant de l'assurance de capital et qui sont le simple remboursement par acomptes d'un capital épargne, auquel s'ajoutent des intérêts, ou, au contraire, à des rentes incertaines relevant de l'assurance de rente viagère et comportant une dimension de prévoyance et d'assurance. Dans le premier cas, elles seraient imposées en application de l'<ref-law> et, dans le second, selon l'<ref-law>.
D'après la jurisprudence, la distinction entre la rente viagère et la rente certaine tient au fait que la première comporte nécessairement - fût-elle ténue - une dimension d'assurance, prise en charge par l'assureur sur la base d'un tarif fondé sur des données actuarielles, tandis que la seconde ne dépend d'aucun calcul de probabilité mais est exclusivement fondée sur le montant du capital investi, le taux d'intérêt applicable et la durée prévue de la rente. Du point de vue fiscal, la rente certaine est assimilée à une pure opération financière et imposée comme n'importe quel rendement de fortune (RDAF 2008 II p. 390 consid. 3.4 et 3.5 = StE 2009 B 26 no 5, 2C_596/2007). En principe, les rentes viagères temporaires doivent être imposées de la même manière que les rentes viagères classiques, soit à raison de 40% de leur montant. Elles ne peuvent être assimilées à des rentes certaines que dans des situations exceptionnelles dans lesquelles le versement de la rente jusqu'au terme contractuel apparaît à ce point probable (quasiment certain) qu'il se justifie de les faire bénéficier du traitement fiscal réservé aux rentes certaines (RDAF 2008 II p. 390 consid. 4.5 = StE 2009 B 26 no 5, 2C_596/2007).
3.3 En l'espèce, le recourant a conclu, à l'âge de 70 ans, un contrat d'assurance prévoyant qu'en cas de vie des deux assurés, soit lui-même et son épouse, de sept ans sa cadette, une rente temporaire annuelle lui était versée pendant une durée maximale de huit ans. Le contrat prévoyait une participation aux excédents. En cas de décès de l'un des assurés, la rente continuait à être versée au survivant et le décès des deux assurés entraînait l'extinction du contrat, sans prestations de l'assureur. L'assurance de rente viagère temporaire a donc été conclue sans restitution. Cette particularité ne suffit toutefois pas à conférer aux rentes versées le caractère de rentes certaines. En effet, l'extinction du contrat sans prestations en cas de décès des deux assurés implique nécessairement une dimension d'assurance, soit celle du risque de décès, qui est prise en compte pour fixer le montant de la rente temporaire, en fonction de tarifs fondés sur des données actuarielles. A cet égard, le "gain de décès" de l'assureur auquel les recourants font référence relève bien du domaine de l'assurance et intervient à ce titre dans la détermination du montant de la rente. En outre, la participation aux excédents prévue par le contrat d'assurance conclu, qui dépend notamment de l'évolution des coûts et des risques assumés par l'assureur, est par nature étrangère à une simple opération financière de restitution d'un capital par tranches mais renvoie spécifiquement à la notion d'assurance-vie (RDAF 2008 II p. 390 consid. 3.6 in fine et les références citées = StE 2009 B 26 no 5, 2C_596/2007).
Enfin, les recourants ne sauraient se prévaloir d'une situation exceptionnelle justifiant l'assimilation des rentes perçues à des rentes certaines. Une telle exception est en effet réservée aux rentes d'une durée limitée en principe à cinq ans et destinée à financer une pré-retraite ou une période de formation (RDAF 2008 II p. 390 consid. 4.5 = StE 2009 B 26 no 5, 2C_596/2007). Or, la durée de versement des prestations (huit ans) et l'âge des assurés pendant cette période (70 à 78 ans, 63 à 71 ans) exclut de mettre les recourants au bénéfice de ce régime d'exception. Le Tribunal fédéral est parvenu à la même conclusion dans le cadre d'une rente versée pendant près de sept ans à un assuré âgé de 62 ans au moment de la conclusion du contrat (<ref-ruling> consid. 7.1.3 et 7.1.4 p. 204 ss). Ainsi, la rente perçue par les recourants ne peut être assimilée à une rente certaine et relève de l'assurance de rente viagère.
3.4 Compte tenu de ce qui précède, c'est à juste titre que les rentes reçues par les recourants en 2003 ont été imposées à raison de 40%, soit 41'029 fr., pour l'impôt fédéral direct de la même année, en application de l'<ref-law>.
II. Impôts cantonaux et communaux.
A. Impôt sur le revenu.
4. Comme la loi sur l'impôt fédéral direct, l'art. 7 al. 2 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; RS 642.14) prévoit que les rentes viagères et les revenus provenant de contrats d'entretien viager sont imposables à raison de 40 % .
L'art. 8 al. 2 de la loi genevoise du 22 septembre 2000 sur l'imposition des personnes physiques - impôt sur le revenu (revenu imposable) (LIPP-IV), en vigueur jusqu'au 31 décembre 2009, prévoit également que les revenus provenant de rentes viagères et les autres revenus périodiques provenant de contrats d'entretien viager sont imposables à raison de 40%.
La qualification des prestations perçues en 2002 et 2003 par les recourants, développée dans les considérants ci-dessus, s'applique également pour l'impôt cantonal et communal sur le revenu. Dès lors, c'est sans arbitraire que ces rentes relevant de l'assurance de rente viagère ont été imposées à 40 % pour lesdits impôts des périodes de taxation 2002 et 2003, en application de l'art. 8 al. 2 LIPP-IV.
B. Impôt sur la fortune.
5. 5.1 Les recourants contestent que l'assurance de rente conclue puisse être imposée au titre de la fortune puisqu'elle est dépourvue de valeur de rachat et de restitution. De ce fait, il ne saurait y avoir de valorisation au titre de la valeur vénale, valeur retenue par l'<ref-law>. Dans la mesure où elles prévoient une valeur capitalisée pour les rentes viagères sans valeur de rachat, les dispositions du droit cantonal seraient contraires à l'<ref-law> et violeraient en conséquence le principe de la primauté du droit fédéral (art. 49 al. 1 Cst.).
5.2 L'<ref-law> prévoit que la fortune est estimée à la valeur vénale; toutefois, la valeur de rendement peut être prise en considération de façon appropriée.
Selon la jurisprudence, la loi sur l'harmonisation fiscale ne prescrit pas au législateur cantonal une méthode d'évaluation précise pour déterminer la valeur vénale. Les cantons disposent donc en la matière d'une marge de manoeuvre pour élaborer et appliquer leur réglementation (RF 64/2009 p. 755 consid. 3.1, 2C_820/2008).
5.3 L'art. 2 lettre h de la loi genevoise du 22 septembre 2000 sur l'imposition des personnes physiques (LIPP-III), en vigueur jusqu'au 31 décembre 2009, dispose que la valeur capitalisée des rentes viagères est soumise à l'impôt sur la fortune et l'art. 6 de cette loi précise que les rentes viagères touchées par le contribuable en contre-partie d'un versement en capital sont capitalisées d'après l'échelle établie par le Conseil d'Etat. Les taux de capitalisation sont fixés à l'art. 2 du règlement d'application de la loi sur l'imposition des personnes physiques - Impôt sur la fortune (RIPP-III) du 19 décembre 2001, en vigueur jusqu'au 31 décembre 2009.
Le droit cantonal ne prévoit pas de traitement différencié selon que la police d'assurance mentionne une valeur de rachat ou non ou selon qu'elle contient ou non une clause de restitution des primes en cas de décès. Si une valeur de rachat est calculée par la compagnie d'assurance, elle peut être prise en compte en lieu et place de la valeur capitalisée. A défaut, c'est celle-ci qui est prise en compte. Selon la conception retenue par le législateur cantonal, l'absence de valeur de rachat signifie que le preneur d'assurance ne peut pas mettre unilatéralement un terme prématuré au contrat et obtenir ainsi un montant en contre-partie mais n'implique pas que l'assurance soit dépourvue de valeur économique et ne puisse pas être imposée. Dans cette hypothèse, il est procédé à l'évaluation de cette valeur économique, soit en capitalisant les rentes selon une échelle de capitalisation, soit en prenant en considération la durée du versement en cas de rente temporaire ou l'âge de l'assuré en cas de rente viagère. Un tel système d'évaluation n'est pas contraire au cadre général fixé par l'<ref-law> et entre dans la marge de manoeuvre laissée aux cantons par le législateur fédéral. Partant, le grief doit être rejeté.
5.4 Les recourants, dans leurs conclusions, demandent au Tribunal fédéral de "dire que la valeur de fortune de l'assurance conclue par les recourants correspond à la valeur de rachat, soit 0.- fr.". Toutefois, les griefs ne portent que sur le principe de l'imposition et non pas sur le calcul de la capitalisation opérée lui-même. Ainsi, étant donné le défaut de motivation relative au calcul de l'impôt sur la fortune (cf. consid. 2, <ref-law> et <ref-ruling> consid. 6.3 p. 120 ss et les arrêts cités), celui-ci ne sera pas examiné.
6. 6.1 Se prévalant du principe de l'interdiction de l'arbitraire, les recourants reprochent également au Tribunal administratif de n'avoir pas retenu le grief d'inégalité de traitement de la part de l'Administration fiscale cantonale. Celle-ci avait, dans neuf décisions notifiées à six contribuables distincts postérieurement aux décisions de taxation litigieuses, renoncé à imposer au titre de la fortune des assurances sans valeur de rachat ni restitution.
6.2 Dans sa réponse au recours du 9 octobre 2009, l'Administration fiscale cantonale a admis qu'elle s'était trompée dans la manière d'imposer quatre des six contribuables cités par les recourants en ne soumettant pas la valeur capitalisée de certaines rentes à l'impôt sur la fortune. Elle a précisé qu'elle avait imposé les assurances de rentes en question, dès qu'elle avait découvert son erreur, par capitalisation des rentes versées. Pour l'un des deux derniers contribuables, c'est la valeur de rachat qui avait été prise en considération, dès lors qu'il s'agissait d'une assurance de rente temporaire susceptible de rachat et, pour l'autre, l'assurance avait pris fin avant la fin de l'année fiscale et n'était donc plus imposable au 31 décembre de l'année en question. Il n'y avait donc pas eu d'erreur de taxation dans ces deux cas.
6.3 Selon la jurisprudence, le principe de la légalité de l'activité administrative (cf. art. 5 al. 1 Cst.) prévaut sur celui de l'égalité (<ref-ruling> consid. 6a p. 392). En conséquence, le justiciable ne peut généralement pas se prétendre victime d'une inégalité devant la loi, lorsque celle-ci est correctement appliquée à son cas, alors qu'elle aurait été faussement, voire pas du tout, appliquée dans d'autres cas. Cela présuppose cependant, de la part de l'autorité dont la décision est attaquée, la volonté d'appliquer correctement à l'avenir les dispositions légales en question; le citoyen ne peut prétendre à l'égalité dans l'illégalité que s'il y a lieu de prévoir que l'administration persévérera dans l'inobservation de la loi (<ref-ruling> consid. 9b p. 121; <ref-ruling> consid. 3a p. 2; <ref-ruling> consid. 5 p. 166; <ref-ruling> consid. 4a p. 451 les arrêts cités).
6.4 En l'espèce, il n'est pas contesté que dans quatre cas, l'Administration fiscale cantonale a fait une application erronée du droit cantonal. Elle a toutefois réparé cette erreur dès qu'elle l'a découverte. L'on ne se trouve donc pas dans l'hypothèse d'une pratique constante de violation de la loi qui autoriserait les recourants à être mis au bénéfice d'un traitement illégal. Les conditions restrictives à l'admission de l'égalité dans l'illégalité ne sont donc pas remplies. Le grief des recourants doit en conséquence être rejeté.
7. 7.1 Les recourants soutiennent également que l'imposition à concurrence de 40% des rentes litigieuses, pour l'impôt sur le revenu au niveau fédéral et cantonal, constitue une violation de leur capacité contributive au sens de l'art. 127 al. 2 Cst. dans la mesure où ils ont disposé d'un revenu de 12'252 fr. seulement et non pas de 41'029 fr. (102'572 fr. x 40%). Ils font en outre valoir qu'une imposition de 46,4% ("taux marginal de l'impôt fédéral direct de 13%" et "taux marginal cantonal de 33.4%") du 40% des rentes perçues, qui correspond à un impôt de 19'037 fr. frappant un revenu se montant en fait à 12'252 fr., constitue une imposition confiscatoire violant le principe de la garantie de la propriété.
7.2 A teneur de l'art. 190 Cst., le Tribunal fédéral est tenu d'appliquer les lois fédérales. Il n'est donc pas habilité à en contrôler la constitutionnalité (<ref-ruling> consid. 2.2 p. 236; <ref-ruling> consid. 3.2 p. 566 et les arrêts cités).
De toute façon, les recourants fondent leur argumentation sur la base de taux obtenus en prenant en considération un revenu de 12'252 fr. - soit la différence entre les rentes versées, auxquelles est ajoutée la participation aux excédents, et la part de remboursement du capital (102'572 ./. 4/31 x 700'000 fr.) -, alors que le montant des rentes effectivement perçu par les recourants durant les années en cause était de 92'072 fr. et qu'ils ont également touché une participation aux excédents de 10'500 fr., pour un total de 102'572 fr., montant qui a été imposé à 40%, soit 41'029 fr. En tenant compte de ces chiffres, qui ont été retenus à bon droit pour l'imposition (cf. consid. 3 et 4), l'argumentation des recourants tombe à faux.
Il découle de ce qui précède que les griefs des recourants relatifs à la violation de la capacité contributive et de la garantie de la propriété doivent être rejetés.
8. Les considérants qui précèdent conduisent au rejet du recours tant en ce qui concerne l'impôt fédéral direct 2003 que les impôts cantonaux et communaux 2002 et 2003.
Succombant, les recourants doivent supporter les frais judiciaires, solidairement entre eux (art. 65 et 66 LTF), et n'ont pas droit à des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté en tant qu'il concerne l'impôt fédéral direct.
2. Le recours est rejeté en tant qu'il concerne les impôts cantonaux et communaux.
3. Les frais judiciaires, arrêtés à 2'500 fr., sont mis à la charge des recourants, solidairement entre eux.
4. Le présent arrêt est communiqué aux participants à la procédure, au Tribunal administratif du canton de Genève, 2ème Section, ainsi qu'à l'Administration fédérale des contributions, Division juridique de l'impôt fédéral direct.
Lausanne, le 17 mars 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Müller Kurtoglu-Jolidon