Faits: A. Les époux A.X._ et B.X._ (ci-après aussi: les contribuables ou les recourants), ressortissants français, sont domiciliés dans le canton de Genève. Ils sont propriétaires d'une villa à C._, ainsi que d'une résidence secondaire en France, à D._. Dans leur déclaration fiscale pour la période 2008, les époux X._ ont mentionné trois emprunts hypothécaires: le premier, d'un montant de 1'000'000 fr., grevait leur immeuble de C._ (les intérêts passifs y afférents étant de 40'500 fr.); les deux autres, représentant 5'538'641 fr. au total, concernaient des travaux de rénovation de leur chalet de D._ (les intérêts y relatifs ascendant à 159'360 fr.). Par bordereaux de taxation du 4 octobre 2010, l'Administration fiscale genevoise a fixé les montants d'impôt dus par les contribuables pour la période 2008. L'impôt fédéral direct (ci-après: IFD) avait été calculé sur la base d'un revenu de 223'000 fr. imposable au taux de 164'300 fr. et l'impôt cantonal et communal (ci-après: ICC) sur la base d'un revenu de 228'589 fr. imposable au taux de 176'243 fr. et d'une fortune de 3'366'336 fr. imposable au taux de 6'009'815 fr. L'Administration fiscale genevoise avait procédé, au titre du revenu, à une reprise de 52'346 fr., montant correspondant à un excédent de charges en relation avec l'immeuble de D._, les revenus de celui-ci ne suffisant pas à couvrir les intérêts passifs. B. Sur réclamation des contribuables, la reprise en question a été confirmée par décisions du 3 novembre 2010. A l'encontre de ces décisions, les contribuables ont recouru à la Commission cantonale de recours en matière administrative, dont les compétences ont été reprises entre-temps par le Tribunal administratif de première instance du canton de Genève. Le 3 octobre 2011, le Tribunal administratif de première instance a rejeté le recours. Les contribuables ont déféré ce jugement à la Chambre administrative de la Cour de justice du canton de Genève, qui les a déboutés par arrêt du 21 août 2012. S'agissant de l'IFD, les juges cantonaux ont considéré qu'au regard du droit interne, en particulier de l'art. 6 al. 3 3e phrase de la loi fédérale du 14 décembre 1990 sur l'impôt fédéral direct (LIFD; RS 642.11), un excédent de charges liées aux immeubles sis à l'étranger ne pouvait être pris en considération lors de la détermination du revenu imposable, mais seulement lors du calcul du taux d'imposition. Il n'en allait pas différemment sur la base de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681), ni de la jurisprudence de la Cour de justice des Communautés européennes antérieure à la date de signature de cette convention. Pour ce qui est de l'ICC, la situation était la même qu'en matière d'IFD, la disposition pertinente - l'art. 5 al. 4 in fine de la loi genevoise du 22 septembre 2000 sur l'imposition des personnes physiques - objet de l'impôt - assujettissement à l'impôt (LIPP-I; en vigueur jusqu'au 31 décembre 2009) -, étant calquée sur l'art. 6 al. 3 3e phrase LIFD. C. Agissant par la voie du recours en matière de droit public, les contribuables demandent au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt attaqué et de renvoyer le dossier à l'Administration fiscale genevoise, afin qu'elle rende une nouvelle décision dans le sens des considérants. L'autorité précédente s'en remet à justice quant à la recevabilité du recours et persiste au surplus dans les considérants et le dispositif de son arrêt. L'Administration fiscale genevoise et l'Administration fédérale des contributions, Division principale de l'impôt fédéral direct, de l'impôt anticipé, des droits de timbre, proposent de rejeter le recours. Par courrier du 22 mars 2013, la Cour de justice a informé le Tribunal fédéral de ce qu'il était apparu que l'un des membres du Tribunal administratif de première instance ayant rendu l'arrêt du 3 octobre 2011 n'était alors plus domicilié dans le canton de Genève et ne remplissait plus l'une des conditions d'éligibilité. La Cour de justice avait, pour ce motif, annulé d'autres jugements du Tribunal administratif de première instance qui avaient fait l'objet de recours pendants auprès d'elle. Invités par le Tribunal de céans à se déterminer sur le contenu de cette écriture, les recourants ont fait savoir, par courrier du 9 avril 2013, qu'ils renonçaient à se plaindre du vice affectant l'arrêt du Tribunal administratif de première instance du 3 octobre 2011. L'Administration fiscale genevoise a répondu que la teneur du courrier du 22 mars 2013 n'appelait aucune observation de sa part (écriture du 22 avril 2013). Le Tribunal fédéral a mené une procédure d'échange de vues selon l'art. 23 al. 1 LTF (voir consid. 1 ci-après).