Faits:
A. AX._ et BX._, domiciliés à A._, ont reçu une décision de taxation du 19 décembre 2007 pour les impôts cantonaux et communaux sur le revenu et la fortune de la période fiscale 2006 se montant à un total de 28'758 fr. 90. En annexe au bordereau était joint un relevé de compte mentionnant, outre les dates d'opération et de valeur, les éléments suivants:
Mouvements
Débit
Crédit
Paiement par BVR
416.-
Paiement par BVR
416.-
Paiement par BVR
416.-
Paiement par BVR
416.-
Paiement par BVR
416.-
Paiement par BVR
416.-
Paiement par BVR
416.-
Paiement par BVR
416.-
Paiement par BVR
416.-
Paiement par BVR
416.-
Bordereau notifié le 19.12.2007
28'758.90
Impôt anticipé
919.90
Intérêt financier
500.60
Totaux
29'259.50
5'079.90
Solde en notre faveur
24'179.60
Les époux X._ ont élevé réclamation à l'encontre de ce bordereau; ils contestaient, dans son principe, l'intérêt financier porté au débit de leur compte. Ils estimaient que l'art. 360 de la loi générale genevoise du 9 novembre 1887 sur les contributions publiques (LCP; RS/GE D 3 05) prévoyait une échéance de l'impôt à la date de la notification de la décision de taxation et qu'ainsi aucun intérêt ne pouvait être mis à la charge du contribuable avant cette notification, soit en l'espèce le 19 décembre 2007. Par décision du 4 mars 2008, l'Administration fiscale cantonale du canton de Genève (ci-après: l'Administration fiscale) a rejeté la réclamation des intéressés. La Commission cantonale de recours en matière administrative du canton de Genève a fait de même le 30 août 2010.
B. La Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice), par arrêt du 17 mai 2011, a rejeté le recours des époux X._. Elle a en substance jugé que le fisc était fondé à réclamer des intérêts financiers; les apparentes contradictions des dispositions sur l'échéance et l'acquittement des impôts disparaissaient à la lecture des travaux préparatoires; il en ressortait que l'art. 361 al. 4 LCP prévoyait expressément lesdits intérêts.
C. Agissant par la voie du recours en matière de droit public, AX._ et BX._ demandent au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 17 mai 2011 de la Cour de justice, de constater que la "loi fiscale genevoise ne contient aucun terme général d'échéance différent de l'échéance stipulée à l'art. 360 LCP", de dire que l'impôt est exigible en application de l'art. 363 LCP, de constater qu'aucun intérêt financier ou moratoire ne peut être calculé avant la date d'exigibilité du bordereau d'impôt et d'annuler l'intérêt financier infligé aux recourants.
L'Administration fiscale cantonale conclut au rejet du recours. La Cour de justice persiste dans les considérants et le dispositif de son arrêt. L'Administration fédérale des contributions s'en remet à justice, l'objet du recours relevant de l'application de dispositions de droit cantonal et ne faisant pas partie du droit harmonisé.

Considérant en droit:
1. Selon l'<ref-law>, le recours en matière de droit public peut être formé notamment pour violation du droit fédéral (let. a), qui comprend les droits constitutionnels des citoyens, ainsi que des droits constitutionnels cantonaux (let. c). Le Tribunal fédéral applique le droit d'office (<ref-law>), sous réserve de l'<ref-law>. A cet égard, si le recourant peut faire valoir que la mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 1.2 p. 145; <ref-ruling> consid. 1.3 p. 59), il lui appartient toutefois d'invoquer ce grief et de le motiver d'une manière suffisante.
En outre, en droit fiscal, le Tribunal fédéral examine librement si les lois cantonales harmonisées ont été appliquées conformément au droit fédéral (cf. consid. 2 et <ref-ruling> consid. 2 p. 209; <ref-ruling> consid. 1.2 p. 713).
2. 2.1 Les recourants invoquent une violation de l'art. 41 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID ou la loi fédérale sur l'harmonisation; RS 642.14), en tant que les intérêts financiers de 500 fr. 60 ne figuraient pas sur le bordereau de taxation mais uniquement sur le relevé de compte. Selon eux, le fait d'ajouter des intérêts financiers sur ce relevé reviendrait à modifier le bordereau de taxation mais sans en indiquer les raisons, ce qui serait contraire aux exigences de la LHID. De plus, le relevé de compte n'indiquerait pas, en violation de l'<ref-law>, la voie de droit par laquelle il peut être attaqué.
2.2 L'<ref-law> prévoit que les décisions de taxation doivent être notifiées au contribuable par écrit et indiquer les voies de droit; les autres décisions et prononcés doivent, en outre, être motivés.
La procédure faisant partie des domaines harmonisés (<ref-law>), la loi sur l'harmonisation a restreint les compétences des cantons pour la mise en oeuvre du droit cantonal de procédure.
Selon l'art. 19 al. 1 de la loi genevoise du 4 octobre 2001 de procédure fiscale (LPFisc; RS/GE D 3 17), entrée en vigueur le 1er janvier 2002, les décisions de taxation sont notifiées au contribuable par écrit et indiquent les voies de droit; les autres décisions et prononcés doivent, en outre, être motivés.
L'art. 362 LCP dispose que les bordereaux de perception doivent être datés; ils contiennent notamment l'énumération des taxes, impôts, majorations, amendes, intérêts et centimes additionnels à payer par le contribuable et portent l'avertissement d'avoir à effectuer le paiement dans un délai qui y est indiqué.
2.3 La décision de taxation du 19 décembre 2007 intitulée "Impôts cantonaux et communaux 2006. Bordereau" a été notifiée aux recourants par un courrier dans lequel se trouvait également le document "Impôts cantonaux et communaux 2006. Relevé de compte" portant la même date. La première comporte les différents éléments nécessaires à la taxation, dont principalement les montants du revenu et de la fortune imposables, les montants déterminants pour les taux d'imposition, ainsi que les différentes composantes du calcul de l'impôt sur le revenu et la fortune cantonal et communal. Ce document doit forcément être complété puisqu'il ne mentionne pas ce que le contribuable a encore à payer à l'Etat ou, au contraire, ce que l'Etat doit lui rembourser, en fonction des acomptes provisionnels versés. Cette information figure précisément sur le relevé de compte. Cette pièce (cf. partie "Faits" let. A) récapitule les montants payés au cours de l'année, le montant d'impôt total dû (reporté de la décision de taxation), celui de l'impôt anticipé et, finalement, elle indique l'intérêt financier. Cet intérêt étant dû sur la différence entre les acomptes acquittés et le montant d'impôt total, le fisc le mentionne sur le relevé de compte plutôt que sur la décision de taxation elle-même. Comme on le voit, ces deux documents forment un tout et le premier ne modifie pas le second, comme le prétendent les recourants, mais il le complète. Il pourrait certes être plus clair pour le contribuable de retrouver les intérêts financiers sur la décision de taxation elle-même et pas uniquement sur le relevé de compte, mais ce mode de procéder est une question d'appréciation et ne suffit pas à établir que la mention de ces intérêts sur le relevé de compte serait contraire à l'<ref-law>. Par ailleurs, les recourants ne prétendent pas, à cet égard, que le droit genevois aurait été appliqué de façon arbitraire.
En ce qui concerne les voies de droit, elles sont indiquées sur la décision de taxation et elles n'ont pas à être encore mentionnées sur le relevé de compte qui, comme on l'a vu, complète la décision de taxation.
Partant, le grief doit être rejeté.
3. 3.1 Dans un second grief, les recourants se plaignent d'une application arbitraire du droit cantonal. Selon eux, le fisc ne pouvait pas mettre les intérêts financiers en cause à leur charge car l'impôt n'était pas échu avant la notification de la décision de taxation, tel que cela ressort de l'art. 360 LCP. Or, seul un impôt échu pourrait porter des intérêts. En l'espèce, la décision de taxation a été notifiée le 19 décembre 2007, notification qui marque l'échéance de l'impôt, et aucun intérêt ne pouvait courir avant cette date. En outre, prélever un intérêt sur une somme qui n'est pas échue contreviendrait aux principes généraux du droit des obligations.
Il n'est pas certain que ce grief soit motivé de façon suffisante (cf. consid. 1). Compte tenu du sort de la cause, cette question peut toutefois rester ouverte.
3.2 Une créance d'impôt se fonde dans tous les cas sur la loi. Elle naît lorsque l'état de fait auquel la loi fiscale rattache l'apparition de la créance d'impôt est réalisé. Ainsi, pour qu'un assujettissement fiscal conduise dans un cas d'espèce à la naissance de la créance d'impôt, il faut que les faits générateurs auxquels la loi rattache la perception d'un impôt déterminé soient réunis (<ref-ruling> consid. 4a p. 224).
Contrairement à la créance de droit civil, en principe immédiatement exigible depuis sa naissance, la créance d'impôt échoit postérieurement à sa naissance. L'impôt doit être payé et son paiement peut être exigé au terme de son échéance (PHILIPPE Béguin/Kaloyan Stoyanov, La créance d'impôt, in OREF (éd.), Les procédures en droit fiscal, 2e éd., 2005, p. 808) dont la date, en matière d'impôts directs est en principe fixée par la loi ou une ordonnance, afin que tous les contribuables s'acquittent en même temps de leur dû.
3.3 La perception des impôts, sous réserve de quelques dispositions (not. <ref-law>), n'est pas réglée par la LHID (RDAF 2009 II 99 consid. 4.2 = StE 2010 B 99.2 no 22, 2C_546/2008). Seules les dispositions cantonales entrent en ligne de compte. En l'espèce, le présent cas relevant de la période fiscale 2006, les dispositions à considérer sont les art. 360 ss LCP, relatifs à la perception des impôts, qui étaient en vigueur jusqu'au 31 décembre 2008 (cf. note no 225 de la LCP).
L'ancien art. 360 LCP prévoit que l'impôt est échu dès la notification de la décision de taxation (al. 1); le terme d'échéance est maintenu même si le contribuable a déposé une réclamation ou un recours contre la taxation (al. 2).
Selon l'ancien art. 361 LCP, il peut être perçu en cours d'années des acomptes provisionnels, calculés sur la base des impôts de l'année précédente, ainsi que des majorations ne dépassant pas 3% en cas de retard dans les versements des acomptes (al. 3); le montant résultant de la différence entre le total des acomptes provisionnels versés et l'impôt échu, supérieur au total des acomptes provisionnels, porte intérêt au taux légal dès le premier jour qui suit la période fiscale (al. 4).
Les impôts doivent être acquittés dans les trente jours suivant l'échéance (ancien art. 363 LCP).
Le règlement transitoire genevois du 28 novembre 2001 relatif à la perception des acomptes provisionnels (aRTAP), en vigueur jusqu'au 31 décembre 2008, dispose, à son art. 3, que si le total des acomptes provisionnels versés par le contribuable est inférieur au montant de l'impôt échu, le contribuable doit la différence (al. 1); le montant résultant de cette différence porte intérêt, conformément à l'art. 361 al. 4 LCP et aux modalités prévues par l'art. 5 aRATP (al. 2). D'après cette disposition, pour les personnes physiques, l'intérêt financier visé à l'art. 361 al. 4 LCP court dès le 1er avril qui suit la période fiscale (al. 1).
3.4 Dans la LCP, le législateur genevois a instauré deux types d'intérêts à charge du contribuable, le cas échéant: les intérêts moratoires et les intérêts financiers. La nouvelle loi genevoise du 26 juin 2008 relative à la perception et aux garanties des impôts des personnes physiques et des personnes morales (LPGIP; RS/GE D 3 18), entrée en vigueur le 1er janvier 2009, distingue toujours les premiers (cf. notamment art. 9 et 20 LPGIP) des seconds, appelés désormais "intérêts compensatoires négatifs" (art. 14 LPGIP). Les intérêts moratoires sont dus lorsque le contribuable n'a pas acquitté une créance à l'expiration d'un certain délai (cf. ancien art. 364 LCP). Les intérêts financiers, ici en cause, le sont lorsque le total des acomptes provisionnels payés par le contribuable est inférieur au montant de l'impôt total (ancien <ref-law> et art. 3 aRTAP). Ils sont donc mis à la charge du contribuable indépendamment de tout retard dans un paiement.
Dans un système d'imposition postnumerando, l'impôt dû ne peut être connu avant la fin de la période fiscale puisque celle-ci coïncide avec la période de calcul. Avant la décision de taxation définitive, seuls les acomptes provisionnels sont acquittés durant la période fiscale. Selon l'ancien art. 361 al. 4 LCP, l'intérêt financier dû sur la différence entre les acomptes versés et le montant total des impôts dû porte intérêt dès le premier jour qui suit la période fiscale. Cette disposition est applicable aux personnes morales, pour lesquelles le système postnumerando est en vigueur depuis 1995, et aux personnes physiques qui sont soumises à ce système depuis 2001. Concernant les personnes morales, l'art. 5 al. 2 aRTAP confirme l'échéance de l'impôt dès le 1er jour qui suit la période fiscale, celle-ci correspondant à l'exercice commercial (art. 37 al. 1 de la loi genevoise du 23 septembre 1994 sur l'imposition des personnes morales [RS/GE; D 3 15]); l'échéance de l'impôt n'est dès lors pas une date unique commune à toutes les personnes morales mais dépend de la date de clôture des comptes. Pour les personnes physiques, l'art. 5 al. 1 aRTAP prévoit que l'intérêt financier visé à l'ancien art. 361 al. 4 LCP court dès le 1er avril qui suit la période fiscale, laquelle correspond à l'année civile. Il fixe ainsi bel et bien une échéance pour les impôts cantonaux et communaux sur le revenu et la fortune, même si celle-ci n'est qu'implicite. Ceci est d'ailleurs confirmé par le Projet de loi du 24 mai 2007 du Grand Conseil genevois relative à la perception et aux garanties des impôts des personnes physiques et des personnes morales (PL 10039), lequel souligne, au commentaire de l'art. 12 intitulé "Terme général d'échéance", que "ni la LCP, ni le RTAP, ni aucune autre loi ou aucun autre règlement cantonal, ne fixent, de façon expresse, de terme général d'échéance pour les impôts périodiques des personnes physiques et des personnes morales. Le terme général d'échéance découle néanmoins de façon implicite de l'art. 5 RTAP qui fait courir les intérêts financiers à partir du 1er avril qui suit la fin de la période fiscale pour les personnes physiques et du premier jour qui suit la période fiscale pour les personnes morales". En ce qui concerne les personnes physiques, cette échéance décalée par rapport à la fin de la période fiscale s'explique par l'impossibilité matérielle pour les contribuables, dans le système postnumerando, d'anticiper le montant d'impôts dû à la fin de l'année fiscale; un délai de trois mois, correspondant au délai pour remplir la déclaration d'impôts, doit dès lors leur permettre d'estimer au plus près leur charge fiscale de l'année précédente et d'effectuer, le cas échéant, un versement complémentaire avant que ne démarre le calcul des intérêts financiers (Information no 5/2003 du 21 mai 2003 de l'Administration fiscale cantonale relative aux intérêts rémunératoires, financiers et moratoires). Ce système d'intérêts financiers a, notamment, pour but d'assurer une égalité de traitement entre les contribuables qui, après la période fiscale, se voient notifier rapidement leur décision de taxation et ceux pour lesquels cette décision n'arrive que plus tard (Mémorial des séances du Grand conseil 1994 II 1425 ss, 53e législature, no 14, ad art. 361 LCP p. 1478; cf. aussi arrêt 2P.21/2000 du 3 août 2000 consid. 2d). Comme le soulignent les recourants, il appartient aux contribuables d'estimer le montant de leurs impôts afin, le cas échéant, de payer un éventuel solde si celui-ci devait s'avérer supérieur aux acomptes provisionnels et d'éviter des intérêts financiers. Cependant, contrairement à ce qu'ils prétendent, une fois la déclaration d'impôt remplie, cet exercice est simple puisque le site l'Administration fiscale propose une "calculette" pour ce faire, laquelle nécessite uniquement d'entrer certaines données (situation familiale, revenus, etc.) contenues dans la déclaration d'impôt.
Quant à l'ancien art. 360 LCP, comme le remarque la Cour de justice, il peut effectivement prêter à confusion compte tenu de son intitulé, "échéance", et de son contenu, puisqu'on peut, dans un premier temps, penser qu'il s'agit du terme général d'échéance. L'examen des autres dispositions pertinentes, comme reporté ci-dessus, démontre que tel n'est pas le cas. En outre, le Mémorial des séances du Grand conseil mentionne, à propos de cet article (op. cit., ad art. 360 LCP p. 1478), que, en cas de recours, "c'est désormais le montant total qui est exigible, nonobstant recours, et plus seulement la part non-contestée du bordereau".
3.5 Au regard de ce qui précède, la Cour de justice n'a pas appliqué le droit cantonal en cause de façon arbitraire et le grief doit être rejeté.
4. Le recours en matière de droit public est rejeté.
Succombant, les recourants supporteront les frais judiciaires (<ref-law>) solidairement entre eux. Il n'est pas alloué de dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants solidairement entre eux.
3. Le présent arrêt est communiqué au mandataire des recourants, à l'Administration fiscale cantonale et à la Cour de justice, Chambre administrative, de la République et canton de Genève, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 8 mai 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Kurtoglu-Jolidon