Faits :
A.
Entre 2006 et 2010, les époux A._ et B._ étaient domiciliés à Genève (<ref-law>). Le 11 mars 2013, ils ont adressé un courrier intitulé "déclaration spontanée en rectification de la déclaration d'impôt" à l'Administration fiscale cantonale de la République et canton de Genève (ci-après: l'Administration fiscale). Ils y expliquaient avoir constitué une société civile immobilière en France, en juillet 2009, dans le but d'acquérir une résidence secondaire.
Par courrier du 30 avril 2013, l'Administration fiscale a informé les époux de l'ouverture à leur encontre d'une procédure en rappel et soustraction d'impôt pour l'impôt fédéral direct (ci-après: IFD) et les impôts cantonal et communal (ci-après: ICC) des périodes fiscales 2006 à 2010. Elle a requis des contribuables que ceux-ci lui remettent divers documents. Un entretien s'est déroulé le 28 mai 2013, durant lequel les époux ont exposé avoir constitué des plans d'épargne-logement en France, qui n'avaient pas été déclarés en Suisse, et avoir perçu des dividendes de la société C._ SA, qu'ils n'avaient pas non plus déclarés.
B.
Le 7 avril 2014, l'Administration fiscale a informé les contribuables de la clôture des procédures en rappel et soustraction d'impôt et leur a notifié les décisions de rappel d'impôt et les amendes pour soustraction intentionnelle, dont la quotité a été fixée à 1,25 fois les impôts soustraits. Elle a fixé le supplément d'impôt (IFD et ICC) à 71'318 fr. 15 pour 2006, à 22'597 fr. 35 pour 2007, à 10'407 fr. pour 2008, à 66'980 fr. 90 pour 2009 et à 7'543 fr. 60 pour 2010. Les contribuables ont élevé réclamation à l'encontre de ces décisions en exposant en particulier s'être dénoncés spontanément. Après divers échanges intervenus entre les époux et l'Administration fiscale, celle-ci, par décisions sur réclamation du 14 septembre 2018, a partiellement admis la réclamation des intéressés en annulant certaines reprises et en réduisant la quotité des amendes à 0,75 fois les impôts soustraits. A._ et B._ ont contesté ces décisions le 18 octobre 2018 auprès du Tribunal administratif de première instance de la République et canton de Genève (ci-après: le Tribunal administratif de première instance) qui, par jugement du 23 septembre 2019, a partiellement admis le recours en annulant notamment les amendes en raison de l'existence d'une dénonciation spontanée de la part des contribuables. Il a néanmoins renvoyé la cause à l'Administration fiscale, afin que celle-ci prononce une amende en raison de frais médicaux déclarés en trop pour l'année 2008. Le 25 octobre 2019, l'Administration fiscale a contesté ce jugement auprès de la Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice). Par arrêt du 20 décembre 2019, la Cour de justice a partiellement admis le recours en excluant un cas de dénonciation spontanée, mais en réduisant la quotité de l'amende à 0,5 fois les impôts soustraits.
C.
Agissant par la voie du recours en matière de droit public, A._ et B._ demandent au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt de la Cour de justice du 23 décembre 2019 ( recte : 20 décembre 2019), sauf en ce qu'il a trait à la quotité de l'amende, et de renoncer à prononcer une amende, à l'exception de celle maintenue pour 2008 par le Tribunal administratif de première instance; subsidiairement de renvoyer la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants.
La Cour de justice persiste dans les considérants et le dispositif de son arrêt, auxquels se rallie également l'Administration fédérale des contributions. L'Administration fiscale conclut au rejet du recours.

Considérant en droit :
1.
La décision entreprise annule en partie un jugement renvoyant partiellement la cause à l'autorité de première instance, pour nouvelle décision. Il s'agit donc d'un arrêt de renvoi, qui constitue en principe une décision incidente (<ref-ruling> consid. 1.2 p. 148) contre laquelle le recours au Tribunal fédéral n'est ouvert qu'aux conditions des art. 92 et 93 LTF, à moins que l'autorité à laquelle l'affaire est renvoyée n'ait aucune marge de manoeuvre (cf. <ref-ruling> consid. 1.2 p. 148 et les références). En l'espèce, dans la mesure où l'Administration fiscale doit se limiter à calculer une amende due par les recourants, elle ne bénéficie d'aucune marge de manoeuvre. Il s'ensuit que l'arrêt attaqué constitue dans cette mesure une décision finale au sens de l'<ref-law> qui peut faire directement l'objet d'un recours en matière de droit public. Pour le surplus, la décision entreprise a été rendue dans une cause de droit public par une autorité judiciaire supérieure de dernière instance cantonale (art. 82 let. a et 86 al. 1 let. d et al. 2 LTF) qui ne tombe sous le coup d'aucune des exceptions prévues à l'<ref-law>. La voie du recours en matière de droit public est donc en principe ouverte en vertu des <ref-law>, 146 LIFD (RS 642.11) et 73 al. 1 de la loi du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; RS 642.14). Le recours a par ailleurs été interjeté en temps utile (cf. <ref-law>), par les destinataires de l'arrêt attaqué, qui ont qualité pour recourir (<ref-law>). Il convient donc d'entrer en matière.
2.
Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law> (<ref-ruling> consid. 4.4.3 p. 156). Le recourant ne peut critiquer les constatations de fait ressortant de la décision attaquée que si celles-ci ont été effectuées en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte, c'est-à-dire arbitraire, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>; <ref-ruling> consid. 6 p. 358). Conformément à l'<ref-law>, le recourant doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées. Le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 6.3 p. 375). Par ailleurs, aucun fait nouveau ni preuve nouvelle ne peut en principe être présenté devant le Tribunal fédéral (<ref-law>).
3.
Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu (cf. <ref-ruling> consid. 5.1 p. 390), les recourants, citant en particulier les art. 29 al. 2 Cst. et 114 LIFD, se plaignent d'une violation de leur droit d'être entendus. Selon eux, les juges cantonaux ne pouvaient pas se limiter à leur communiquer le contenu d'une pièce, sans leur en donner une copie, fut-elle caviardée.
3.1. Le droit d'être entendu, tel qu'il est garanti par l'art. 29 al. 2 Cst., comprend notamment le droit pour l'intéressé de prendre connaissance du dossier, de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 2.3 p. 222 ss et les références).
En matière d'impôt fédéral direct, le contribuable a le droit de consulter les pièces qu'il a produites ou signées (<ref-law>; s'agissant des ICC, cf. <ref-law> et pour le canton de Genève, art. 17 de la loi de procédure fiscale genevoise du 4 octobre 2001 [LPFisc/GE; RSGE D 3 17]). Il peut prendre connaissance des autres pièces une fois les faits établis et à condition qu'aucune sauvegarde d'intérêts publics ou privés ne s'y oppose (al. 2). Lorsqu'une autorité refuse au contribuable le droit de consulter une pièce du dossier, elle ne peut se baser sur ce document pour trancher au détriment du contribuable que si elle lui a donné connaissance, oralement ou par écrit, du contenu essentiel de la pièce et qu'elle lui a au surplus permis de s'exprimer et d'apporter ses propres preuves (<ref-law>).
3.2. En l'occurrence, la Cour de justice n'a pas mentionné l'<ref-law>. Elle a néanmoins cité l'art. 29 al. Cst., ainsi que des dispositions de procédure cantonale (dont en particulier l'art. 17 LPFisc/GE, qui est le pendant de l'<ref-law> pour les ICC), qui ont une teneur semblable à celle de l'<ref-law>, c'est-à-dire qui permettent de refuser la consultation du dossier ou d'une partie de celui-ci, si l'intérêt public ou des intérêts privés prépondérants l'exigent. Elle a ensuite expliqué que l'Administration fiscale avait indiqué être en possession, depuis le 24 mai 2012, d'informations obtenues de la part de tiers, relatives au bien immobilier français et aux participations dans la société C._ SA, en particulier aux activités exercées par les recourants à travers cette société. L'autorité précédente a finalement constaté que l'essentiel du contenu de la dénonciation du 24 mai 2012 avait été porté à la connaissance des recourants, qui avaient eu la possibilité de se déterminer à ce propos. Elle a ainsi jugé que leur droit d'être entendus avait été respecté et qu'il n'était pas nécessaire de leur transmettre à nouveau un résumé de cette pièce.
3.3. En relation avec cette dénonciation, les recourants commencent par s'en prendre à l'Administration fiscale, qui ne leur aurait parlé de ce document que devant le Tribunal administratif de première instance. Ils oublient toutefois qu'en raison de l'effet dévolutif, seul l'arrêt de la Cour de justice fait l'objet de la présente procédure (cf. arrêt 2C_530/2019 du 23 janvier 2020 consid. 5.2). Ils ne sauraient dès lors critiquer la décision, respectivement la décision sur réclamation de l'Administration fiscale ou le jugement du Tribunal administratif de première instance.
Quant à la Cour de justice, les recourants estiment que celle-ci n'a pas examiné leur demande de production de la dénonciation. Ils sont d'avis que cette autorité a balayé leur demande en considérant qu'ils avaient eu accès au contenu essentiel de cette pièce et qu'il s'agit là d'une violation de leur droit d'être entendus. A ce propos, il faut reconnaître avec les recourants que la Cour de justice n'a pas procédé à une pesée des intérêts en présence, c'est-à-dire opposer l'intérêt des contribuables à l'intérêt public ou l'intérêt d'un tiers, comme elle aurait dû le faire, notamment en application de la jurisprudence rendue en matière de consultation du dossier (cf. <ref-ruling> consid. 2b p. 10; <ref-ruling> consid. 6a p. 161; <ref-ruling> consid. 4b p. 86). En cela, l'arrêt entrepris est fortement critiquable, la Cour de justice se limitant à affirmer laconiquement que les recourants ont obtenu les informations qu'ils désiraient et qu'ils n'avaient pas droit à en obtenir plus. Toutefois, devant la Cour de justice, ceux-ci avaient expressément demandé à pouvoir consulter les informations obtenues par l'Administration fiscale le 24 mai 2012 et figurant au dossier. L'autorité précédente a cependant considéré que cette pièce était "couverte par le secret fiscal". Or, outre que les recourants sont justement détenteurs du secret fiscal les concernant, par sa réponse, la Cour de justice répond négativement à leur demande, toutefois, sans aucunement motiver son refus. Il conviendrait donc de reconnaître une violation de leur droit d'être entendus aux recourants et de renvoyer la cause à l'autorité précédente pour qu'elle rende une décision motivée.
Néanmoins, si l'arrêt entrepris est incomplet, on comprend malgré tout que, si la Cour de justice a refusé de communiquer la dénonciation aux recourants, c'est en raison de l'intérêt personnel du dénonciateur. Par conséquent, un renvoi de la cause à l'autorité précédente pour qu'elle motive ce point n'est que pure perte de temps et ne se justifie donc pas. Il convient ainsi d'écarter le grief des recourants, mais d'en tenir compte, le cas échéant, dans la répartition des frais et dépens.
4.
4.1. La Cour de justice a jugé que l'annonce faite par les recourants à l'Administration fiscale le 11 mars 2013 ne pouvait être considérée comme étant une dénonciation spontanée, car cette dernière autorité avait déjà connaissance, depuis le 24 mai 2012, de l'existence d'une propriété immobilière en France. Pour cet élément, l'autorité précédente a considéré qu'il ne pouvait être question d'une exemption de peine. En outre, la Cour de justice a également jugé que la dénonciation spontanée des recourants ne concernait que leur société immobilière française et qu'elle n'avait aucunement trait à leurs participations dans la société C._ SA ou à des comptes bancaires non déclarés. Ce n'était qu'après l'ouverture de la procédure de rappel d'impôt que l'Administration fiscale avait eu connaissance de ces éléments. La Cour de justice a constaté que les recourants eux-mêmes avaient reconnu avoir procédé à une dénonciation spontanée partielle. Compte tenu de ce qui précède, cette autorité a considéré que, faute d'avoir déclaré l'ensemble des éléments de leurs revenus et fortune, les recourants ne pouvaient se prévaloir d'une exemption de peine. L'autorité précédente a finalement jugé que les éléments objectifs et subjectifs de l'infraction de soustraction d'impôt étaient réunis, si bien qu'une amende pouvait être prononcée. Elle a toutefois réduit celle-ci à 0,5 fois l'impôt soustrait en raison notamment de la bonne collaboration des contribuables.
4.2. Pour leur part, les recourants considèrent que l'autorité précédente a fait une mauvaise application des <ref-law> et 69 al. 3 LPFisc/GE. Ils sont d'avis que, si l'Administration fiscale savait quelque chose suite à une dénonciation anonyme, elle n'avait cependant manifesté aucun intérêt pour cette dénonciation et n'avait pas commencé à instruire la cause avant leur courrier. Les recourants mentionnent en outre qu'ils n'avaient aucune connaissance de la dénonciation en question. Ils estiment que c'est du point de vue du contribuable qu'il faut se placer pour examiner les conditions de la dénonciation spontanée et que, lorsque, de bonne foi, le contribuable peut partir de l'idée que les autorités ne sont pas au courant de la soustraction, sa dénonciation n'est pas tardive.
4.3. Le litige porte ainsi sur le point de savoir si les recourants peuvent invoquer l'existence d'une dénonciation spontanée, afin qu'il soit renoncé à la poursuite pénale. En l'absence d'une telle possibilité, il conviendra d'examiner les éléments constitutifs de l'infraction. La quotité de l'amende ne fait en revanche pas partie de l'objet du litige, les recourants renonçant expressément à la contester.
I. Impôt fédéral direct
5.
5.1. Selon l'<ref-law>, est notamment puni d'une amende le contribuable qui, intentionnellement ou par négligence, fait en sorte qu'une taxation ne soit pas effectuée alors qu'elle devrait l'être, ou qu'une taxation entrée en force soit incomplète (al. 1); en règle générale, l'amende est fixée au montant de l'impôt soustrait; si la faute est légère, l'amende peut être réduite jusqu'au tiers de ce montant; si la faute est grave, elle peut au plus être triplée (al. 2). Pour qu'il y ait soustraction au sens de cette disposition, il faut donc qu'il y ait soustraction d'un montant d'impôt en violation d'une obligation légale incombant au contribuable et une faute de ce dernier.
5.2. Selon l'<ref-law>, dans sa version en vigueur depuis le 1 er janvier 2010, lorsque le contribuable dénonce spontanément et pour la première fois une soustraction d'impôt, il est renoncé à la poursuite pénale (dénonciation spontanée non punissable), à condition: qu'aucune autorité fiscale n'en ait connaissance (let. a); qu'il collabore sans réserve avec l'administration pour déterminer le montant du rappel d'impôt (let. b); qu'il s'efforce d'acquitter le rappel d'impôt dû (let. c). La notion de dénonciation suppose que le contribuable annonce de lui-même son infraction à l'autorité fiscale, alors que celle-ci n'en a encore pas eu connaissance d'une autre manière (arrêts 2C_370/2019 du 19 septembre 2019 consid. 5.2 et 5.4.2; 2C_113/2018 du 25 novembre 2019 consid. 3.3 et les références). Quant au caractère spontané, il fait défaut lorsque la déclaration intervient alors que les autorités fiscales sont déjà en train d'enquêter sur le dossier du contribuable (arrêt 2C_370/2019 du 19 septembre 2019 consid. 5.2 et les références). La déclaration spontanée de l'<ref-law> n'est réalisée que lorsque l'auteur se dénonce spontanément ("de son propre mouvement"), sans pression extérieure (cf. arrêt 2C_370/2019 du 19 septembre 2019 consid. 5.2 et les références). Savoir ce qu'une personne sait ou veut relève de la constatation des faits qui lie le Tribunal fédéral (<ref-law>).
5.3. En l'occurrence, les recourants ne remettent pas en cause le fait que, pour les périodes fiscales sous revue, ils n'ont pas déclaré certains de leurs revenus et fortune. Les déclarations d'impôt de ces années n'étaient ainsi pas complètes au sens de l'<ref-law>. En mars 2013, les contribuables ont informé l'Administration fiscale qu'ils avaient constitué une société civile immobilière de droit français en juillet 2009, afin d'acquérir une résidence secondaire dans ce pays. Par la suite, l'Administration fiscale a encore constaté que ceux-ci n'avaient notamment pas déclaré divers comptes bancaires et des participations dans une société. Par conséquent, et ce n'est contesté par aucune des parties, les éléments objectifs de la soustraction réprimée à l'<ref-law> sont réunis.
5.4. Il convient ensuite d'examiner si les conditions de l'<ref-law> sont remplies et, partant, si les recourants peuvent prétendre à ce qu'il soit renoncé à la poursuite pénale en raison d'une dénonciation spontanée.
5.4.1. C'est en particulier la condition de l'<ref-law> qui est ici litigieuse, c'est-à-dire le point de savoir si, le 11 mars 2013, au moment où les recourants ont informé l'Administration fiscale qu'ils avaient constitué une société civile immobilière de droit français en juillet 2009 dans le but d'acquérir un bien immobilier dans ce pays, cette autorité avait déjà connaissance de l'existence de l'infraction de soustraction, respectivement si la dénonciation est intervenue spontanément. En l'occurrence, la Cour de justice a retenu que, le 24 mai 2012, l'Administration fiscale avait connaissance du fait que les recourants étaient propriétaires d'une maison en France. Basée sur cet élément, l'autorité précédente a jugé que le caractère spontané de la dénonciation des recourants faisait défaut.
5.4.2. Le Tribunal fédéral exclut le caractère spontané de la dénonciation lorsque celle-ci intervient alors que les autorités fiscales sont déjà en train d'enquêter sur le dossier du contribuable (arrêts 2C_113/2018 du 25 novembre 2019 consid. 3.3 et les références; 2C_370/2019 du 19 septembre 2019 consid. 5.4.2 et les références). Or en l'espèce, les faits retenus conduisent justement à la conclusion que l'Administration fiscale enquêtait sur les recourants. En effet, à la suite de leur courrier du 11 mars 2013, celle-ci les a informés de l'ouverture d'une procédure en rappel et soustraction d'impôt pour des éléments de fait dépassant la simple propriété immobilière en France, unique élément annoncé dans le courrier précité. Ces autres éléments, notamment des participations dans une société, ressortent au demeurant de la dénonciation anonyme reçue par l'Administration fiscale en 2012 déjà. Afin de préparer une entrevue, celle-ci leur a par ailleurs demandé d'apporter divers documents qui ne pouvaient que laisser penser qu'elle avait connaissance des différentes soustractions commises. Une telle demande, dans le contexte de fait de la présente cause, exclut tout caractère spontané de la dénonciation des recourants, ceux-ci n'ayant eu d'autre possibilité que de porter à la connaissance de l'autorité fiscale l'ensemble des éléments soustraits. De surcroît, il ressort des faits retenus par la Cour de justice que, lorsque les contribuables se sont adressés à l'Administration fiscale, cette autorité avait déjà une parfaite connaissance des éléments soustraits. Le fait que les recourants n'aient pas encore été au courant des connaissances de l'Administration fiscale à leur propos n'importe pas (cf. arrêt 2C_370/2019 du 19 septembre 2019 consid. 5.4.2 et les références). Dans ces conditions, à l'instar de la Cour de justice, on ne saurait admettre que les recourants ont agi de leur propre mouvement, à tout le moins pour les éléments de revenus et fortune autres que leur propriété immobilière française, ce qui suffit déjà, comme l'a jugé la Cour de justice, à exclure tout cas de dénonciation spontanée. Si les autorités fiscales parviennent en effet à la conclusion que la soustraction va au-delà de la dénonciation, ce qui est le cas en l'espèce, l'exemption de la peine ne sera pas accordée (cf. FF 2006 8347 p. 8375; SANSONETTI/HOSTETTLER, in Commentaire romand, Impôt fédéral direct, Aubry Girardin/Noël [éd.], 2 e éd. 2017, n. 48c ad <ref-law>; SIEBER/MALLA, in Bundesgesetz über die direkte Bundessteuer [DBG], Zweifel/Beusch [éd.], 3 e éd. 2016, n. 54 ad <ref-law>; PETER LOCHER, Kommentar zum Bundesgesetz über die direkte Bundessteuer, III. Teil, 2015, n. 63 ad <ref-law>).
5.4.3. Compte tenu de ce qui précède, il convient de retenir que la condition de spontanéité de l'<ref-law> n'est pas donnée en l'espèce et qu'il ne saurait par conséquent être question d'un cas de dénonciation spontanée.
5.5. Les recourants ne pouvant prétendre à ce qu'il soit renoncé à la poursuite pénale en raison d'un cas de dénonciation spontanée, il convient encore d'examiner l'élément subjectif de l'infraction. A ce propos, les recourants ne contestent pas la motivation de la Cour de justice qui a retenu à tout le moins une négligence. Sur le vu des éléments de faits, on peut confirmer cet élément sans autre développement particulier. Il n'est en effet pas contraire au droit d'admettre à tout le moins un cas de négligence lorsque l'on perçoit des dividendes d'une société et que l'on détient des comptes bancaires et actions que l'on sait ne pas être déclarés. Il en va de même en tant que les recourants ont annoncé en déduction des frais médicaux qu'ils n'ont pas encourus. A ce propos, on peut même admettre que reconnaître une commission de l'infraction de soustraction d'impôt par négligence et pas intentionnelle est plutôt généreux de la part de l'autorité précédente.
5.6. Le recours doit en conséquent être rejeté en tant qu'il a trait à l'impôt fédéral direct des années 2006 à 2010.
II. Impôts cantonal et communal
6.
Dès lors que les dispositions légales applicables en matière d'ICC ont un contenu identique à l'<ref-law> (cf. <ref-law> et 69 LPFisc/GE), il convient de se référer de manière générale aux développements qui précèdent, relatifs à l'IFD. Partant, le recours devra également être rejeté en tant qu'il a trait aux impôts cantonal et communal des périodes fiscales 2006 à 2010.
7.
Succombant, les recourants devraient en principe supporter les frais judiciaires (<ref-law>). Néanmoins, leur recours porte, à tout le moins pour la moitié, sur une violation de leur droit d'être entendus. Sur le vu de l'absence de motivation à ce propos par la Cour de justice (cf. consid. 3 ci-dessus), il se justifie de mettre uniquement par moitié les frais judiciaires à leur charge, le surplus étant à la charge de la République et canton de Genève, dont l'intérêt patrimonial est en cause (art. 66 al. 3 et 4 LTF). Pour la même raison, les recourants ont droit à des dépens réduits (art. 68 al. 1 et 4 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté en tant qu'il concerne l'impôt fédéral direct.
2.
Le recours est rejeté en tant qu'il concerne les impôts cantonal et communal.
3.
Les frais judiciaires, arrêtés à 6'500 fr., sont mis pour 3'250 fr. à la charge des recourants et pour 3'250 fr. à la charge de la République et canton de Genève.
4.
La République et canton de Genève versera aux recourants la somme de 3'250 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
5.
Le présent arrêt est communiqué au mandataire des recourants, à l'Administration fiscale cantonale et à la Chambre administrative de la Cour de justice de la République et canton de Genève, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 15 juillet 2020
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Tissot-Daguette