Faits :
A.
A.X._ et B.X._ (ci-après: les contribuables) ont acquis la propriété d'un lot dans un immeuble sis rue Y._ à Genève (ci-après: le lot), dans le cadre de la succession de leur tante par alliance, décédée en décembre 2013. Celle-ci avait acheté ce lot en 1999 pour un prix de 230'000 francs.
Le 30 septembre 2014 (date de l'inscription au registre foncier), les contribuables ont vendu le lot en cause à un tiers, pour un prix de 440'000 francs.
Le 12 février 2015, les contribuables ont remis à l'Administration fiscale cantonale genevoise (ci-après: l'Administration cantonale) leur déclaration pour l'impôt sur les bénéfices et gains immobiliers. Chacun a mentionné une valeur d'aliénation du lot de 220'000 fr. (440'000 fr. / 2), une valeur d'acquisition de 149'500 fr. (299'000 fr. [valeur fiscale dix ans avant l'aliénation de 230'000 fr. majorée de 30%] / 2) et a déclaré, à titre d'impenses, notamment des droits de succession (impôt sur les successions) estimés à 52'000 francs ( recte: 52'500 francs). La commission de vente (10'692 fr.) et les autres impenses (5'100 fr.) déduites (cf. <ref-law>), le gain immobilier imposable de chacun s'élevait à 2'208 francs.
B.
Par bordereaux du 24 mars 2015, l'Administration cantonale a arrêté le gain immobilier imposable de chacun des contribuables à 55'208 fr. et fixé l'impôt dû à 5'520 fr. 80. Elle a notamment refusé de déduire les droits de succession déclarés du gain immobilier imposable.
Par décisions du 20 avril 2015, l'Administration cantonale a rejeté la réclamation des contribuables, qui contestaient le refus de prendre en compte les droits de succession.
Le recours formé par les contribuables contre les décisions sur réclamation du 20 avril 2015 a été rejeté par le Tribunal administratif de première instance de la République et canton de Genève par jugement du 7 décembre 2015. Ce jugement a été confirmé sur recours des contribuables par la Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice) par arrêt du 17 janvier 2017.
C.
Contre l'arrêt du 17 janvier 2017, A.X._ et B.X._ forment un "recours de droit public" auprès du Tribunal fédéral, auquel ils demandent, sous suite de frais et dépens, principalement d'annuler l'arrêt entrepris, de confirmer qu'en application de l'art. 1 al. 3 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes [LHID; RS 642.14], la fixation des montants exonérés de l'impôt sur les gains immobiliers relève de la compétence des cantons, d'ordonner qu'à teneur de l'art. 82 al. 4 de la loi générale du canton de Genève du 9 novembre 1887 sur les contributions publiques [LCP; RS/GE D 3 05], les droits de succession payés par eux soient ajoutés à la valeur d'acquisition du lot, réduisant le bénéfice réalisé lors de sa vente, subsidiairement de renvoyer la cause à l'instance cantonale pour nouvelle décision dans le sens des considérants.
La demande d'effet suspensif contenue dans le recours a été admise par ordonnance du 20 mars 2017 du Président de la II e Cour de droit public du Tribunal fédéral.
L'Administration fédérale des contributions renonce à déposer des observations. La Cour de justice s'en rapporte à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt. L'Administration cantonale conclut au rejet du recours. Les recourants ont répliqué.

Considérant en droit :
1.
1.1. La décision attaquée porte sur l'impôt sur les gains immobiliers. Elle relève donc du droit public et aucune des exceptions prévues à l'<ref-law> n'est réalisée, de sorte que la voie du recours en matière de droit public est ouverte sur la base de l'<ref-law> (cf. aussi <ref-law>).
1.2. Déposé en temps utile (cf. <ref-law>) et dans les formes prescrites (cf. <ref-law>), le recours est dirigé contre une décision finale (cf. <ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (cf. art. 86 al. 1 let. d et al. 2 LTF). Les recourants ont participé à la procédure devant l'instance précédente, sont particulièrement atteints par la décision entreprise en tant que contribuables et ont un intérêt digne de protection à son annulation ou à sa modification, de sorte qu'ils ont la qualité pour recourir (cf. <ref-law>). Bien que l'institution du "recours de droit public" devant le Tribunal fédéral ait disparu avec l'entrée en vigueur de la LTF au 1 er janvier 2007, la dénomination erronée employée par les recourants ne saurait leur nuire, dans la mesure où, comme en l'espèce, leur acte répond aux exigences de la voie de droit à disposition (<ref-ruling> consid. 1.1 p. 369 s.). Le recours est par conséquent recevable, sous la réserve qui suit.
1.3. Les recourants concluent à l'annulation de l'arrêt du 17 janvier 2017 de la Cour de justice et à l'ajout des droits de succession à la valeur d'acquisition du lot dans le cadre du calcul de l'impôt sur les gains immobiliers faisant suite à la vente dudit lot. Parallèlement, ils demandent la confirmation "qu'en application de l'<ref-law> la fixation des montants exonérés de l'impôt sur les gains immobiliers relève de la compétence des cantons".
Cette dernière conclusion est irrecevable. En effet, le litige porte exclusivement sur la question de la déduction de l'impôt sur les successions du gain immobilier réalisé par les recourants à la suite de la vente du lot dont ils ont hérité. Le Tribunal fédéral irait au-delà s'il se prononçait de manière abstraite sur la compétence des cantons en matière de fixation des montants exonérés de l'impôt. Au surplus, les conclusions en constatation de droit ont un caractère subsidiaire et ne sont recevables que lorsque des conclusions condamnatoires ou formatrices sont exclues (cf. <ref-ruling> consid. 1.7 p. 123; <ref-ruling> consid. 4 p. 122), ce qui n'est pas le cas en l'espèce.
2.
Saisi d'un recours en matière de droit public, le Tribunal fédéral applique le droit d'office. Il examine en principe librement l'application du droit fédéral ainsi que la conformité du droit cantonal harmonisé et de son application par les instances cantonales aux dispositions de la loi fédérale sur l'harmonisation fiscale. Cependant, lorsque les dispositions de la loi sur l'harmonisation fiscale laissent une certaine marge de manoeuvre aux cantons, l'examen de l'interprétation du droit cantonal est limité à l'arbitraire (cf. <ref-ruling> consid. 2 p. 209 s.; arrêt 2C_666/2015 du 7 octobre 2016 consid. 2).
3.
Le litige a trait à la prise en considération, à titre d'impenses, des droits de succession dans le calcul du gain immobilier réalisé par les recourants lors de la vente en 2014 du lot qu'ils ont acquis par voie de succession en 2013. Les recourants prétendent à cette déduction en se fondant sur l'art. 82 al. 4 LCP.
3.1. L'impôt sur les bénéfices et gains immobiliers est régi dans le canton de Genève par les art. 80 ss LCP. L'art. 82 LCP traite du calcul du bénéfice ou gain imposable, lequel est constitué par la différence entre la valeur d'aliénation et la valeur d'acquisition (art. 82 al. 1 LCP). En principe, la valeur d'acquisition est égale au prix payé pour l'acquisition du bien, augmentée des impenses, ou, à défaut de prix, à sa valeur vénale (art. 82 al. 2 LCP).
Il est prévu ce qui suit à l'art. 82 al. 4 LCP: lorsque le bien a été acquis par dévolution pour cause de mort ou à la suite d'une déclaration d'absence, la valeur d'acquisition est égale à la valeur fixée par le Département des finances pour la perception des droits de succession ou d'enregistrement, augmentée du montant desdits droits. En matière de droits de succession, les immeubles sont estimés à leur valeur vénale au jour du décès (cf. art. 10 de la loi genevoise du 26 novembre 1960 sur les droits de succession [LDS; RS/GE D 3 25]).
3.2. Dans son arrêt, la Cour de justice a écarté l'application de l'art. 82 al. 4 LCP. Se fondant sur l'<ref-law> et la jurisprudence du Tribunal fédéral y relative, en particulier l'arrêt 2C_147/2008 du 29 juillet 2008 (in RDAF 2009 II 440, StR 64 2009 121), elle a considéré, en substance, qu'un transfert de propriété par succession constitue un cas d'imposition différée, qui empêche la prise en considération de ce transfert et des droits de succession payés en lien avec celui-ci dans le calcul du gain immobilier réalisé lors d'une aliénation ultérieure imposable. Le droit cantonal genevois était à cet égard contraire au droit fédéral. Comme le décès de la tante par alliance des recourants était intervenu après 2001, l'<ref-law> et le principe de la primauté du droit fédéral (art. 49 Cst.) s'opposaient à son application.
3.3. Les recourants estiment pour leur part que l'art. 82 al. 4 LCP est compatible avec l'<ref-law>, car les cantons disposeraient d'une certaine marge de manoeuvre dans l'aménagement de l'impôt sur les gains immobiliers. Il n'y aurait donc aucun motif d'écarter l'application du droit cantonal.
4.
La question à trancher porte donc sur le point de savoir si c'est à bon droit que la Cour de justice a retenu que l'<ref-law> excluait l'application de l'art. 82 al. 4 LCP.
4.1. A titre liminaire, il convient de rappeler qu'aux termes de l'<ref-law>, les cantons devaient adapter leur législation à la loi sur l'harmonisation fiscale dans les huit ans qui suivaient l'entrée en vigueur de cette loi, soit jusqu'au 1 er janvier 2001, étant donné que la LHID est entrée en vigueur le 1 er janvier 1993. Selon l'<ref-law>, à l'expiration de ce délai, le droit fédéral est directement applicable si les dispositions du droit fiscal cantonal s'en écartent.
Il s'ensuit qu'en l'espèce, si l'art. 82 al. 4 LCP devait être considéré comme incompatible avec l'<ref-law>, la loi d'harmonisation fiscale serait directement applicable, dès lors que le lot a été acquis par succession en 2013 et a été vendu en 2014, soit largement après l'échéance, au 1 er janvier 2001, du délai dont disposaient les cantons pour adapter leur législation à la LHID.
4.2. D'après l'<ref-law>, l'impôt sur les gains immobiliers a pour objet les gains réalisés lors de l'aliénation de tout ou partie d'un immeuble faisant partie de la fortune privée du contribuable ou d'un immeuble agricole ou sylvicole, à condition que le produit de l'aliénation soit supérieur aux dépenses d'investissement (prix d'acquisition ou autre valeur s'y substituant, impenses). Toute aliénation d'immeubles est imposable; sont notamment assimilés à une aliénation les actes juridiques qui ont les mêmes effets économiques qu'une aliénation sur le pouvoir de disposer d'un immeuble (<ref-law>).
L'imposition est toutefois différée dans les cas prévus à l'<ref-law>. Le législateur fédéral a décrit à l'article 12 al. 3 LHID de manière exhaustive les états de fait qui fondent un report d'imposition (cf. <ref-ruling> consid. 2.2.4 p. 210 et 4.5.2 p. 217). Les états de faits visés à l'<ref-law> relèvent du droit harmonisé, l'<ref-law> ne laissant aucune marge de manoeuvre aux cantons pour décider dans quels cas l'imposition doit être différée (cf. <ref-ruling> consid. 2.2.4 p. 210 et 4.5.3 p. 217 s.; <ref-ruling> consid. 3.2 p. 206 s.; arrêt 2C_797/2009 du 20 juillet 2010 consid. 2.1). Ils doivent donc être repris par les cantons dans leur législation sur l'imposition des gains immobiliers (cf. arrêts 2C_497/2011 du 15 mars 2012 consid. 4.3 non publié in <ref-ruling>; 2C_797/2009 du 20 juillet 2010 consid. 2.1; 2C_164/2009 du 13 août 2009 consid. 6.1). Le Tribunal fédéral examine librement la conformité du droit cantonal avec l'<ref-law> (cf. <ref-ruling> consid. 2.2.4 p. 210).
4.3. L'<ref-law> prévoit que l'imposition est différée en cas de transfert de propriété par succession (dévolution d'hérédité, partage successoral, legs), avancement d'hoirie ou donation.
Dans le canton de Genève, l'impôt sur les bénéfices et gains immobiliers a pour objet le bénéfice net provenant de l'aliénation d'immeubles ou de parts d'immeubles sis dans le canton, ainsi que certains gains que ces immeubles procurent sans aliénation (art. 80 al. 1 LCP). Est considéré comme aliénation tout acte qui confère à un acquéreur la propriété ou la réelle disposition économique d'un immeuble (cf. art. 80 al. 4 LCP).
D'après l'art. 81 al. 1 let. b LCP, l'imposition est prorogée en cas d'aliénation en raison d'avancement d'hoirie ou de donation. Cette disposition est conforme à l'<ref-law> (cf. arrêt 2C_797/2009 du 20 juillet 2010 consid. 2.2). En revanche, d'après l'art. 81 al. 3 let. c LCP, l'impôt n'est pas perçu (dans le sens d'une exonération; cf. arrêt 2C_797/2009 du 20 juillet 2010 consid. 2.2) en cas de succession ou de partage successoral.
Le Tribunal fédéral a déjà souligné que l'art. 81 al. 3 let. c LCP, qui prévoit une exonération au lieu d'une imposition différée des transferts de propriété par succession, s'écarte de l'<ref-law> (cf. arrêt 2C_797/2009 du 20 juillet 2010 consid. 2.2) et partant ne s'applique pas lorsque le décès est survenu après 2001 comme en l'espèce (cf. <ref-law>).
4.4. Encore faut-il se demander si le fait que l'imposition du transfert de propriété par succession survenu en 2013 est obligatoirement différée en vertu du droit fédéral harmonisé a pour conséquence d'exclure l'application de l'art. 82 al. 4 LCP, comme l'a retenu la Cour de justice.
4.4.1. La prorogation ou le report de l'imposition signifie qu'un transfert constituant en soi un acte d'aliénation n'est pas soumis à l'impôt. Tout se passe, sous l'angle de l'impôt sur les gains immobiliers, comme si le transfert n'avait pas eu lieu ou, en d'autres termes, comme s'il n'y avait pas eu réalisation d'un gain (cf. <ref-ruling> consid. 4.2.1 p. 214; <ref-ruling> consid. 2c p. 212; arrêts 2C_539/2010 du 15 décembre 2010 consid. 2.1; 2C_797/2009 du 20 juillet 2010 consid. 2.3). Ainsi que l'indique le libellé même de l'<ref-law>, la prorogation n'implique toutefois pas une exemption définitive (<ref-ruling> consid. 4.2.1 p. 214). L'éventuelle augmentation de la valeur qui s'est produite entre la dernière aliénation imposable (l'achat par le de cujus dans le cas de la succession) et l'acte prorogeant l'imposition (la dévolution successorale) n'est provisoirement pas taxée; l'imposition est simplement différée jusqu'à une nouvelle aliénation imposable, qui tiendra alors compte de l'augmentation de la valeur qui s'est produite depuis l'achat par le de cujus (cf. arrêt 2C_797/2009 du 20 juillet 2010 consid. 2.3).
Le fait que le transfert de propriété par succession constitue obligatoirement un cas d'imposition différée en vertu de l'<ref-law> a pour conséquence que les cantons ne sont pas autorisés à prendre en compte ces transferts dans le calcul de l'impôt sur les gains immobiliers lors d'une aliénation ultérieure imposable (cf. arrê t 2C_147/2008 du 29 juillet 2008 consid. 2.3 et 3; cf. ZWAHLEN/ NYFFENEGGER, in Bundesgesetz über die Harmonisierung der direkten Steuern der Kantone und Gemeinden, 3e éd. 2017, no 63 ad <ref-law>). Dans le système de prorogation de l'imposition, le prix d'acquisition déterminant pour le calcul du gain immobilier imposable lors d'une aliénation ultérieure est en effet celui du dernier transfert imposable, soit le prix d'acquisition payé par le de cujus (cf. arrêt 2C_797/2009 du 20 juillet 2010 consid 4.2; cf. BASTIEN VERREY, L'imposition différée du gain immobilier: harmonisation fédérale et droit fiscal comparé, 2011, p. 34, 254; cf. aussi l'art. 82 al. 3 LCP pour le calcul du gain imposable dans le canton de Genève en cas de report d'imposition). A l'inverse, dans le système de l'exonération, le prix d'acquisition déterminant est celui de l'aliénation exonérée (cf. arrêt 2C_797/2009 du 20 juillet 2010 consid. 2.3). La valeur d'acquisition de l'immeuble est ainsi fixée à la date de la dévolution successorale, donc à un montant généralement supérieur au prix d'acquisition versé par le de cujus, ce qui entraîne une diminution du gain imposable en cas de revente ultérieure (cf. arrêt 2C_797/2009 du 20 juillet 2010 consid. 4.2).
4.4.2. Dans l'arrêt 2C_147/2008 du 29 juillet 2008, cité par la Cour de justice, le Tribunal fédéral a confirmé le refus des autorités du canton de Lucerne de déduire du gain immobilier imposable réalisé lors de l'aliénation d'un immeuble acquis par voie de succession les droits de succession. Il a relevé dans sa motivation que seuls des frais étroitement liés à l'acquisition déterminante du point de vue de l'impôt sur les gains immobiliers pouvaient être pris en considération dans le calcul du gain immobilier imposable (consid. 2.3 et 3). Le transfert de propriété par succession, dès lors qu'il constitue un cas d'imposition différée, ne peut pas être pris en compte dans le calcul de l'impôt lors d'une aliénation ultérieure, qui doit se fonder sur le dernier transfert imposable (consid. 2.3; cf. supra consid. 4.4.1). Cette règle s'étend aux impenses qui y sont liées (consid. 2.3). Il a également souligné que l'imputation de l'impôt sur les successions lors du calcul de l'impôt sur les gains immobiliers était problématique au regard de la nature et de l'objet différents de ces deux impôts (consid. 2.4). Le Tribunal fédéral a ainsi suivi l'opinion de la doctrine majoritaire selon laquelle en cas de dévolution de fortune privilégiée du point de vue de l'impôt sur les gains immobiliers (imposition différée), l'impôt sur les successions ne peut pas être déduit du gain immobilier imposable lors de l'aliénation ultérieure de l'immeuble (cf. les références citées au consid. 2.3). Cette conception a été approuvée et confirmée depuis (cf. HUGO CASANOVA, ASA 79 p. 189 ss, p. 212 s.; BEHNISCH/OPEL, ZBJV 145/2009 p. 503 ss; p. 548; R ICHNER/FREI/KAUFMANN/MEUTER, Kommentar zum Zürcher Steuergesetz, 3e éd., 2013, no 105 ad § 221 StG/ZH; BASTIEN VERREY, op. cit., p. 279). Il n'y a pas de motif de s'en écarter.
4.4.3. Il découle de ce qui précède qu'en raison de la prorogation de l'imposition des transferts de propriété par succession imposée par l'<ref-law>, les cantons n'ont pas de marge de manoeuvre s'agissant du choix de la valeur d'acquisition, qui ne peut correspondre qu'à la valeur du dernier transfert imposable, à savoir l'acquisition par le de cujus,et ne peuvent pas tenir compte, à titre d'impenses, des droits de succession dans le calcul du gain immobilier réalisé lors d'une aliénation ultérieure imposable.
4.4.4. En l'occurrence, l'art. 82 al. 4 LCP dont se prévalent les recourants fixe comme prix d'acquisition déterminant pour le calcul du gain immobilier imposable lors de l'aliénation d'un immeuble acquis par voie de succession la valeur de l'immeuble au moment du décès, augmentée des droits de succession (cf. supra consid. 3.1). Un tel prix d'acquisition correspond à un cas d'exonération de l'imposition (cf. supra consid. 4.4.1; cf. aussi BASTIEN VERREY, op. cit., p. 316). L'art. 82 al. 4 LCP a d'ailleurs été introduit dans la loi pour répondre au cas d'exonération visé à l'art. 81 al. 3 let. c LCP (cf. Mémorial des séances du Grand Conseil de la République et canton de Genève [En ligne], Séance du jeudi 23 juin 1994 à 17h - 53e législature - 1e année - 8e session - 24e séance). En d'autres termes, l'art. 82 al. 4 LCP n'a de justification qu'en lien avec l'exonération prévue à l'art. 81 al. 3 let. c LCP. Il n'est en revanche pas compatible avec le système du report d'imposition de l'<ref-law>.
Comme en l'espèce l'imposition du transfert de propriété par succession du lot en 2013 est nécessairement soumise au report d'imposition de l'<ref-law>, c'est à juste titre que la Cour de justice a écarté l'application de l'art. 82 al. 4 LCP, conformément à l'<ref-law>.
Compte tenu de ce qui précède, l'arrêt entrepris, qui confirme que les droits de succession payés par les recourants à la suite du décès de leur tante en 2013 ne peuvent pas être pris en compte dans le cadre de la fixation du gain immobilier réalisé lors de la vente du lot en 2014, est conforme à l'<ref-law>. Il s'ensuit que les griefs des recourants doivent être écartés.
5.
Les considérants qui précèdent conduisent au rejet du recours. Les recourants, qui succombent, doivent supporter les frais judiciaires, solidairement entre eux (art. 65 et 66 al. 1 et 5 LTF). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 6'400 fr., sont mis à la charge des recourants, solidairement entre eux.
3.
Le présent arrêt est communiqué aux recourants, à l'Administration fiscale cantonale et à la Cour de justice de la République et canton de Genève, Chambre administrative, 4ème section, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 17 novembre 2017
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Kleber