Faits :
A.
A.a. A.A._ et B.A._ sont domiciliés dans le canton de Neuchâtel depuis le 2 mars 2012. Jusqu'au mois de juin 2012, les époux étaient propriétaires d'un appartement sis C._, dans le canton de Vaud. L'immeuble était grevé de deux hypothèques contractées auprès de D._ SA, conclues à terme fixe, pour la première du 2 octobre 2009 au 30 septembre 2011 et pour la seconde du 2 octobre 2009 au 2 octobre 2017. A son échéance, le premier contrat a été remplacé par une nouvelle hypothèque conclue jusqu'au 30 septembre 2014.
A.b. Le 12 juin 2012, les époux A._ ont vendu leur immeuble. A cette occasion, les intéressés ont résilié de manière anticipée les deux contrats de crédit. Dans des décomptes du 6 juin 2012, D._ SA a arrêté les coûts pour le remboursement anticipé à 9'174.30 fr. pour le premier contrat et à 34'326.90 fr. pour le second. Des frais de traitement étaient également fixés à 500 fr.
A.c. Dans leur déclaration sur les gains immobiliers pour la période fiscale 2012, les époux ont fait valoir, au titre d'impenses, les pénalités hypothécaires ainsi que les frais y relatifs. Par décision du 24 août 2012, l'Office d'impôt du district de Nyon a notifié aux intéressés le calcul de l'impôt sur les gains immobiliers en leur précisant que " les frais de traitement des hypothèques pour 500 fr. sont assimilés à des frais d'intérêts hypothécaires déductibles dans (leur) déclaration d'impôt ordinaire au même titre que la pénalité pour échéance anticipée ".
A.d. Dans leur déclaration fiscale neuchâteloise pour la période fiscale 2012, les intéressés ont porté en déduction de leur revenu imposable un montant de 44'001.20 fr. au titre de frais de traitement (500 fr.) et de pénalités de résiliation (43'501.20 fr.).
B.
Le 16 octobre 2013, le Service des contributions de la République et canton de Neuchâtel (ci-après: Service des contributions) a refusé la défalcation du montant de 44'001.20 fr. Il a notamment indiqué que les pénalités pour remboursement anticipé d'un emprunt hypothécaire revêtaient " le caractère d'une somme versée à titre de dédommagement dont la déduction n'[était] pas autorisée. Peu importe que le montant soit calculé en fonction du capital initial, du taux d'intérêt et de la durée restant du prêt ".
Par décision du 21 novembre 2013, le Service des contributions a rejeté la réclamation élevée par les intéressés à l'encontre de la décision du 16 octobre 2013. Les époux ont contesté ce prononcé devant le Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public (ci-après: Tribunal cantonal).
Par arrêt du 27 novembre 2014, le Tribunal cantonal a rejeté le recours des époux A._. Se fondant sur sa propre jurisprudence, il a considéré que, faute de lien suffisant avec la dette principale, les indemnités versées en raison de la résiliation anticipée des contrats hypothécaires ne constituaient pas des intérêts passifs au sens des <ref-law> et 9 al. 2 let. a LHID.
C.
Agissant par la voie du recours en matière de droit public, A.A._ et B.A._ demandent au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 27 novembre 2014 et d'ordonner au Service des contributions d'admettre la déduction au titre d'intérêts passifs de l'indemnité de dénonciation anticipée de leur prêt hypothécaire à taux fixe pour 37'427.20 fr. Subsidiairement, ils concluent au renvoi de la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants.
Le Tribunal cantonal et l'Administration fédérale des contributions concluent au rejet du recours. L'Administration cantonale des impôts du canton de Vaud a présenté des observations d'où il ressort que l'indemnité pour rupture de contrat hypothécaire ne constitue pas une impense déductible du gain immobilier. Bien qu'invité à se déterminer, le Service des contributions du canton de Neuchâtel n'a pas déposé d'observations.

Considérant en droit :
1.
1.1. L'arrêt attaqué concerne tant l'impôt fédéral direct que l'impôt cantonal et communal, ce qui est admissible, dès lors que la question juridique à trancher est réglée de la même façon en droit fédéral et dans le droit cantonal harmonisé (cf. <ref-ruling> consid. 1.3.1 p. 262). Dans ces circonstances, on ne peut reprocher aux recourants d'avoir formé les mêmes griefs et pris des conclusions valant pour les deux catégories d'impôts dans leur recours devant le Tribunal fédéral (cf. <ref-ruling> consid. 1.3.3 p. 264). Par souci d'unification par rapport à d'autres cantons dans lesquels deux décisions sont rendues, la Cour de céans a toutefois ouvert deux dossiers, l'un concernant l'ICC (2C_1165/2014), l'autre l'IFD (2C_1166/2014). Comme l'état de fait est identique et que les questions juridiques se recoupent, les deux causes seront néanmoins jointes et il sera statué dans un seul arrêt (<ref-law> et 24 PCF [RS 273]).
1.2. La décision attaquée concerne le revenu imposable de la période fiscale 2012. Comme ce domaine relève du droit public et qu'aucune des exceptions prévues à l'<ref-law> n'est réalisée, la voie du recours en matière de droit public est ouverte sur la base de l'<ref-law>. L'<ref-law> confirme du reste l'existence de cette voie de droit pour l'IFD. S'agissant de l'ICC, l'imposition du revenu étant une matière harmonisée aux <ref-law>, la voie du recours en matière de droit public est aussi réservée par l'<ref-law>.
Au surplus, déposé en temps utile (cf. <ref-law>) et dans les formes prescrites (<ref-law>) par les destinataires de l'arrêt attaqué qui ont un intérêt digne de protection à l'annulation ou à la modification de celui-ci (<ref-law>), le présent recours, dirigé contre une décision rendue en dernière instance cantonale par un tribunal supérieur (cf. art. 86 al. 1 let. d et al. 2 LTF), est en principe recevable.
1.3. Lorsque le recours est dirigé exclusivement contre la décision d'un canton, le Tribunal fédéral n'examine pas d'office si les taxations concurrentes qui n'ont pas été attaquées violent également l'interdiction de la double imposition (arrêts 2C_403/2015 du 1er avril 2016 consid. 5, in StE 2016 A 24.21 36; 2C_327/2014 du 15 janvier 2015 consid. 3.2; 2C_404/2013 du 2 mai 2014 consid. 1.3, in RDAF 2014 II p. 513; 2C_319/2013 du 13 mars 2014 consid. 1.3.1, non publié in <ref-ruling>; 2C_91/2012 du 17 août 2012 consid. 1.3.3, in RDAF 2013 II p. 458). Le Tribunal fédéral considère cependant que le contribuable qui forme un recours pour double imposition ne veut pas être imposé dans deux cantons, de sorte qu'il y a lieu d'admettre que, même s'il ne le dit pas expressément, ses conclusions en annulation de l'arrêt attaqué visent également la taxation définitive de l'autre canton, sans égard au fait que les instances cantonales n'ont pas été épuisées (arrêts 2C_403/2015 précité, consid. 5; 2C_432/2014 du 3 mars 2015 consid. 1.1; 2C_26/2012 du 8 mai 2012 consid. 1.2; 2C_918/2011 du 12 avril 2012 consid. 1.4; 2C_518/2011 du 1er février 2012 consid. 1.2; 2C_199/2011 du 14 novembre 2011 consid. 1.2). Une telle volonté doit toutefois ressortir, à tout le moins implicitement, de la motivation du recours (cf. 2C_432/2014 précité, consid. 1.1). Il est, par ailleurs, nécessaire qu'une taxation dans l'autre canton ait été effectivement prononcée et que le Tribunal fédéral en ait connaissance de manière certaine (cf. arrêt 2C_518/2011 précité, consid. 1.2).
Dans le cas particulier, les recourants s'en prennent uniquement à la taxation neuchâteloise, à l'exclusion de celle effectuée par le canton de Vaud. Ils ne remettent aucunement en cause - même implicitement - la décision de taxation définitive de l'Office d'impôt du district de Nyon. Les intéressés se contentent au contraire d'approuver la solution vaudoise, sans proposer de motivation subsidiaire, au cas où l'arrêt du Tribunal cantonal neuchâtelois devait être confirmé par la Cour de céans. Dans ces conditions, il y a lieu de considérer que l'objet du litige porté devant le Tribunal fédéral ne peut concerner que l'imposition des recourants dans le canton de Neuchâtel.
2.
Le litige porte sur le point de savoir si les indemnités pour résiliation anticipée de contrats de prêts hypothécaires sont déductibles du revenu au titre d'intérêts passifs au sens des <ref-law> et 9 al. 2 let. a LHID.
I. Impôt fédéral direct
2.1. L'<ref-law> autorise la défalcation, au titre de " Déductions générales ", des intérêts passifs à concurrence du rendement imposable de la fortune au sens des art. 20 et 21 LIFD, augmentée d'un montant de 50'000 francs. La notion d'intérêts doit être interprétée sous l'angle économique. La forme, la désignation et le moment du versement des intérêts importent peu (arrêts 2C_142/2014 du 13 avril 2015 consid. 2.3.1, in RDAF 2015 II p. 458; 2C_874/2013 du 21 mai 2014 consid. 2.1, in ASA 83 55; 2C_516/2011 du 28 décembre 2011 consid. 3.1, in RDAF 2012 II p. 67; 2C_393/2008 du 19 novembre 2008 consid. 2.3, in RDAF 2009 p. 446). L'intérêt est la rémunération due lors de l'allocation ou de la non-restitution du capital, dans la mesure où elle est régulièrement calculée en pour cent, au prorata du temps et en quota du capital (arrêts 2A.81/1992 du 30 septembre 1992 consid. 2a, in RDAF 1995 p. 35; 2A.381/1990 du 4 octobre 1991 consid. 2, in RDAF 1993 p. 416; YVES NOËL, in Commentaire romand, Impôt fédéral direct, 2e éd. 2017, n° 7 ad <ref-law>). La déduction d'intérêts passifs suppose donc l'existence d'une dette pécuniaire. Ce n'est que si une relation existe entre les intérêts et la dette qu'il peut être question d'intérêts passifs (cf. arrêts 2A.508/2001 du 26 juin 2002 consid. 2.1; 2A.81/1992 du 30 septembre 1992 consid. 2a, in RDAF 1995 p. 35; 2A.381/1990 du 4 octobre 1991, in RDAF 1993 p. 416). Le Tribunal fédéral a eu l'occasion de préciser à plusieurs reprises que le rapport avec la dette faisait défaut dans les contrats de leasing (arrêts 2A.148/2002 du 7 mai 2002 consid. 3.1; 2A.81/1992 du 30 septembre 1992 consid. 2c, in RDAF 1995 p. 35; 2A.381/1990 du 4 octobre 1991 consid. 2, in RDAF 1993 p. 416). Les intérêts sur des crédits de construction ne constituent pas non plus des intérêts passifs déductibles du revenu au sens de l'<ref-law>. Selon la jurisprudence, il s'agit de dépenses pour l'acquisition ou l'amélioration d'un bien au sens de l'art. 34 let. d LIFD (arrêts 2C_516/2011 du 28 décembre 2011 consid. 3.1; 2A.246/1995 du 24 avril 1977 consid. 4 non publié in <ref-ruling>).
2.2. Les pratiques cantonales diffèrent sur la question de la déduction, au titre d'intérêts passifs, de l'indemnité versée pour rupture anticipée d'un prêt hypothécaire. Alors que certains cantons, dont Bâle-Campagne (arrêt du Tribunal fiscal du canton de Bâle-Campagne du 26 novembre 2004, BStPra 6/2005, p. 324), Zurich (RICHNER ET AL., Kommentar zum Zürcher Steuergesetz, 3e éd. 2013, n° 15 § 31), et Vaud (arrêt du Tribunal administratif du canton de Vaud du 27 avril 2005, FI 2004.0111), admettent la déduction de telles indemnités, d'autres, en particulier le Tessin (arrêt du Tribunal fiscal du canton du Tessin du 17 mars 2000 N. 80.2000.00005, in LT 1994 p. 388 s.), Lucerne (arrêt du Tribunal administratif du canton de Lucerne du 17 février 1998, in StE 1998 B 27.2 n° 20) et Neuchâtel (arrêt du Tribunal cantonal du canton de Neuchâtel CDP.2011.99-FISC du 17 août 2011, in RDAF 2012 II p. 92), estiment que ces indemnités ne constituent pas des intérêts passifs au sens de l'<ref-law>.
2.3. Selon une partie de la doctrine, faute de lien avec la dette, l'indemnité pour rupture anticipée d'un prêt hypothécaire versée par le contribuable ne constitue pas un intérêt passif déductible du revenu en application de l'<ref-law> (RICHNER ET AL., Handkommentar zum DBG, 2e éd. 2009, n° 14 ad <ref-law>; PETER LOCHER, Kommentar zum DBG, Therwil/Bâle 2001, n° 14 ad <ref-law>). D'autres auteurs privilégient une approche pragmatique de la situation, consistant à examiner la nature de l'indemnité versée par le contribuable (RAPHAËL GANI, note in: RDAF 2012 II p. 92; ZIGERLIG/JUD, in Kommentar zum schweizerischen Steuerrecht, Bundesgesetz über die direkte Bundes-steuer [DBG], vol. I/2a, 2e éd. 2008, n° 9a ad <ref-law>). Selon GANI, la déduction est exclue lorsque l'indemnité consiste dans une simple clause pénale au sens des <ref-law>. Il en va en revanche autrement lorsque l'indemnité est calculée en fonction du différentiel des taux hypothécaires et du manque à gagner du créancier qui ne percevra pas les intérêts jusqu'à la fin de la durée initiale du contrat de prêt. Dans ce cas, l'indemnité représente une composante " d'intérêts futurs ", ce qui permet, à certaines conditions, de les assimiler à des intérêts passifs au sens de l'<ref-law>. L'auteur distingue toutefois deux situations: dans l'une, le contribuable résilie le contrat hypothécaire de manière anticipée en vue de conclure un nouveau contrat à un taux plus avantageux; dans l'autre, le contribuable vend l'immeuble grevé de l'hypothèque. Dans le premier cas, l'auteur considère que la composante " manque à gagner sur intérêts futurs " est prépondérante, de sorte que l'indemnité versée doit être assimilée à des intérêts passifs. Dans le second, l'auteur retient que le lien entre l'indemnité et la dette n'est pas suffisant pour constituer un intérêt passif au sens de l'<ref-law> (RAPHAËL GANI, op. cit., p. 97).
Ce dernier courant de doctrine doit être suivi. En effet, l'assimilation à des intérêts passifs peut se justifier lorsque l'indemnité pour rupture anticipée du prêt résulte de la conclusion d'un nouveau contrat de prêt hypothécaire aux conditions modifiées (contrat conclu avec le même créancier à un taux plus avantageux). En pareille hypothèse, on peut arguer que la relation entre cette indemnité et la dette hypothécaire sous-jacente subsiste, de sorte que l'indemnité s'apparente davantage à une rémunération qu'à un dédommagement ou une pénalité (<ref-ruling> consid. 5.3.1 p. 393). L'indemnité pour rupture anticipée du prêt devrait alors être assimilée à des intérêts passifs, déductibles du revenu ordinaire.
2.4. En revanche, lorsque la résiliation anticipée du contrat de prêt est due à la vente de l'immeuble grevé de l'hypothèque, il convient d'examiner la situation à l'aune de l'<ref-law> relatif à l'impôt sur les gains immobiliers. D'après cette disposition, l'impôt sur les gains immobiliers a pour objet les gains réalisés lors de l'aliénation de tout ou partie (notamment) d'un immeuble faisant partie de la fortune privée du contribuable, à condition que le produit de l'aliénation soit supérieur aux dépenses d'investissement (prix d'acquisition ou autre valeur s'y substituant, impenses). En principe, les cantons sont libres de déterminer les dépenses pouvant être prises en considération à titre d'impenses (<ref-ruling> consid. 2.1 p. 723 s.; arrêts 2C_817/2014 du 25 août 2015 consid. 2.2.1, in RDAF 2016 II p. 11; 2C_589/2014 du 27 mars 2015 consid. 2.3, in ASA 84 p. 248; 2C_674/2014 du 11 février 2015 consid. 3.2, in ASA 83 p. 614; 2C_131/2009 du 7 septembre 2009 consid. 3.1). Le législateur cantonal ne dispose cependant que d'une latitude limitée pour ce qui est de la description du gain imposable; en effet, le gain immobilier et l'impôt sur le revenu sont étroitement liés (<ref-ruling> consid. 2.1 p. 723 s.; arrêt 2C_77/2013 du 6 mai 2013 consid. 5.1, in StE 2013 B 44.12.3 n° 7). En particulier, s'agissant des notions de " produit de l'aliénation ", " dépenses d'investissement " et " autre valeur s'y substituant ", le principe de l'harmonisation verticale voudrait que l'on adopte la même interprétation pour l'impôt cantonal et communal que pour l'impôt fédéral direct (<ref-ruling> précité, consid. 4.1 p. 388). D'après la jurisprudence, la notion d'impenses se réfère aux dépenses apportant une plus-value à l'immeuble (<ref-ruling> précité, consid. 4.2.1 p. 389; arrêts 2C_674/2014 précité, consid. 3.3; 2C_398/2009 du 16 novembre 2009 consid. 2.4; 2C_288/2007 du 19 décembre 2007, in RtiD 2008 I p. 971). Les dépenses doivent en outre avoir été effectivement versées par l'aliénateur (" principe de la comptabilisation des coûts effectifs ": <ref-ruling> précité, consid. 4.2.2 p. 390; arrêts 2C_817/2014 précité, consid. 2.2.3; 2C_77/2013 précité, consid. 4.2) et être en relation étroite avec l'aliénation du bien immobilier (<ref-ruling> précité, consid. 4.3 p. 391; arrêts 2C_817/2014 précité, consid. 2.2.2; 2C_674/2014 précité, consid. 3.2). La jurisprudence précise enfin qu'une dépense consentie sur un immeuble qui est déduite ou déductible de l'impôt sur le revenu ne peut plus être considérée comme appartenant aux impenses déductibles du gain immobilier, sous peine d'accorder une double déduction contraire à l'imposition selon la capacité économique (arrêt 2C_674/2014 précité, consid. 3.3).
3.
Dans l'arrêt attaqué, confirmant sa propre jurisprudence (arrêt du Tribunal cantonal du canton de Neuchâtel CDP.2011.99-FISC du 17 août 2011), le Tribunal cantonal a considéré que, dans la mesure où l'indemnité constituait une pénalité ou un dédommagement à verser à la banque en raison de la résiliation anticipée du contrat, un lien de dépendance avec la dette faisait défaut. Il en a déduit que l'indemnité n'était pas déductible selon l'<ref-law>.
Ce raisonnement n'est pas critiquable. D'après les constatations cantonales, qui lient le Tribunal de céans (cf. <ref-law>), les recourants ont résilié avant terme deux contrats hypothécaires conclus auprès de D._ dans le but de vendre leur bien immobilier. On ne se trouve donc pas dans l'hypothèse où la relation contractuelle avec le créancier perdure en dépit de nouvelles conditions de prêt. Il ne s'agit pas non plus de la situation dans laquelle un nouveau contrat de prêt est conclu avec un créancier différent. Dans la présente espèce, la résiliation anticipée du contrat de prêt est due à la vente de l'immeuble grevé de l'hypothèque. En pareille hypothèse, il y a lieu de considérer que l'indemnité versée en raison de la résiliation anticipée des contrats de prêt n'a pas suffisamment de lien avec la dette pour constituer un intérêt passif au sens de l'<ref-law>.
Dans ces conditions, l'instance précédente n'a pas violé le droit fédéral en confirmant le refus du Service des contributions de déduire du revenu des recourants les indemnités versées pour dénonciation avant terme des contrats de prêt.
Il suit de ce qui précède que le recours doit être rejeté en ce qui concerne l'IFD.
II. Impôts cantonal et communal
4.
La législation cantonale neuchâteloise relative à la déduction des intérêts passifs est calquée sur celle de l'impôt fédéral direct. En effet, l'art. 36 al. 1 let. a de la loi neuchâteloise du 21 mars 2000 sur les contributions directes (LCdir; RSN 631.0) a la même teneur que l'<ref-law>. Ces dispositions sont en outre identiques au contenu de l'<ref-law>. Par conséquent, les mêmes principes que ceux applicables à l'impôt fédéral direct sont valables pour les impôts cantonal et communal. Il suffit dès lors, s'agissant de la déduction du revenu invoqué par les recourants au titre de l'impôt cantonal et communal, de renvoyer à la motivation développée en matière d'IFD. Partant, en confirmant le refus de déduire du revenu les indemnités versées pour dénonciation avant terme des contrats de prêt, le Tribunal cantonal n'a pas violé le droit cantonal harmonisé.
Il n'appartenait pas non plus au Tribunal cantonal d'examiner si les indemnités versées pouvaient être déduites à titre d'impenses sur les gains immobiliers en application de l'<ref-law>. En effet, cette question, qui implique la réalisation des conditions cumulatives susmentionnées (cf. supra consid. 2.4), ne fait pas l'objet du présent litige.
Il y a donc aussi lieu de rejeter le recours en tant qu'il concerne les impôts cantonal et communal.
5.
Invoquant l'art. 127 al. 3 Cst., les recourants reprochent à l'instance précédente d'avoir violé le principe de l'interdiction de la double imposition intercantonale.
Il suffit à cet égard de constater que c'est à bon droit que les autorités fiscales du canton de Neuchâtel, compétentes pour procéder à la taxation des contribuables, ont refusé de déduire les indemnités litigieuses de leurs revenus. La question de la prise en compte de ces indemnités au titre d'impenses déductibles de l'impôt sur les gains immobiliers dans le canton de Vaud ne se pose pas dans la mesure où, comme déjà indiqué (cf. supra consid. 1.3), les recourants n'ont pas demandé, même implicitement, l'annulation de la décision de l'Office d'impôt du district de Nyon. Le grief des recourants doit par conséquent être rejeté.
6.
Les considérants qui précèdent conduisent au rejet du recours. Succombant, les recourants doivent supporter les frais de la procédure fédérale, solidairement entre eux (art. 66 al. 1 et 5 LTF). Il n'y a pas lieu d'allouer de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Les causes 2C_1165/2014 et 2C_1166/2014 sont jointes.
2.
Le recours est rejeté en tant qu'il concerne l'impôt fédéral direct.
3.
Le recours est rejeté en tant qu'il concerne l'impôt cantonal et communal.
4.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants, solidairement entre eux.
5.
Le présent arrêt est communiqué à la mandataire des recourants, au Service des contributions de la République et canton de Neuchâtel, à l'Administration cantonale des impôts du canton de Vaud, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, et à l'Administration fédérale des contributions.
Lausanne, le 3 avril 2017
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant : Zünd
La Greffière : McGregor