Faits :
A.
A.a. Par bordereau de taxation du 26 février 2013, notifié à A._ et à son épouse, l'Administration fiscale cantonale du canton de Genève (ci-après: AFC) a fixé le montant des impôts cantonaux et communaux dus par ces derniers pour l'année 2008 à xxxxx fr., sous imputation de xxx fr. à titre de retenue supplémentaire d'impôts et de xxxxx fr. à titre de restitution de l'impôt anticipé, soit xxxxx fr. au total.
Selon le relevé du compte joint au bordereau, les époux A._ ont payé durant l'année 2008, à titre d'acomptes sur ces impôts, la somme de xxxxx fr. (10 x xxxx fr.). Ils restaient donc devoir un montant de xxxxx fr. (xxxxx fr. - xxxxx fr.) au titre desdits impôts, plus xxxx fr. dus à titre d'intérêts financiers, à savoir xxxxx fr. au total.
Par courrier du 4 avril 2013 établi par leur fiduciaire, ils ont contesté devoir des "intérêts de retard" (recte: intérêts financiers), se prévalant d'un engagement de l'administration fiscale de les en exonérer. L'AFC a répondu le 24 avril 2013 que l'engagement pris ne valait pas au-delà de l'année 2005.
Par courrier du 29 avril 2013, l'AFC a invité les époux A._ à payer la somme de xxxx fr. à titre d'intérêts financiers dus sur la taxation précitée, ceux-ci s'étant acquitté de xxxxx fr. le 4 avril 2013.
Par courrier du 3 juin 2013, l'AFC a sommé les époux A._ de payer xx fr. à titre de solde de la taxation précitée, xx fr. de frais de sommation et xxxx fr. d'intérêts.
Dans l'échange de courriers subséquent, l'AFC et les époux A._ ont maintenu leurs positions respectives, ces derniers se prévalant toujours de l'engagement de l'AFC de ne pas leur réclamer d' "intérêts de retard" lequel portait, selon eux, également sur les impôts de l'année 2008.
A.b. A la réquisition de l'Etat de Genève, soit pour lui l'AFC, un commandement de payer, poursuite n° xxxx, portant sur les sommes de xx fr. avec intérêts à 5% l'an dès le 29 août 2013 au titre du bordereau précité (poste 1) et de xxxx fr. à titre d' "intérêts moratoires" au 29 août 2013 (poste 2), a été notifié le 16 septembre 2013 à A.A._, qui y a formé opposition.
A.c. Par jugement du 8 janvier 2014, le Tribunal de première instance du canton de Genève (ci-après: Tribunal de première instance) a, à la requête de l'Etat de Genève, prononcé la mainlevée définitive de l'opposition formée par A.A._ au commandement de payer, poursuite n° xxxx, pour le poste 1 et pour le poste 2 à concurrence de xxxx fr.
Le Tribunal de première instance a retenu que le "décompte final" du 26 février 2013, faisant partie intégrante de la décision de taxation ICC 2008 et comportant un montant de xxxx fr. au titre d'intérêts, valait titre de mainlevée définitive pour ce montant, la décision de taxation n'ayant pas fait l'objet d'une réclamation. Il a en outre retenu que A.A._, qui ne contestait pas que les frais de sommation et le solde des impôts faisaient l'objet du premier poste du commandement de payer, avait échoué à prouver la remise de dette alléguée.
B.
B.a. Par acte déposé le 20 janvier 2014, A.A._ a formé recours par-devant la Cour de justice du canton de Genève (ci-après: Cour de justice) contre le jugement précité. Il a conclu, préalablement, à la suspension immédiate de la force exécutoire du jugement querellé et, principalement, à l'annulation dudit jugement, au rejet de la requête de mainlevée définitive formée par l'Etat de Genève le 7 octobre 2013 et à ce qu'il soit dit que la poursuite n° xxxx n'ira pas sa voie.
Il a notamment fait valoir que, dès lors qu'il avait formé réclamation contre la décision des intérêts relatifs à l'ICC 2008, la mainlevée définitive ne pouvait être accordée pour ce montant, la décision de taxation ne pouvant dès lors être considérée comme exécutoire au sens de l'<ref-law>. Il s'est également prévalu du fait que le relevé de compte sur lequel figurent les intérêts, notifié simultanément au bordereau d'impôts, n'est pas muni du tampon indiquant qu'il vaudrait jugement exécutoire. Le Tribunal de première instance aurait par conséquent retenu à tort que l'Etat de Genève était muni d'un titre exécutoire au sens de l'<ref-law>.
B.b. Par arrêt du 23 mai 2014, la Cour de justice a rejeté ledit recours.
C.
Par acte du 26 juin 2014, A.A._ forme un recours constitutionnel subsidiaire au Tribunal fédéral contre cette décision. Il conclut à ce que l'arrêt entrepris soit réformé en ce sens que la requête de mainlevée définitive formée par l'Etat de Genève, soit pour lui l'AFC, le 7 octobre 2013 est rejetée et à ce qu'il soit dit que la poursuite n° xxxx qui lui a été notifiée le 16 septembre 2013 n'ira pas sa voie. A l'appui de ses conclusions, il invoque une application arbitraire contraire à l'art. 9 Cst. du droit cantonal et plus précisément des art. 361 et 362 de l'ancienne loi générale genevoise du 9 novembre 1887 sur les contributions publiques (aLCP; RS/GE D 3 05) et des dispositions de la loi genevoise du 26 juin 2008 relative à la perception et aux garanties des impôts des personnes physiques et des personnes morales (LPGIP; RS/GE D 3 18), notamment des art. 16 et 17 LPGIP. Il sollicite en outre que son recours soit muni de l'effet suspensif.
Invités à se déterminer sur le recours, l'Etat de Genève, soit pour lui l'AFC, n'a pas répondu, et la Cour de justice s'est référée aux considérants de son arrêt.
D.
La requête d'effet suspensif a été rejetée par ordonnance présidentielle du 27 juin 2014.

Considérant en droit :
1.
La décision qui prononce la mainlevée définitive de l'opposition est en principe sujette au recours en matière civile (<ref-law>; <ref-ruling> consid. 1.1). En l'espèce, la valeur litigieuse n'atteint cependant pas le seuil de 30'000 fr. (<ref-law>), et la présente cause ne soulève pas de question juridique de principe (<ref-law>; cf. sur cette notion: <ref-ruling> consid. 1.2 et la jurisprudence citée). Partant, seul le recours constitutionnel subsidiaire au sens des <ref-law> est ouvert. Les conditions de recevabilité sont remplies: le recours a été formé en temps utile (art. 100 al. 1 et 117 LTF) contre une décision finale (art. 90 et 117 LTF; <ref-ruling> consid. 1.4) prise par un tribunal supérieur statuant sur recours (art. 75 et 114 LTF); le poursuivi, qui a succombé devant la cour cantonale, a qualité pour recourir (<ref-law>).
2.
S'agissant d'un recours formé pour violation des droits constitutionnels (<ref-law>), la partie recourante doit indiquer précisément quel droit constitutionnel aurait été violé et démontrer, par une argumentation circonstanciée, en quoi consiste la violation alléguée (art. 106 al. 2 et 117 LTF; <ref-ruling> consid. 3.2; <ref-ruling> consid. 2.2).
3.
Seule est litigieuse en l'espèce la question de savoir si le "relevé du compte" joint au bordereau de taxation et notifié au recourant par l'AFC vaut titre de mainlevée définitive pour les intérêts financiers qui y figurent.
3.1. Dès lors que le présent litige porte sur des montants dus par le recourant pour l'année fiscale 2008, les dispositions légales applicables sont celles de l'aLCP et non celles de la LPGIP entrée en vigueur le 1er janvier 2009 qui ne s'appliquent qu'aux années fiscales 2009 et suivantes.
Selon le droit fiscal cantonal applicable, des acomptes provisionnels calculés sur la base des impôts dus pour l'année précédente peuvent être perçus auprès des contribuables (art. 361 aLCP). Si le montant des acomptes provisionnels versés se révèle supérieur à l'impôt dû, le trop-perçu est remboursé au contribuable avec un intérêt rémunératoire (art. 367A al. 3 aLCP et art. 4 de l'ancien Règlement transitoire genevois du 28 novembre 2001 relatif à la perception des acomptes provisionnels [aRTAP; anciennement: RS/GE 3 05.05]). En revanche, si le montant versé à titre d'acomptes est inférieur à l'impôt échu, le contribuable doit s'acquitter de la différence dans les 30 jours à compter de la notification de la décision, date à l'échéance de laquelle courront des intérêts moratoires (art. 364 al. 1 aLCP). Si le montant dû à ce titre n'est pas versé au 30 avril de l'année suivant la période d'imposition, des intérêts financiers calculés sur ce montant sont mis à la charge du contribuable (art. 361 al. 4 aLCP et art. 3, 5 et 6 aRTAP).
3.2. Dans le cas d'espèce, l'AFC a notifié le 26 février 2013 aux époux A._ un bordereau de taxation pour les impôts cantonaux et communaux pour la période d'imposition du 1er janvier au 31 décembre 2008 auquel était joint un "relevé du compte" également daté du 26 février 2013. Le bordereau détaille les différents éléments nécessaires à la taxation, à savoir notamment les montants du revenu et de la fortune imposables, les montants déterminants pour les taux d'imposition, ainsi que les composantes du calcul de l'impôt sur le revenu et la fortune cantonal et communal. Quant au relevé de compte joint, il fait mention des paiements déjà effectués par le contribuable à titre d'acomptes provisionnels, du montant d'impôt total dû, de l'impôt anticipé, ainsi que de l'intérêt financier. Ce dernier montant n'est pas repris sur le bordereau d'impôts dès lors qu'il est calculé sur la base de la différence entre le montant d'impôts total et les acomptes provisionnels versés, lesquels ressortent uniquement du relevé de compte. Au dos du bordereau d'impôts figurent les voies de droit; à l'échéance du délai de réclamation de 30 jours un tampon attestant de la qualité de "jugement exécutoire" de ce document y a été apposé. En revanche, ni les voies de droit, ni ledit tampon ne figurent sur le relevé de compte.
4.
4.1. L'autorité cantonale a retenu que le relevé de compte prévu par l'aLCP formait un tout avec la décision de taxation, se référant à cet égard à un arrêt du Tribunal fédéral 2C_520/2011 du 8 mai 2012. Il ne ressortait en outre pas de la LPFisc que ce décompte doive lui-même contenir l'indication des voies de droit. L'intitulé du "relevé de compte" ne devait par conséquent pas porter préjudice au recourant puisqu'il devait, cas échéant, faire l'objet d'une réclamation dans un délai de trente jours et que le recourant n'avait nullement démontré avoir formé une réclamation dans le délai imparti contre le bordereau de taxation, respectivement contre le relevé de compte joint. En effet, pour autant que l'on puisse considérer que le courrier du 4 avril 2013 constituait une réclamation, rien ne permettait toutefois selon elle de retenir qu'il avait été adressé à l'intimé dans le délai de trente jours suivant la notification du bordereau de taxation et du relevé du compte datés du 26 février 2013. Elle en a déduit que l'autorité de première instance était fondée à retenir que le bordereau de taxation du 26 février 2013, dont le relevé de compte faisait partie intégrante, valait titre de mainlevée définitive pour le montant litigieux.
4.2. Le recourant soutient en revanche que le relevé de compte qui accompagne le bordereau de taxation n'est pas une décision, qu'il ne fait pas partie du bordereau d'impôt, raison pour laquelle il ne contient pas d'indication des voies de droit et n'est pas muni du tampon attestant qu'il vaut titre de mainlevée définitive. Le recourant rappelle en outre qu'aux termes de l'art. 41 al. 3 1ère phr. de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes (LHID; RS 642.14), les décisions de taxation sont notifiées au contribuable par écrit et doivent indiquer les voies de droit. Il relève également qu'une nouvelle loi est entrée en vigueur le 1er janvier 2009 dans le canton de Genève, à savoir la LPGIP, laquelle prévoit expressément que les intérêts financiers figurent sur un décompte final joint au bordereau de taxation, dont il fait partie intégrante (art. 16 al. 1 LPGIP). En outre, le décompte final ne vaut décision que dans la mesure où il fait état, en particulier, de l'escompte accordé, des intérêts rémunératoires et moratoires sur les acomptes et des intérêts compensatoires positifs et négatifs (ou intérêts financiers) sur les montants excédentaires ou insuffisants et des frais (art. 17 al. 3 LPGIP). En revanche, l'aLCP ne contenait pas de telles dispositions, précisant, au contraire, que le bordereau de taxation doit contenir notamment l'énumération des taxes, impôts, majorations, amendes, intérêts et centimes additionnels à payer par le contribuable (art. 362 aLCP). Le recourant en déduit que la cour cantonale aurait appliqué les nouvelles dispositions de la LPGIP au cas d'espèce, sans tenir compte du fait que le changement de loi n'est intervenu qu'au 1er janvier 2009 et qu'elle ne s'appliquait pas aux exercices antérieures à 2009. Il soutient enfin, qu'en application de l'aLCP, les intérêts financiers auraient dû figurer dans le bordereau d'impôts et non sur le relevé de compte annexé non prévu par la loi. La Cour de justice ne pouvait par conséquent retenir que l'intitulé du relevé de compte ne lui portait quoi qu'il en soit pas préjudice puisqu'il pouvait cas échéant faire l'objet d'une réclamation dans un délai de trente jours, dès lors que l'intimé lui-même, soit pour lui l'AFC, avait reconnu dans son mémoire de réponse que le relevé de compte n'avait qu'un but informatif et n'ouvrait pas de voies de droit. En conséquence, la Cour de justice aurait versé dans l'arbitraire en prêtant à tort au relevé de compte du 23 février 2013 ( recte : 26 février 2013) les mêmes effets qu'un décompte final au sens de l'art. 16 LPGIP, à savoir ceux d'une décision sujette à réclamation au sens de la loi genevoise de procédure fiscale du 4 octobre 2001 (LPFisc; RS/GE D 3 17), qui ne peut plus être contestée par le contribuable faute de réclamation dans les 30 jours et qui constitue dès lors un titre de mainlevée définitive au sens de l'<ref-law>.
4.3. Dans un arrêt 2C_520/2011 du 8 mai 2012, le Tribunal de céans s'est prononcé sur la qualité de décision de taxation au sens de l'<ref-law> d'un tel "relevé du compte" également notifié dans le canton de Genève. L'<ref-law> prévoit en effet que les décisions de taxation doivent être notifiées au contribuable par écrit et indiquer les voies de droit; les autres décisions et prononcés doivent, en outre, être motivés. Dans l'arrêt en question, les recourants faisaient notamment valoir une violation de l'<ref-law> du fait de l'absence d'indication des voies de droit sur le relevé de compte. Le Tribunal fédéral avait alors retenu que le bordereau de taxation devait nécessairement être complété puisqu'il ne mentionnait pas ce que le contribuable avait encore à payer à l'Etat ou, au contraire, ce que l'Etat devait lui rembourser, en fonction des acomptes provisionnels versés. Il a donc retenu que le relevé de compte ne modifiait pas la décision de taxation mais la complétait, que ces deux documents formaient par conséquent un tout et que les voies de droit, indiquées sur le bordereau n'avaient pas à être encore mentionnées sur le relevé de compte (arrêt 2C_520/2011 du 8 mai 2012 consid. 2.3).
4.4. En l'espèce, la situation est similaire. La décision de taxation et le relevé de compte notifiés au recourant sont tous deux datés du 26 février 2013. Il ne conteste en outre pas que ces deux documents lui ont été adressés dans un seul pli. Il n'y a dès lors pas lieu de s'écarter de la jurisprudence développée dans l'arrêt 2C_520/2011 et l'on doit considérer que la décision de taxation et le relevé de compte, bien qu'étant physiquement deux documents distincts, ne sont en réalité qu'une seule et même décision s'étendant sur deux pages. Il s'ensuit que les voies de droit indiquées sur l'une d'entre elles sont suffisantes et n'ont pas à être reproduites sur la seconde dès lors que la qualité de décision s'étend autant au bordereau de taxation qu'au relevé de compte qui en fait partie. Pour les mêmes motifs, il n'apparaît pas arbitraire de considérer que dite décision vaut titre de mainlevée autant pour les montants ressortant du premier document que pour ceux qui figurent sur le second.
Le grief du recourant, qui reproche à l'autorité cantonale d'avoir fait fi du fait que la décision litigieuse a été rendue sous l'empire de l'aLCP et non de la LPGIP, n'est pas pertinent. La décision cantonale n'est effectivement pas claire quant au droit applicable dès lors qu'elle se réfère à la fois à la LPGIP et à l'aLCP, dont elle évoque l'abrogation au 1er janvier 2009 sans pour autant exclure qu'elle serait applicable au cas d'espèce. Ceci n'a toutefois pas d'incidence dans le cas présent, dès lors que la LPGIP prévoit désormais expressément que le décompte final fait partie intégrante de la décision de taxation (art. 16 al. 1 LPGIP) et qu'il en va de même s'agissant du relevé de compte si l'on applique l'aLCP, conformément à la jurisprudence fédérale sus-évoquée rendue sous l'empire de l'ancienne loi cantonale (cf. arrêt 2C_520/2011 du 8 mai 2012 consid. 2.3). Le grief du recourant qui relève que les intérêts financiers doivent figurer sur le bordereau de taxation et non sur un relevé de compte annexe non prévu par la loi en application de l'art. 362 aLCP est de ce fait également infondé puisque le relevé de compte fait partie intégrante de la décision de taxation et que ces deux documents constituent précisément une seule et même décision et non deux décisions distinctes. Il ne s'agit donc pas, une fois encore, d'examiner la qualité de décision et par conséquent de titre de mainlevée définitive du seul relevé de compte, mais bien du bordereau de taxation et du relevé de compte joint pris comme un tout.
Enfin, il faut également écarter la critique du recourant en tant qu'il reproche à l'autorité cantonale d'avoir retenu qu'il ne pouvait plus contester le relevé de compte, faute pour lui d'avoir formé réclamation dans le délai imparti. Il estime que, dès lors que l'intimé, à savoir pour lui l'AFC, a admis que le relevé de compte n'était pas une décision et ne faisait pas partie du bordereau d'impôt, la cour cantonale ne pouvait lui faire grief de ne pas avoir considéré qu'il s'agissait d'une décision sujette à réclamation. Il est vrai que l'AFC avait dans un premier temps déclaré, dans sa réponse du 3 février 2014 au recours formé par le recourant contre la décision de première instance, que le relevé de compte accompagnait le bordereau de taxation à titre informatif mais n'ouvrait pas de voies de droit et qu'il ne comportait pas de tampon attestant de sa qualité de "jugement exécutoire" puisque seul le bordereau de taxation avait cette qualité et valait titre de mainlevée définitive. Toutefois, bien que cette formulation prête à confusion, elle n'entre pas en contradiction avec la jurisprudence fédérale susmentionnée selon laquelle le relevé de compte ne constitue effectivement pas une décision à lui seul mais uniquement pris comme un tout avec la décision de taxation qu'il complète, en particulier en indiquant le montant de l'intérêt financier. En outre, l'AFC a apporté par la suite des précisions dans sa duplique du 28 février 2014, relevant, en se référant à l'arrêt 2C_520/2011, que le bordereau et le relevé de compte sont indissociables et forment un tout, de sorte que le second complète le premier et ne saurait de ce fait comporter des voies de droit. En conséquence, on ne saurait retenir que l'AFC a admis que le relevé de compte n'est pas une décision et qu'il ne faisait pas partie du bordereau d'impôt comme le soutient le recourant et la cour cantonale n'a pas commis d'arbitraire en constatant le défaut de réclamation dans le délai.
5.
En définitive, le recours se révèle mal fondé et doit être rejeté aux frais de son auteur (<ref-law>). Il n'y a pas lieu d'allouer de dépens à l'intimé qui est comparu en personne et n'a donc encouru aucun frais d'assistance légale.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Chambre civile de la Cour de justice du canton de Genève.
Lausanne, le 20 novembre 2014
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : von Werdt
La Greffière : Hildbrand