Faits :
A.
B.A._, née en 1960, et A.A._, né en 1960, se sont mariés le 9 juin 1993 à Genève.
Deux enfants, aujourd'hui majeurs, sont issus de cette union: C._, né en 1993, et D._, né en 1995.
Les époux se sont séparés à la mi-juillet 2012.
B.
B.a. Par jugement de mesures protectrices de l'union conjugale du 27 septembre 2012, le Tribunal de première instance de Genève (ci-après: Tribunal) a notamment donné acte à A.A._ de son engagement à verser en mains de son épouse, par mois et d'avance, allocations familiales non comprises, une somme de 5'500 fr. à titre de contribution à l'entretien de la famille.
B.b. Par acte déposé le 19 février 2013, A.A._ a formé une demande unilatérale en divorce. Il a notamment conclu à ce que B.A._ soit déboutée de ses conclusions en paiement d'une contribution d'entretien, subsidiairement à ce qu'il lui soit donné acte de son accord de verser 2'400 fr. par mois à B.A._ pour une période d'une année dès la date de l'entrée en force du jugement de divorce.
B.A._ a notamment conclu à ce que A.A._ soit condamné à lui verser, par mois et d'avance, à titre de contribution à son entretien, la somme de 5'320 fr. dès l'entrée en force du jugement de divorce jusqu'au 31 décembre 2025 et à ce qu'il soit condamné à lui verser ce montant sous forme de capital.
B.c. Le 4 mars 2014, A.A._ a requis, sur mesures provisionnelles, la réduction de la contribution mensuelle d'entretien à 4'180 fr., ce que le Tribunal a refusé par ordonnance du 7 août 2014.
B.d. Par jugement du 23 décembre 2016, le Tribunal a, entre autres points, prononcé le divorce des époux A._ (ch. 1 du dispositif) et condamné A.A._ à verser à B.A._, par mois et d'avance, la somme de 3'500 fr. à titre de contribution d'entretien post-divorce jusqu'au 31 décembre 2025.
B.e. Par acte déposé le 31 janvier 2017, A.A._ a formé appel de ce jugement, concluant notamment à ce qu'il soit dit qu'il n'est redevable d'aucune contribution d'entretien post-divorce, subsidiairement à ce qu'il lui soit donné acte de son accord de verser 2'400 fr. par mois à B.A._ pendant une année.
Par acte expédié le 16 mars 2017, B.A._ a répondu et formé un appel joint, reprenant sa conclusion de première instance en paiement d'une contribution d'entretien post-divorce.
B.f. Par arrêt du 12 décembre 2017, expédié le 21 suivant, la Cour de justice du canton de Genève a notamment annulé le chiffre 10 du dispositif du jugement entrepris et, statuant à nouveau sur ce point, a condamné A.A._ à payer à B.A._, par mois et d'avance, la somme de 4'160 fr. à titre de contribution d'entretien post-divorce jusqu'au 31 décembre 2025.
C.
Par acte expédié le 31 janvier 2018, A.A._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt du 12 décembre 2017. Principalement, il conclut au renvoi de la cause à la Cour de justice pour nouvelle décision au sens des considérants. Subsidiairement, il sollicite la réforme de l'arrêt attaqué en ce sens qu'il n'est redevable d'aucune contribution d'entretien post-divorce, subsidiairement qu'il lui est donné acte de son accord de verser 2'400 fr. par mois à B.A._ pendant encore une année. Plus subsidiairement, il conclut au renvoi de la cause à la Cour de justice ou au Tribunal de première instance pour nouvelle décision dans le sens des considérants. Il invoque la violation des art. 9 et 29 al. 2 Cst. ainsi que de l'<ref-law>.
Invitées à se déterminer, la Cour de justice s'est référée aux considérants de son arrêt et l'intimée a conclu au rejet du recours et à la confirmation de l'arrêt attaqué.

Considérant en droit :
1.
Le recours est dirigé contre une décision finale (<ref-law>), prise en dernière instance cantonale et sur recours par un tribunal supérieur (<ref-law>), dans une contestation civile (<ref-law>) de nature pécuniaire dont la valeur litigieuse atteint 30'000 fr. (art. 51 al. 1 let. a, 51 al. 4 et 74 al. 1 let. b LTF); il a par ailleurs été déposé à temps (art. 100 al. 1 et 46 al. 1 let. c LTF), par la partie qui a succombé dans ses conclusions devant l'instance précédente (<ref-law>), de sorte qu'il est recevable au regard de ces dispositions.
2.
2.1. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques pouvant se poser, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 2; <ref-ruling> consid. 1.3; <ref-ruling> consid. 1.4). L'<ref-law> exige par ailleurs que le recourant critique les motifs de la décision entreprise et indique précisément en quoi il estime que l'autorité précédente a méconnu le droit (<ref-ruling> précité). Il doit exister un lien entre la motivation du recours et la décision attaquée. Le recourant doit se déterminer par rapport aux considérants de l'arrêt entrepris; il ne peut se contenter de reprendre presque mot pour mot l'argumentation formée devant l'autorité cantonale (<ref-ruling> consid. 2; <ref-ruling> consid. 2.1 et 2.3; en dernier lieu: arrêt 5A_259/2017 du 29 janvier 2018 consid. 2.3). Le Tribunal fédéral ne connaît en outre de la violation de droits fondamentaux que si un tel grief a été invoqué et motivé par le recourant (" principe d'allégation ", <ref-law>; <ref-ruling> consid. 2.2; <ref-ruling> consid. 3.3; <ref-ruling> consid. 1.2, 397 consid. 1.4 in fine), c'est-à-dire s'il a été expressément soulevé et exposé de façon claire et détaillée (<ref-ruling> consid. 2.1; <ref-ruling> consid. 1.3 et les références). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 2.3; <ref-ruling> consid. 10.1 et les arrêts cités).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>); il ne peut s'en écarter que si ces faits ont été constatés de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>), et si la correction du vice est susceptible d'influencer le sort de la cause (<ref-law>). La partie recourante qui soutient que les faits ont été établis d'une manière manifestement inexacte (<ref-law>), à savoir arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.3), doit démontrer, par une argumentation précise, en quoi consiste la violation (<ref-law>; ATF <ref-ruling> consid. 2.2).
3.
Le recourant invoque une violation de l'<ref-law> en tant que la Cour de justice a refusé d'imputer un revenu hypothétique à l'intimée.
3.1. Le recourant constate que les juges précédents ont seulement examiné la question (de fait) concernant l'exigence possible et concrète d'augmenter ou de compléter les gains de l'intimée, répondant ainsi implicitement de manière favorable à celle relative à la possibilité d'exiger abstraitement de l'intimée qu'elle augmente son taux d'activité ou complète son activité. S'agissant de la question de fait, ils avaient estimé que les recherches d'emploi de l'intimée ne pouvaient pas être considérées comme étant suffisamment sérieuses, puis considéré, sans autre examen, que l'âge de l'intimée (57 ans) et le marché genevois de l'emploi dans la profession de secrétaire s'opposaient de toutes les façons à ce que l'intimée augmente son taux d'activité. Ce faisant, la Cour de justice avait erré. Selon la jurisprudence, l'âge déterminant n'était pas celui actuel de l'intimée mais bien l'âge qu'elle avait au moment de la séparation effective des époux, soit 52 ans et non 57 ans. Or, les juges cantonaux ne s'étaient pas prononcé sur la capacité d'augmenter ou compléter son travail pour une femme de 52 ans. L'auraient-ils fait qu'ils auraient dû constater que les chances pour l'intimée de compléter son travail à 52 ans étaient encore importantes. Quand bien même il eût fallu se fonder sur l'âge actuel de l'intimée pour examiner la question de sa possibilité de réaliser un revenu hypothétique que la Cour de justice aurait dû tenir compte de la spécificité du cas d'espèce qui consiste en une augmentation du taux d'une activité qui a déjà été reprise à temps partiel et non d'une réinsertion dans la vie professionnelle. Selon la jurisprudence, le critère de l'âge est alors moins prépondérant, ce que la Cour de justice avait ignoré. Par ailleurs, en constatant que les recherches d'emploi de l'intimée n'avaient pas été assez sérieuses, la cour cantonale aurait dû admettre la possibilité pour l'intimée de réaliser un revenu supérieur. C'était également à tort que la Cour de justice n'avait pas pris en considération la possibilité pour l'intimée de trouver une place de travail dans un autre domaine ne requérant pas de compétences particulières, alors que, selon sa propre jurisprudence, elle avait accepté d'imputer à une femme sans formation un revenu hypothétique. Si elle avait procédé à cet examen, elle aurait dû constater qu'un revenu supplémentaire hypothétique devait être admis. De plus, il était notoire que le marché de l'emploi avait connu une reprise considérable en 2017, notamment dans le domaine d'activité de l'intimée. Ce fait notoire devait permettre d'admettre qu'elle aurait pu décrocher un emploi en faisant preuve de bonne volonté.
3.2. La Cour de justice a constaté que le revenu mensuel net du recourant était de 17'220 fr. et qu'il assumait des charges mensuelles de 6'326 fr., de sorte que son disponible mensuel s'élevait à 10'894 fr. L'intimée percevait quant à elle un salaire mensuel net de 2'722 fr. pour des charges de 5'586 fr. Elle avait effectué des recherches d'emploi en reprenant à chaque fois le même modèle de lettre, sans l'adapter en fonction de ses différentes postulations ni mettre en valeur son expérience professionnelle de secrétaire auprès d'un conseiller d'Etat ni même dater ses offres de services. Celles-ci ne pouvaient dès lors pas être considérées comme étant suffisamment sérieuses. Cela étant, elle était âgée de 57 ans et le marché genevois de l'emploi était tendu dans sa profession, de sorte qu'elle ne disposait pas de perspectives effectives d'augmenter son taux d'activité. En travaillant à mi-temps, la cour cantonale a considéré qu'elle exploitait déjà pleinement sa capacité contributive; c'était donc à raison que le Tribunal avait refusé de lui imputer un revenu hypothétique. Le recourant ne pouvait par ailleurs exiger de l'intimée qu'elle s'inscrive au chômage, cette assurance n'ayant pas finalité de se substituer à l'obligation d'entretien du conjoint.
3.3. Pour fixer la contribution d'entretien, le juge doit en principe tenir compte du revenu effectif des parties, tant le débiteur d'entretien que le créancier pouvant néanmoins se voir imputer un revenu hypothétique supérieur. Il s'agit ainsi d'inciter la personne à réaliser le revenu qu'elle est en mesure de se procurer et qu'on peut raisonnablement exiger d'elle afin de remplir ses obligations (<ref-ruling> consid. 3.2; <ref-ruling> consid. 4.2.2.2).
Le juge doit ainsi examiner successivement deux conditions. Il doit d'abord déterminer si l'on peut raisonnablement exiger d'une personne qu'elle exerce une activité lucrative ou augmente celle-ci, eu égard, notamment, à sa formation, à son âge et à son état de santé; il s'agit d'une question de droit. Le juge doit ensuite établir si la personne a la possibilité effective d'exercer l'activité ainsi déterminée et quel revenu elle peut en obtenir, compte tenu des circonstances subjectives susmentionnées, ainsi que du marché du travail; il s'agit là d'une question de fait (<ref-ruling> consid. 3.2; <ref-ruling> consid. 4.2.2.2). Si le juge entend exiger d'une partie la prise ou la reprise d'une activité lucrative, ou encore l'extension de celle-ci, il doit généralement lui accorder un délai approprié pour s'adapter à sa nouvelle situation; ce délai doit être fixé en fonction des circonstances du cas particulier (<ref-ruling> consid. 2.2; <ref-ruling> consid. 5; arrêts 5A_1043/2017 du 31 mai 2018 consid. 3.2; 5A_593/2017 du 24 novembre 2017 consid. 3.3; 5A_137/2017 du 29 juin 2017 consid. 4.3).
Selon la jurisprudence, on ne devrait en principe plus exiger d'un époux qui n'a pas exercé d'activité lucrative pendant un mariage de longue durée de se réinsérer dans la vie économique, lorsqu'il est âgé de 45 ans au moment de la séparation; il ne s'agit toutefois pas d'une règle stricte et la limite d'âge tend à être portée à 50 ans (ATF <ref-ruling> consid. 4.2.2.2; arrêts 5A_137/2017 du 29 juin 2017 consid. 4.3; 5A_181/2014 du 3 juin 2014 consid. 4.3; 5A_891/2013 du 12 mars 2014 consid. 4.1.2 et les références). Cette limite d'âge est cependant une présomption qui peut être renversée en fonction d'autres éléments qui plaideraient en faveur de la prise ou de l'augmentation d'une activité lucrative (ATF <ref-ruling> consid. 4.2.2.2; arrêts 5A_1043/2017 du 31 mai 2018 consid. 3.2; 5A_593/2017 du 24 novembre 2017 consid. 3.3; 5A_137/2017 du 29 juin 2017 consid. 4.3).
3.4. Le grief du recourant est fondé. Il ressort en effet de la motivation cantonale que la Cour de justice n'a pas formellement procédé à l'examen en deux étapes consacré par la jurisprudence susrappelée (cf. supra consid. 3.3). Elle a en effet écarté la possibilité d'imputer un revenu hypothétique à l'intimée du fait de son âge et de l'état du marché genevois de l'emploi dans sa profession. Ce faisant, elle a mélangé le fait et le droit. Si elle estimait que l'âge de l'intimée suffisait à faire obstacle à l'imputation d'un revenu hypothétique et que l'on ne pouvait dès lors pas raisonnablement exiger d'elle qu'elle augmente son temps de travail, elle n'avait pas à procéder à la seconde étape. A cet égard, il convient de préciser que le recourant soutient à juste titre que l'âge qui doit être pris en compte est en principe celui de la séparation effective, à moins que le conjoint qui réclame une contribution d'entretien pouvait de bonne foi considérer qu'il n'avait pas à obtenir des revenus propres, et que la limite de l'âge posée par la jurisprudence est d'importance moindre lorsqu'il s'agit d'augmenter le taux d'une activité déjà exercée et non de reprendre une activité lucrative (cf. arrêt 5A_97/2017 et 5A_114/2017 du 23 août 2017 consid. 7.1.2.1 et les arrêts cités). En l'espèce, dans la mesure où l'autorité cantonale a également fait mention de la possibilité effective pour l'intimée d'augmenter son temps de travail, il semble toutefois qu'elle a aussi abordé la seconde étape admettant ainsi implicitement que l'on pouvait, sur le principe, attendre de l'intimée qu'elle travaille à un taux plus élevé nonobstant l'obstacle de son âge. S'agissant de la seconde étape, elle a donc considéré que l'intimée ne pouvait augmenter son revenu du seul fait de l'état du marché de l'emploi genevois dans sa profession alors même qu'elle a estimé en parallèle que les recherches d'emploi de l'intimée manquaient de sérieux. Une telle motivation apparaît insuffisante pour exclure d'emblée toute possibilité pour l'intimée d'augmenter son taux de travail ou de changer d'emploi dans la perspective d'augmenter son revenu. Il appartenait en effet à la Cour de justice d'examiner dans un premier temps si l'on pouvait raisonnablement exiger de l'intimée qu'elle augmente son taux de travail ou change d'activité afin d'augmenter son revenu. En cas de réponse positive à cette question, elle devait, dans un deuxième temps, établir si l'intimée avait la possibilité effective d'exercer l'activité ainsi déterminée et quel revenu elle pouvait en tirer, compte tenu des circonstances subjectives susmentionnées, ainsi que du marché du travail. La Cour de justice ne pouvait donc examiner la situation du seul marché genevois de l'emploi dans le domaine professionnel de l'intimée sans avoir d'abord établi que l'intimée n'était pas en mesure de trouver un emploi dans un autre domaine que celui-ci voire ailleurs qu'à Genève.
L'admission du grief conduit par conséquent au renvoi de l'affaire à l'instance cantonale pour qu'elle procède à l'examen en deux étapes prévu par la jurisprudence.
4.
Le recourant soulève également un grief de violation de son droit d'être entendu (art. 29 al. 2 Cst.) ainsi que d'arbitraire (art. 9 Cst.) dans la constatation des faits au motif que la Cour de justice n'aurait pas tenu compte de trois faits pertinents. Il reproche ainsi aux juges précédents de ne pas avoir constaté que l'intimée bénéficiait d'une capacité de travail pleine et entière, qu'elle bénéficiait d'une capacité de gain de 6'500 fr. par mois au moins et qu'elle pouvait exercer une activité moins qualifiée que celle qu'elle occupait actuellement. Ces faits avaient pourtant été allégués dans ses plaidoiries finales écrites du 22 août 2016 (all. 24) respectivement dans son appel du 31 janvier 2017 (p. 3 [recte: 5]) et dans sa réponse à l'appel joint du 17 mai 2017 (p. 8) et n'avaient pas été valablement contestés par l'intimée.
Compte tenu de l'issue du recours (cf. supra consid. 3.4), le grief du recourant doit être écarté faute de pertinence. Les faits dont il se plaint, qui n'auraient arbitrairement pas été pris en considération par la Cour de justice, à savoir la capacité de travail et de gain de l'intimée ainsi que la possibilité pour elle d'exercer une autre activité que l'emploi qu'elle occupe actuellement, sont en effet des questions qui devront le cas échéant être réexaminées dans le cadre de l'arrêt sur renvoi.
5.
En définitive, le recours doit être admis et la cause renvoyée à l'autorité cantonale pour nouvelle décision au sens des considérants. L'intimée, qui succombe, supportera par conséquent les frais judiciaires (<ref-law>) et versera en outre des dépens au recourant (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, l'arrêt attaqué annulé et la cause renvoyée à l'autorité cantonale pour nouvelle décision au sens des considérants.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge de l'intimée.
3.
Une indemnité de 3'500 fr., à verser au recourant à titre de dépens, est mise à la charge de l'intimée.
4.
Le présent arrêt est communiqué aux parties et à la Chambre civile de la Cour de justice du canton de Genève.
Lausanne, le 9 août 2018
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : von Werdt
La Greffière : Hildbrand