Faits : A. A.a. A.A._, né en 1972, et B.A._, née en 1967, se sont mariés le 2 août 1997 en Italie, sans conclure de contrat de mariage. De leur union sont issus deux enfants, C._, née en 1999, et D._, née en 2007. Les époux se sont séparés le 1er janvier 2012. A.b. L'époux est directeur adjoint auprès d'un établissement financier et perçoit un revenu mensuel net de 12'851 fr., bonus compris. Ses charges mensuelles se montent à 5'782 fr. L'épouse, aide-comptable, a travaillé à 100 % au début du mariage, puis à mi-temps dès la naissance de l'enfant C._. Son parcours professionnel a été entrecoupé de périodes de chômage. Elle a perçu des indemnités jusqu'au mois de mai 2012 et a suivi une formation de masseuse thérapeutique en 2014, sans obtenir de diplôme. Elle a retrouvé un emploi dès le mois de mai 2016 en qualité d'auxiliaire dans une administration communale. Depuis le 1er février 2019, elle est caissière-comptable à un taux de 75 % et perçoit à ce titre un revenu mensuel net de 4'527 fr., part au treizième salaire comprise. Les charges mensuelles de l'épouse sont contestées. A.c. La vie séparée a été réglée par une décision de mesures protectrices de l'union conjugale rendue le 4 juin 2013 par le Tribunal de première instance du canton de Genève (ci-après: Tribunal), homologuant un accord des époux, ainsi que par deux ordonnances de mesures provisionnelles rendues les 12 mars 2015 et 30 mai 2016. Ces décisions ont attribué à la mère la garde des deux enfants, accordé un droit de visite au père et donné acte à celui-ci de son engagement à payer 6'400 fr. dès le prononcé de la décision du 4 juin 2013, puis 6'000 fr. dès le 1er juillet 2015, à titre de contribution à l'entretien de la famille, par mois et d'avance, allocations familiales non comprises. A.d. Par requête du 4 mars 2014, l'époux a ouvert action en divorce. Il a notamment conclu à ce qu'il soit dit qu'il contribue à l'entretien de l'épouse par le régulier versement, d'avance le premier de chaque mois, de 275 fr. jusqu'aux 16 ans de l'enfant D._. Dans ses dernières conclusions de première instance, l'épouse a conclu à ce que l'époux soit condamné à lui verser la somme de 3'000 fr. par mois à titre de contribution d'entretien post-divorce. B. B.a. Par jugement du 12 novembre 2018, le Tribunal a prononcé le divorce (ch. 1), maintenu l'autorité parentale conjointe sur D._ et confié la garde de l'enfant à la mère (ch. 3 et 5), réservé un droit de visite en faveur du père (ch. 6) et condamné l'époux à payer des contributions d'entretien en faveur des enfants (ch. 8 et 9) ainsi qu'à verser à l'épouse, par mois et d'avance, au titre de contribution post-divorce, un montant de 1'190 fr. jusqu'à fin décembre 2020 (ch. 13). B.b. Par acte déposé le 15 janvier 2019, l'épouse a fait appel du jugement auprès de la Cour de justice du canton de Genève (ci-après: Cour de justice). Elle a notamment conclu à ce que les contributions d'entretien pour enfants soient augmentées et à ce que l'époux soit condamné à lui verser la somme de 2'000 fr. par mois jusqu'à son accession à l'âge de la retraite. B.c. Par réponse du 13 mai 2019 contenant un appel joint, l'époux a conclu au rejet de l'appel, à ce que la contribution d'entretien en faveur de D._ soit réduite et à ce qu'aucune contribution d'entretien ne soit due à l'épouse dès le 1er février 2019. B.d. Le 12 juillet 2019, l'épouse a conclu au rejet de l'appel joint. C. Par arrêt du 12 novembre 2019, expédié le 11 décembre 2019, la Cour de justice a notamment réduit les contributions mensuellement dues pour l'entretien des enfants et porté la contribution d'entretien de l'ex-épouse, à verser par mois et d'avance, à 2'000 fr. du 1er juin 2019 au 31 décembre 2023, puis à 1'270 fr. dès le 1er janvier 2024 et jusqu'à ce que l'ex-époux atteigne l'âge de la retraite. D. Par acte du 27 janvier 2020, l'ex-époux interjette un recours en matière civile au Tribunal fédéral. Il conclut à ce que l'arrêt de la Cour de justice soit réformé en ce sens que, principalement, aucune contribution d'entretien post-divorce ne soit due à l'ex-épouse et que, subsidiairement, la contribution d'entretien en faveur de celle-ci soit arrêtée à 1'870 fr. du 1er juin 2019 au 31 décembre 2023 et à 490 fr. du 1er janvier 2024 jusqu'à la retraite de l'ex-époux. Encore plus subsidiairement, il conclut à ce que l'arrêt soit annulé et le dossier renvoyé à la cour cantonale pour nouvelle décision dans le sens des considérants. Des déterminations n'ont pas été requises.