Faits :
A.
Par jugement du 11 juin 2013, le Tribunal correctionnel de l'arrondissement de La Côte a constaté que A.X._ s'est rendu coupable de lésions corporelles simples, lésions corporelles simples qualifiées, mise en danger de la vie d'autrui, menaces, contrainte, viol et insoumission à une décision de l'autorité, l'a libéré des chefs d'accusation de voies de fait, appropriation illégitime et utilisation abusive d'une installation de télécommunication et l'a condamné à une peine privative de liberté de trois ans, ainsi qu'à une amende de 2'000 fr., la peine privative de liberté de substitution en cas de non-paiement étant fixée à 20 jours.
Par jugement du 9 décembre 2013, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a partiellement admis l'appel de A.X._ en ce sens qu'elle a assorti la peine privative de liberté de trois ans prononcée d'un sursis partiel portant sur dix-huit mois, avec un délai d'épreuve de trois ans.
B.
Par jugement du 21 novembre 2016, la Cour d'appel pénale du Tribunal cantonal vaudois a déclaré irrecevable la demande de révision formée par A.X._.
C.
Celui-ci forme un recours en matière pénale au Tribunal fédéral contre ce jugement, concluant, avec suite de dépens, à sa réforme en ce sens que la révision est admise.
Par ordonnance du 27 janvier 2017, le Président de la Cour de droit pénal du Tribunal fédéral a rejeté la requête d'effet suspensif.

Considérant en droit :
1.
1.1. L'art. 410 al. 1 let. a CPP permet à toute personne lésée par un jugement entré en force d'en demander la révision s'il existe des faits ou des moyens de preuve qui étaient inconnus de l'autorité inférieure et qui sont de nature à motiver l'acquittement ou une condamnation sensiblement moins sévère du condamné. Les faits ou moyens de preuve invoqués doivent ainsi être nouveaux et sérieux. Les faits ou moyens de preuve sont inconnus lorsque le juge n'en a pas eu connaissance au moment où il s'est prononcé, c'est-à-dire lorsqu'ils ne lui ont pas été soumis sous quelque forme que ce soit (<ref-ruling> consid. 5.1.2 p. 66 s.). Ils sont sérieux lorsqu'ils sont propres à ébranler les constatations de fait sur lesquelles se fonde la condamnation et que l'état de fait ainsi modifié rend possible un jugement sensiblement plus favorable au condamné (cf. <ref-ruling> consid. 5.1.4 p. 68). Savoir si l'autorité cantonale s'est fondée sur une juste conception de faits ou de moyens de preuve nouveaux et sérieux et si la modification, le cas échéant, de l'état de fait sur lequel repose la condamnation est de nature à entraîner une décision plus favorable au condamné relève du droit. En revanche, déterminer si un fait ou un moyen de preuve était effectivement inconnu du juge relève de l'établissement des faits. Il en va de même de la question de savoir si un fait ou un moyen de preuve nouveau est propre à modifier l'état de fait retenu, puisqu'elle relève de l'appréciation des preuves, étant rappelé qu'une vraisemblance suffit au stade du rescindant (<ref-ruling> consid. 1 p. 73; plus récemment arrêt 6B_742/2014 du 22 juin 2015 consid. 3.2).
La demande en révision en raison de faits ou de moyens de preuve nouveaux n'est soumise à aucun délai (art. 411 al. 2 in fine CPP). La procédure du rescindant instituée par le CPP se déroule, en principe, en deux phases comprenant un examen préalable de la recevabilité (art. 412 al. 1 et 2 CPP) puis celui des motifs invoqués (art. 412 al. 3 et 4 et 413 CPP). Il s'agit de deux étapes d'une seule et même procédure de la compétence de la juridiction d'appel (art. 412 al. 1 et 3 CPP). Aux termes de l'art. 412 al. 2 CPP, la juridiction d'appel n'entre pas en matière sur la demande de révision si celle-ci est manifestement irrecevable ou non motivée ou si une demande de révision invoquant les mêmes motifs a déjà été rejetée par le passé. La procédure de non-entrée en matière selon cette disposition est en principe réservée à des vices de nature formelle. Il est néanmoins loisible à la juridiction d'appel de refuser d'entrer en matière si les motifs de révision invoqués apparaissent d'emblée non vraisemblables ou mal fondés (arrêt 6B_742/2014 du 22 juin 2015 consid. 3.3 et la référence citée).
1.2.
Le recourant invoque une violation de son droit d'être entendu en considération de l'appréciation des preuves à laquelle a procédé la cour cantonale. Ce faisant, les critiques qu'il formule à cet égard rejoignent celles qu'il articule dans le cadre de la violation des art. 410 et 412 CPP qu'il invoque par ailleurs. Le grief tiré d'une violation du droit d'être entendu n'a aucune portée propre.
1.3. A l'appui de sa requête de révision, la recourant invoque un courrier, rédigé par son ancien avocat, et signé par la partie plaignante B.X._, laquelle revient sur les accusations portées contre son ex-époux. Il prétend que la cour cantonale a arbitrairement interprété la portée à donner à ce courrier.
1.4. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il est lié par les constatations de fait de la décision entreprise (art. 105 al. 1 LTF), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. Il n'entre ainsi pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 1.3.1 p. 253).
1.5. La cour cantonale a relevé que le courrier invoqué avait été rédigé par l'ancien avocat du recourant alors que celui-ci accompagnait son ex-épouse. Elle a dénié toute valeur probante à ce document dès lors qu'il ressortait déjà du jugement du 11 juin 2013 que B.X._ se trouvait sous l'emprise constante du recourant, qui lui inspirait de la peur, et que cette situation l'avait longtemps empêchée de dénoncer les violences dont elle était victime. Par ailleurs, la cour cantonale a considéré les affirmations contenues dans le courrier comme dépourvues de crédibilité. Selon la cour cantonale, l'explication de la dépression et de l'influence familiale pour justifier les prétendues «exagérations» des faits relatés dans la plainte ne sont pas convaincantes. La cour s'est référée tant au jugement du 9 décembre 2013 qu'à celui du 11 juin 2013 pour constater que les explications de l'ex-épouse s'étaient révélées exactes lorsqu'elles avaient pu être vérifiées et que l'intéressée souffrait déjà, à l'époque, d'une importante culpabilité.
A l'encontre de l'appréciation de la cour cantonale, le recourant se limite à une démarche purement appellatoire. Il oppose sa vision à celle retenue. Il ne présente aucun argumentaire précis permettant de retenir que la cour cantonale aurait versé dans l'arbitraire en déniant d'emblée, même sous l'angle de la vraisemblance, que le courrier invoqué et la rétractation y figurant, dépourvue de crédibilité, n'était pas propre à modifier l'état de fait retenu fondant la condamnation. La libre discussion factuelle à laquelle le recourant procède à cet égard est irrecevable. Sur la base de l'appréciation factuelle de la cour cantonale, à l'endroit de laquelle le recourant n'établit aucun arbitraire, celle-ci était habilitée à écarter d'emblée la demande de révision, en application de l'art. 412 CPP. Le recours doit être rejeté dans la mesure de sa recevabilité.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant, qui succombe.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 14 février 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Nasel