Faits :
A.
Par jugement du 2 mai 2016, le Tribunal correctionnel d'arrondissement de la Côte a notamment:
- constaté que X._ s'était rendu coupable d'actes d'ordre sexuel avec des enfants, d'actes d'ordre sexuel sur une personne incapable de discernement ou de résistance et de pornographie;
- condamné l'intéressé à une peine privative de liberté de 30 mois;
- suspendu partiellement l'exécution de la peine privative de liberté sur une durée de 18 mois, les autres 12 mois étant à exécuter et fixé un délai d'épreuve de cinq ans;
- dit que X._ est le débiteur de A._ et lui devait immédiat paiement de la somme de 4'000 fr. avec intérêt à 5% l'an dès le 31 décembre 1993, pour le tort moral subi;
- renvoyé A._ à agir devant le juge civil pour le solde de ses prétentions.
B.
Saisie d'un appel du condamné, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud l'a partiellement admis par jugement du 27 octobre 2016 en réduisant la peine privative de liberté à 26 mois, suspendant l'exécution de la peine privative de liberté de 14 mois, les autres 12 mois étant à exécuter.
En fait, la Cour d'appel pénale a retenu en substance que:
En République tchèque, durant des vacances, entre le 1er janvier 1992 et le 31 décembre 1993, X._, né à Vienne en 1943, a touché avec ses doigts les parties génitales de sa fille A._, née en 1985 et de nationalité autrichienne, en prenant et soulevant ses lèvres, sous prétexte de l'examiner en raison de douleurs à l'entrejambe résultant d'un choc avec le cadre d'un vélo.
A son ancien domicile à B._, X._ a, à tout le moins entre 2011 et le 20 mai 2014, touché à une dizaine de reprises, à même la peau, avec deux ou trois doigts, les parties intimes de sa petite-fille, C._, née en 2009, fille de D._, soit notamment son clitoris, ses lèvres, ses fesses et son anus, en faisant des mouvements de haut en bas. Durant cette période, X._ a pris de nombreuses photographies du sexe de sa petite-fille, en lui faisant prendre différentes poses et écarter les lèvres de son vagin. L'analyse des fichiers perquisitionnés au domicile de X._ a relevé la présence de 38 photographies représentant presque toutes le sexe de C._. Il a également été découvert au moins une photographie d'un enfant mêlé à un acte d'ordre sexuel.
C.
X._ interjette un recours en matière pénale contre le jugement du 27 octobre 2016. Il conclut, principalement, à la réforme de l'arrêt attaqué en ce sens qu'il est condamné à une peine privative de liberté de 24 mois et que cette peine est entièrement suspendue. Il conclut également au rejet des prétentions civiles de A._. Subsidiairement, il conclut à l'annulation de sa peine et des prétentions civiles octroyées à A._ et au renvoi de la cause à l'instance précédente.
Considérant en droit :
1.
Le recourant se plaint d'arbitraire dans l'appréciation des faits (art. 9 Cst.). Il en déduit une violation de l'art. 126 al. 1 let. b CPP.
1.1. Les constatations de fait de la décision entreprise lient le Tribunal fédéral (art. 105 al. 1 LTF), sous les réserves découlant des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de l'arbitraire (art. 9 Cst.; sur cette notion, cf. ATF 140 III 16 consid. 2.1 p. 18 s. et 138 III 378 consid. 6.1 p. 379) dans la constatation des faits. La recevabilité de tels griefs, ainsi que de ceux déduits du droit constitutionnel et conventionnel, suppose l'articulation de critiques circonstanciées (ATF 136 II 101 consid. 3 p. 105), claires et précises, répondant aux exigences de motivation accrues déduites de l'art. 106 al. 2 LTF (cf. ATF 141 IV 249 consid. 1.3.1 p. 253). Les critiques appellatoires sont, en particulier, irrecevables (ATF 142 III 364 consid. 2.4 p. 368).
1.2. L'art. 126 al. 1 let. b CPP prévoit que le tribunal statue sur les conclusions civiles lorsqu'il acquitte le prévenu et que l'état de fait est suffisamment établi. Lorsque les preuves recueillies jusque-là, dans le cadre de la procédure, sont suffisantes pour permettre de statuer sur les conclusions civiles, le juge pénal est tenu de se prononcer sur le sort des prétentions civiles (arrêts 6B_267/2016 du 15 février 2017 consid. 6.1 et 6B_819/2013 du 27 mars 2014 consid. 5.1; cf. Message du 21 décembre 2005 relatif à l'unification du droit de la procédure pénale, FF 2006 1057 p. 1153, en lien avec l'art. 124 du projet). Conformément à l'art. 126 al. 2 let. b CPP, le tribunal renvoie la partie plaignante à agir par la voie civile lorsqu'elle n'a pas chiffré ses conclusions de manière suffisamment précise ou ne les a pas suffisamment motivées. Il en va de même lorsque le prévenu est acquitté et que l'état de fait n'a pas été suffisamment établi (art. 126 al. 2 let. d CPP). Un jugement d'acquittement peut donc aussi bien aboutir à la condamnation du prévenu sur le plan civil - étant rappelé que, selon l'art. 53 CO, le jugement pénal ne lie pas le juge civil - qu'au déboutement de la partie plaignante (arrêts 6B_267/2016 du 15 février 2017 consid. 6.1; 6B_486/2015 du 25 mai 2016 consid. 5.1 et les références citées).
Ainsi que l'indique l'art. 122 al. 1 CPP, les prétentions civiles que peut faire valoir la partie plaignante sont exclusivement celles qui sont déduites de l'infraction. Cela signifie que les prétentions civiles doivent découler d'une ou de plusieurs infractions qui, dans un premier temps, sont l'objet des investigations menées dans la procédure préliminaire, puis, dans un second temps, figurent dans l'acte d'accusation élaboré par le ministère public, en application de l'art. 325 CPP. La plupart du temps, le fondement juridique des prétentions civiles réside dans les règles relatives à la responsabilité civile des art. 41 ss CO. La partie plaignante peut ainsi réclamer la réparation de son dommage (art. 41 à 46 CO) et l'indemnisation de son tort moral (art. 47 et 49 CO), dans la mesure où ceux-ci découlent directement de la commission de l'infraction reprochée au prévenu. En règle générale, si l'acquittement résulte de motifs juridiques (c'est-à-dire en cas de non-réalisation d'un élément constitutif de l'infraction), les conditions d'une action civile par adhésion à la procédure pénale font défaut et les conclusions civiles doivent être rejetées (arrêts 6B_267/2016 du 15 février 2017 consid. 6.1; 6B_486/2015 précité consid. 5.1 et les références citées).
1.3. L'autorité précédente a exclu une compétence des autorités pénales suisses. Elle a relevé que le recourant et l'intimée étaient de nationalité autrichienne. L'art. 5 al. 1 let. b CP n'était pas applicable à l'époque des faits. Selon l'ancien art. 6bis al. 1 CP, en vigueur du 1er juillet 1983 au 31 décembre 2006, la loi pénale suisse est applicable à quiconque aura commis à l'étranger un crime ou un délit que la Confédération s'est engagée à poursuivre en vertu d'un traité international, si l'acte est réprimé aussi dans l'Etat où il a été commis et si l'auteur se trouve en Suisse et n'est pas extradé à l'étranger. En application du principe de la lex mitior prévu à l'art. 2 al. 2 CP, cette disposition est applicable aux faits qui se sont déroulés entre 1992 et 1993. Or, à cette époque, la Suisse n'avait pas signé d'accord avec la République tchèque l'engageant à poursuivre les actes d'ordre sexuel avec des enfants étrangers au sens de l'art. 187 CP commis sur le sol tchèque. L'instance précédente a dès lors libéré le recourant de toute condamnation pour les faits qui se sont déroulés en République tchèque.
Elle a néanmoins considéré que les faits étaient établis et qu'il devait être statué sur le sort des conclusions civiles en application de l'art. 126 al. 1 let. b CPP. Elle a relevé que la variété, la minutie, l'insistance et la durée insolite des gestes mis en perspective par le comportement délictueux adopté ultérieurement à l'encontre de la nièce de l'intimée, C._, et le souvenir traumatique qu'en a gardé l'intimée imposaient de retenir une atteinte illicite à la personnalité de l'intimée au sens de l'art. 28 CC (cf. jugement attaqué, p. 15 et 19). Elle a estimé qu'elle était suffisamment renseignée pour statuer sur les conclusions civiles, soulevant que l'intimée avait souffert d'importantes séquelles suite aux actes commis et qu'elle en pâtissait encore. Une indemnité de 4'000 fr., avec intérêt à 5% l'an dès le 31 décembre 1993, paraissait juste et adéquate.
1.4. Le recourant conteste les conclusions civiles octroyées à l'intimée en application de l'art. 126 al. 1 let. b CPP dans la mesure où il soutient que les faits ne sont pas établis.
Il relève que ce n'est qu'après avoir eu connaissance des faits reprochés à sa nièce C._, que l'intimée a ajouté " moult détails " sur les abus sexuels qu'elle a subis, alors qu'elle n'en n'avait pas parlé lors de sa psychanalyse, qui avait duré deux ans. Ce raisonnement ne saurait être suivi. En effet, ce n'est pas parce que le médecin psychiatre de l'intimée n'a pas mentionné tous les détails dans l'attestation qu'il a adressée au Ministère public que les faits ne seraient pas exacts.
Le recourant reproche encore à l'instance précédente de ne pas avoir tenu compte de l'entier des déclarations de l'intimée ni de l'attestation de sa cousine, sans toutefois démontrer ce que l'instance précédente aurait arbitrairement omis.
En réalité, le recourant discute l'interprétation des différents éléments de preuve retenus par l'instance précédente, se contentant d'opposer sa propre appréciation de preuves à celle de l'instance précédente, sans pour autant démontrer l'arbitraire de celle-ci. Son argumentation est ainsi largement appellatoire et, en conséquence, irrecevable.
Au surplus, l'instance précédente a relevé que les prétentions civiles de A._ pourraient être prescrites. Elle a cependant rappelé que le recourant n'avait pas soulevé cette exception en première instance et que le juge ne pouvait pas suppléer d'office ce moyen (art. 142 CO). Le recourant ne discute pas la cause sous cet angle. Il n'y a pas lieu d'y revenir.
2.
Le recourant s'en prend à la fixation de la peine. Il estime que la réduction de la peine privative de liberté aurait dû être bien plus importante que quatre mois, dès lors qu'il avait été libéré de toute condamnation pour les faits qui se sont déroulés en République tchèque. En outre, le recourant considère que les montants des indemnités du tort moral qu'il a été condamné à verser, soit 8'000 fr. à C._ et 4'000 fr. à l'intimée constituent un élément indicateur pour la fixation de la peine.
2.1. Selon l'art. 47 CP, le juge fixe la peine d'après la culpabilité de l'auteur. La culpabilité doit être évaluée en fonction de tous les éléments objectifs pertinents, qui ont trait à l'acte lui-même, à savoir notamment la gravité de la lésion, le caractère répréhensible de l'acte et son mode d'exécution. Du point de vue subjectif sont pris en compte l'intensité de la volonté délictuelle ainsi que les motivations et les buts de l'auteur. A ces composantes de la culpabilité, il faut ajouter les facteurs liés à l'auteur lui-même, à savoir les antécédents, la réputation, la situation personnelle (état de santé, âge, obligations familiales, situation professionnelle, risque de récidive, etc.), la vulnérabilité face à la peine, de même que le comportement après l'acte et au cours de la procédure pénale (ATF 141 IV 61 consid. 6.1.1 pp. 66 s.; 136 IV 55 consid. 5 pp. 57 ss; 134 IV 17 consid. 2.1 pp. 19 s.; arrêt 6B_956/2016 du 19 juillet 2017 consid. 5.1).
L'art. 47 CP confère un large pouvoir d'appréciation au juge. Par conséquent, celui-ci ne viole le droit fédéral en fixant la peine que s'il sort du cadre légal, s'il se fonde sur des critères étrangers à l'art. 47 CP, s'il omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (ATF 136 IV 55 consid. 5.6 p. 61; arrêt 6B_316/2017 du 7 juin 2017 consid. 3). L'exercice de ce contrôle suppose que le juge exprime, dans sa décision, les éléments essentiels relatifs à l'acte ou à l'auteur qu'il prend en compte, de manière à ce que l'on puisse constater que tous les aspects pertinents ont été pris en considération et comment ils ont été appréciés, que ce soit dans un sens aggravant ou atténuant (art. 50 CP). Le juge peut passer sous silence les éléments qui, sans abus du pouvoir d'appréciation, lui apparaissent non pertinents ou d'une importance mineure. La motivation doit cependant justifier la peine prononcée, en permettant de suivre le raisonnement adopté, même si le juge n'est pas tenu d'exprimer en chiffres ou en pourcentages l'importance qu'il accorde à chacun des éléments qu'il cite (ATF 142 IV 265 consid. 2.4.3 p. 271; 136 IV 55 consid. 5.6 p. 61; 134 IV 17 consid. 2.1 pp. 19 s.). Un recours ne saurait toutefois être admis simplement pour améliorer ou compléter un considérant, lorsque la décision rendue apparaît conforme au droit (ATF 127 IV 101 consid. 2c p. 105 et les références citées; arrêt 6B_956/2016 du 19 juillet 2017 consid. 5.1).
2.2. En l'espèce, l'instance précédente a exposé de manière détaillée les éléments dont elle a tenu compte afin de fixer la peine. Elle a notamment relevé la lourdeur de la culpabilité du recourant quant aux crimes sexuels et pornographiques commis à l'encontre de sa petite-fille, son absence de scrupules, son défaut de prise de conscience et la non-expression de regrets. Elle a également tenu compte de la durée et de la fréquence des attouchements commis sur sa petite-fille, ainsi que l'intelligence du recourant et ses compétences, qu'il a mises à profit pour ruser et couvrir ses traces à la place d'utiliser ses facultés pour réaliser l'anormalité de ses pulsions et trouver le moyen, le cas échéant par un traitement médical, de les maîtriser. On ne saurait reprocher à l'instance précédente de ne pas avoir appréhendé les montants des indemnités dues à titre moral en tant qu'éléments permettant de fixer la peine, dès lors que ces éléments ne figurent pas parmi ceux énumérés à l'art. 47 CP.
2.3. En définitive, l'autorité précédente n'est pas sortie du cadre légal et il n'apparaît ni qu'elle se serait fondée sur des critères non pertinents ni qu'elle aurait omis des éléments pertinents. La peine infligée n'apparaît pas excessivement sévère. Le grief tiré de la violation de l'art. 47 CP doit ainsi être rejeté.
3.
Il résulte de ce qui précède que le recours doit être rejeté dans la mesure de sa recevabilité. Le recourant qui succombe devra supporter les frais (art. 66 LTF). Il n'y a pas lieu d'allouer d'indemnité à l'intimée, qui n'a pas été invitée à se déterminer devant le Tribunal fédéral.
Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 29 août 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Thalmann