Faits :
A.
A Montreux, le 31 mai 2012 vers 01h50, X._, au volant de son véhicule automobile, a été interpellé par une patrouille de police dont l'attention avait été attirée par le fait qu'il était d'abord arrêté sur la voie de circulation puis avait pris la route avec peine. Celui-ci ne portait pas la ceinture de sécurité et son état physique était sujet à caution. La police a tenté de le soumettre à un test à l'éthylomètre, en vain, de sorte qu'il a été acheminé à l'hôpital pour être soumis à une prise de sang. Celle-ci n'a pas pu être effectuée.
A.a. Par ordonnance pénale du 13 août 2012, le Ministère public de l'arrondissement de l'Est vaudois a condamné X._ à une peine pécuniaire de 90 jours-amende à 90 fr., pour opposition à une mesure visant à déterminer l'incapacité de conduire (<ref-law>) et contravention à l'ordonnance sur les règles de la circulation routière (art. 3a al. 1 OCR; port de la ceinture de sécurité), et a révoqué le sursis accordé le 10 octobre 2011 par le Tribunal régional de Bern-Mittelland.
A.b. Le prévenu a formé opposition à cette ordonnance pénale le 18 août 2012.
Il a ensuite été mis en cause pour avoir, le 28 octobre 2012, vers 18h35, à Crassier, circulé au volant de son véhicule automobile en état d'ébriété (alcoolémie qualifiée de 0.93 g o/oo) et sans être porteur de son permis de conduire.
Après avoir joint les deux causes, le Ministère public a maintenu son ordonnance du 13 août 2012, a dressé un acte d'accusation englobant les deux cas et a renvoyé le prévenu en jugement.
A.c. Par jugement du 13 novembre 2013, le Tribunal de police de l'arrondissement de l'Est vaudois a, s'agissant des événements du 31 mai 2012, libéré X._ du chef d'infraction d'opposition à une mesure visant à déterminer l'incapacité de conduire (<ref-law>) et a constaté qu'il s'était rendu coupable d'infraction à l'art. 3a al. 1 OCR (port de la ceinture de sécurité). En lien avec l'événement du 28 octobre 2012, le Tribunal l'a reconnu coupable de conduite en état d'ébriété qualifié et infraction à la loi fédérale sur la circulation routière (<ref-law>; port du permis de conduire). Il l'a condamné à une peine pécuniaire de 60 jours-amende à 90 fr., avec sursis et à une amende de 900 francs. Il a révoqué le sursis accordé le 10 octobre 2011 et a ordonné l'exécution de la peine de 50 jours-amende à 90 fr. prononcée par le Tribunal régional de Bern-Mittelland. Une partie des frais de la cause était à la charge du prévenu, le solde étant laissé à la charge de l'Etat. Le Tribunal a refusé qu'une indemnité au titre de l'<ref-law> soit allouée au prévenu.
L'acquittement du chef d'opposition à une mesure visant à déterminer l'incapacité de conduire se justifiait du fait que le prévenu n'avait pas refusé d'être amené par la police à l'hôpital pour y subir une prise de sang et n'avait pas non plus refusé le principe de cette dernière mais s'était simplement opposé à la manière d'y procéder (sur la main plutôt qu'au pli du coude), pour des raisons pertinentes. Le personnel hospitalier ne lui avait pas proposé d'alternative et s'était contenté d'abandonner la procédure. Rien n'indiquait qu'on lui eut proposé une seconde fois de procéder à un prélèvement.
B.
Statuant sur appel du prévenu portant uniquement sur la question de l'indemnité au sens de l'<ref-law>, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a confirmé le refus d'indemnisation au sens de l'<ref-law>, par jugement du 20 janvier 2014.
C.
X._ forme un recours en matière pénale contre la décision cantonale et conclut, avec suite de frais et dépens, à sa réforme en ce sens qu'une indemnité au titre de l'<ref-law> lui soit allouée à hauteur de 14'404 francs. Subsidiairement, il conclut au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants.
Invités à se déterminer sur le recours, la cour cantonale y renonce en se référant aux considérants de sa décision et le Ministère public conclut, à titre principal, au rejet du recours. Subsidiairement, dans l'hypothèse où une indemnité devait être allouée au recourant, le Ministère public suggère que celle-ci soit fondée sur un nombre d'heures de travail réduit à un tarif horaire maximal de 350 fr.

Considérant en droit :
1.
Le recourant invoque notamment une violation des art. 429 al. 1 let. a et 430 al. 1 let. a CPP fondée sur le refus de lui allouer une indemnité pour l'exercice raisonnable de ses droits de procédure. La voie du recours en matière pénale est par conséquent ouverte (<ref-ruling> consid. 1.1.1 p. 45 s.).
2.
2.1. Le recourant n'a pas bénéficié de l'assistance judiciaire sur le plan cantonal, de sorte qu'une indemnité selon l'<ref-law> réservée à un avocat de choix est susceptible d'entrer en considération (cf. <ref-ruling>).
2.2. Selon l'<ref-law>, le prévenu a droit à une indemnité pour les dépenses occasionnées par l'exercice raisonnable de ses droits de procédure s'il est acquitté totalement ou en partie. L'autorité pénale peut réduire ou refuser l'indemnité lorsque le prévenu a provoqué illicitement et fautivement l'ouverture de la procédure ou a rendu plus difficile la conduite de celle-ci (<ref-law>).
Il n'y a pas lieu d'envisager une indemnisation du prévenu en cas de condamnation aux frais, l'obligation de supporter les frais et l'allocation d'une indemnité s'excluant réciproquement (<ref-ruling> consid. 2.4.2). En cas de classement partiel ou d'acquittement partiel, le principe doit être relativisé. Si le prévenu est libéré d'un chef d'accusation et condamné pour un autre, il sera condamné aux frais relatifs à sa condamnation et aura respectivement droit à une indemnité correspondant à son acquittement partiel (cf. Message relatif à l'unification du droit de la procédure pénale du 21 décembre 2005, FF 2006 1313 ad <ref-law> [actuel <ref-law>]; arrêt 6B_300/2012 du 10 juin 2013 consid. 2.4). De la même manière que la condamnation aux frais n'exclut pas automatiquement l'indemnisation du prévenu partiellement acquitté, l'acquittement partiel n'induit pas d'office l'octroi d'une indemnisation. Celle-ci présuppose qu'aucun comportement illicite et fautif ne puisse être reproché au prévenu relativement aux agissements ayant donné lieu au classement ou à l'acquittement partiel (cf. <ref-law> a contrario; arrêt 6B_300/2012 du 10 juin 2013 consid. 2.4).
Selon la jurisprudence, la condamnation d'un prévenu acquitté à supporter tout ou partie des frais, respectivement le refus de lui allouer une indemnisation à raison du préjudice subi par la procédure pénale, doit respecter la présomption d'innocence consacrée par les <ref-law>, 32 al. 1 Cst. et 6 par. 2 CEDH. Celle-ci interdit de rendre une décision défavorable au prévenu libéré en laissant entendre que ce dernier serait néanmoins coupable des infractions qui lui étaient reprochées (cf. arrêts 6B_300/2012 du 10 juin 2013 consid. 2.4; 6B_77/2013 du 4 mars 2013 consid. 2.5.2). Une condamnation aux frais, respectivement un refus d'indemnisation, n'est ainsi admissible que si le prévenu a provoqué l'ouverture de la procédure pénale dirigée contre lui ou s'il en a entravé le cours. A cet égard, seul un comportement fautif et contraire à une règle juridique entre en ligne de compte (<ref-ruling> consid. 1b p. 334; <ref-ruling> consid. 2c p. 168; arrêt 6B_331/2012 du 22 octobre 2012 consid. 2.3).
2.3. La cour cantonale a refusé toute indemnité en retenant que le recourant avait provoqué illicitement et fautivement l'ouverture de la procédure pénale à son encontre au sens de l'<ref-law>, puisqu'il était indubitablement pris de boisson lorsqu'il a conduit la nuit des faits du 31 mai 2012, comme cela ressortait du rapport de police.
2.4. Le recourant allègue à juste titre que la présomption d'innocence empêche de retenir à sa charge une infraction qui n'a pas été établie et qu'il conteste, pour lui refuser l'indemnité réclamée (cf. <ref-law>).
En effet, dans la mesure où il est interdit de rendre une décision défavorable au prévenu libéré en laissant entendre que ce dernier serait néanmoins coupable des infractions qui lui étaient reprochées, cette interdiction s'étend a fortiori à des infractions ne figurant pas dans l'acte d'accusation et n'ayant fait l'objet d'aucun acte d'instruction (cf. <ref-ruling> consid. 2a p. 21, sur le principe de l'accusation, qui implique que le prévenu connaisse exactement les faits qui lui sont imputés). Par ailleurs, il n'est pas admissible de rendre une décision dont le texte révèle un comportement répréhensible pénalement, même de manière implicite (cf. Thomas Domeisen in: Basler Kommentar, Schweizerische Strafprozessordnung, 2011, n° 29 ad <ref-law>).
Aussi, le raisonnement cantonal, à teneur duquel le recourant ne pouvait se voir octroyer d'indemnité pour ses frais de défense car il était indubitablement pris de boisson lorsqu'il était au volant de son véhicule automobile le 31 mai 2012, n'est pas compatible avec les principes développés supraen lien avec la présomption d'innocence, puisqu'il révèle implicitement que le prévenu s'est rendu coupable de conduite en état d'ébriété (cf. <ref-law>).
Cela étant, si son comportement a donné lieu à l'ouverture d'une information en raison des signes d'ébriété qu'il présentait, la procédure a porté sur l'infraction d'opposition à une mesure visant à déterminer l'incapacité de conduire (<ref-law>) et la cour cantonale ne démontre à cet égard, d'aucune manière, dans quelle mesure il aurait adopté un comportement fautif au sens de l'<ref-law> en lien avec cette infraction, qui aurait rendu plus difficile la conduite de la procédure.
2.5. Au vu de ce qui précède, le recours doit être admis, le jugement entrepris annulé, et la cause renvoyée à l'autorité cantonale afin qu'elle fixe le montant de l'indemnité en application du large pouvoir d'appréciation dont elle dispose en cette matière et en tenant compte de la répartition des frais (cf. arrêt 6B_439/2013 du 19 juillet 2013 consid. 2.2 et les références citées).
2.6. Le recourant, qui obtient gain de cause, ne supporte pas de frais (<ref-law>). Il peut prétendre à des dépens à la charge du canton de Vaud pour la procédure devant le Tribunal fédéral (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, le jugement attaqué est annulé et la cause est renvoyée à l'autorité cantonale afin qu'elle rende une nouvelle décision.
2.
Il n'est pas perçu de frais judiciaires.
3.
Une indemnité de 3'000 fr., à verser au recourant à titre de dépens, est mise à la charge du canton de Vaud.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 18 septembre 2014
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Mathys
La Greffière: Boëton