Faits : A. Statuant le 14 avril 2016 sur opposition à une ordonnance pénale du 4 mai 2015, le Tribunal de police de l'arrondissement de la Broye a reconnu X._ coupable d'une violation simple des règles de la circulation routière et l'a condamné à 600 fr. d'amende, la peine privative de liberté de substitution étant de six jours. B. Par jugement du 30 juin 2016, la Cour d'appel pénale du Tribunal cantonal vaudois a rejeté le recours de l'intéressé. En résumé, elle a retenu les faits suivants: B.a. X._, né en 1973 en France, travaille en Suisse pour la société A._ SA depuis 2003. Il vit en France. Son casier judiciaire fait état des condamnations suivantes: - Le 22 janvier 2008, la Préfecture du district Jura-Nord vaudois d'Yverdon-les-bains l'a condamné à une peine pécuniaire de 10 jours-amende à 50 fr. assortie d'un sursis pour violation grave des règles de la circulation routière. - Le 11 mai 2010, le Juge d'instruction du Nord Vaudois, Yverdon l'a condamné à une peine pécuniaire de 15 jours-amende à 60 fr. pour violation grave des règles de la circulation routière. - Le 4 avril 2011, le Ministère public de l'arrondissement du Nord Vaudois l'a condamné à une peine pécuniaire de 25 jours-amende pour conduite sans permis de conduire ou malgré un retrait. B.b. Le 17 mars 2015, à 17h50, alors qu'ils circulaient sur la semi-autoroute A9b en direction de B._ dans un véhicule de service banalisé, deux gardes-frontière ont croisé un véhicule, venant en sens inverse, de couleur blanche portant l'inscription " A._ SA ". Après avoir constaté que son conducteur avait ralenti à la hauteur de la jonction de C._, puis obliqué à gauche pour rejoindre la sortie et avait ainsi franchi la double ligne de sécurité, ils ont téléphoné au poste de B._ et informé leurs collègues qu'il fallait intercepter le véhicule en question. Une quinzaine de minutes plus tard, le véhicule Audi blanc marqué " A._ SA " de X._ a été intercepté à la douane par une garde-frontière. Selon le rapport établi par les douaniers, X._ leur a indiqué qu'il rentrait du travail par l'Autoroute A9b en direction de la France et arrivait dans les embouteillages, qu'il avait effectué un demi-tour sur la semi-autoroute peu après D._ pour repartir en direction d'E._ puis avait franchi une seconde fois la double ligne de sécurité pour emprunter la sortie de C._ et rejoindre ainsi la route cantonale. Toutefois, au moment de quitter la douane, l'intéressé est revenu sur ses déclarations, contestant avoir franchi la double ligne de sécurité au niveau de la jonction de C._. C. X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement de la Cour d'appel pénale du 30 juin 2016. Il conclut, avec suite de frais et dépens, principalement, à la réforme du jugement attaquéen ce sens qu'il est libéré de toute accusation, qu'un montant de 4'069 fr. 80 lui est octroyé, au titre d'indemnité pour la procédure de première instance, qu'une indemnité de 1'846 fr. 80 lui est octroyée pour la deuxième instance et que les frais de procédure sont mis à la charge du canton de Vaud. Subsidiairement, il conclut à l'annulation du jugement attaqué et au renvoi de la cause à la Cour d'appel pénale pour nouveau jugement.