Faits :
A.
Statuant le 14 avril 2016 sur opposition à une ordonnance pénale du 4 mai 2015, le Tribunal de police de l'arrondissement de la Broye a reconnu X._ coupable d'une violation simple des règles de la circulation routière et l'a condamné à 600 fr. d'amende, la peine privative de liberté de substitution étant de six jours.
B.
Par jugement du 30 juin 2016, la Cour d'appel pénale du Tribunal cantonal vaudois a rejeté le recours de l'intéressé. En résumé, elle a retenu les faits suivants:
B.a. X._, né en 1973 en France, travaille en Suisse pour la société A._ SA depuis 2003. Il vit en France. Son casier judiciaire fait état des condamnations suivantes:
- Le 22 janvier 2008, la Préfecture du district Jura-Nord vaudois d'Yverdon-les-bains l'a condamné à une peine pécuniaire de 10 jours-amende à 50 fr. assortie d'un sursis pour violation grave des règles de la circulation routière.
- Le 11 mai 2010, le Juge d'instruction du Nord Vaudois, Yverdon l'a condamné à une peine pécuniaire de 15 jours-amende à 60 fr. pour violation grave des règles de la circulation routière.
- Le 4 avril 2011, le Ministère public de l'arrondissement du Nord Vaudois l'a condamné à une peine pécuniaire de 25 jours-amende pour conduite sans permis de conduire ou malgré un retrait.
B.b. Le 17 mars 2015, à 17h50, alors qu'ils circulaient sur la semi-autoroute A9b en direction de B._ dans un véhicule de service banalisé, deux gardes-frontière ont croisé un véhicule, venant en sens inverse, de couleur blanche portant l'inscription " A._ SA ". Après avoir constaté que son conducteur avait ralenti à la hauteur de la jonction de C._, puis obliqué à gauche pour rejoindre la sortie et avait ainsi franchi la double ligne de sécurité, ils ont téléphoné au poste de B._ et informé leurs collègues qu'il fallait intercepter le véhicule en question. Une quinzaine de minutes plus tard, le véhicule Audi blanc marqué " A._ SA " de X._ a été intercepté à la douane par une garde-frontière.
Selon le rapport établi par les douaniers, X._ leur a indiqué qu'il rentrait du travail par l'Autoroute A9b en direction de la France et arrivait dans les embouteillages, qu'il avait effectué un demi-tour sur la semi-autoroute peu après D._ pour repartir en direction d'E._ puis avait franchi une seconde fois la double ligne de sécurité pour emprunter la sortie de C._ et rejoindre ainsi la route cantonale. Toutefois, au moment de quitter la douane, l'intéressé est revenu sur ses déclarations, contestant avoir franchi la double ligne de sécurité au niveau de la jonction de C._.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement de la Cour d'appel pénale du 30 juin 2016. Il conclut, avec suite de frais et dépens, principalement, à la réforme du jugement attaquéen ce sens qu'il est libéré de toute accusation, qu'un montant de 4'069 fr. 80 lui est octroyé, au titre d'indemnité pour la procédure de première instance, qu'une indemnité de 1'846 fr. 80 lui est octroyée pour la deuxième instance et que les frais de procédure sont mis à la charge du canton de Vaud. Subsidiairement, il conclut à l'annulation du jugement attaqué et au renvoi de la cause à la Cour d'appel pénale pour nouveau jugement.

Considérant en droit :
1.
Se plaignant d'une appréciation arbitraire des preuves et d'une violation du principe de la présomption d'innocence, le recourant conteste sa condamnation pour infraction simple à la LCR.
1.1. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il est lié par les constatations de fait de la décision entreprise (<ref-law>), sous les réserves découlant des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de l'arbitraire dans la constatation des faits (sur cette notion, <ref-ruling> consid. 3.4 p. 53 et les références citées; <ref-ruling> consid. 6.1 p. 205). Le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce moyen est invoqué et motivé par le recourant (<ref-law>), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée. Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 2.4 p. 368 et les références citées).
Lorsque le recours au Tribunal fédéral est dirigé contre une décision d'une autorité cantonale de dernière instance dont le pouvoir d'examen est, comme en l'espèce, limité à l'arbitraire en matière de constatation des faits (<ref-law>), l'examen du Tribunal fédéral porte concrètement sur l'arbitraire du jugement de l'autorité inférieure, à la lumière des griefs soulevés dans l'acte de recours. Pour se conformer aux exigences de motivation rappelées ci-dessus, le recourant doit exposer pourquoi l'autorité cantonale aurait à tort admis ou nié l'arbitraire dans l'appréciation des preuves faite par l'autorité de première instance. Le Tribunal fédéral se prononce librement sur cette question (arrêts 6B_322/2014 du 26 juin 2014 consid. 1.4; 6B_1247/2014 du 13 mars 2014 consid. 1.2; cf. <ref-ruling> consid. 1a/cc et 1b p. 495 et les arrêts cités).
1.2. La présomption d'innocence, garantie par les <ref-law>, 32 al. 1 Cst., 14 par. 2 Pacte ONU II et 6 par. 2 CEDH, ainsi que son corollaire, le principe « in dubio pro reo », concernent tant le fardeau de la preuve que l'appréciation des preuves (<ref-ruling> consid. 2a p. 40 s.). Lorsque, comme en l'espèce, l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe « in dubio pro reo », celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 7 p. 82).
1.3. En l'espèce, en tant que le recourant critique le jugement de première instance ou s'y réfère ou l'ordonnance pénale, son recours est irrecevable (cf. <ref-law>).
1.4. Le recourant reproche à l'instance précédente d'avoir arbitrairement retenu qu'il avait effectué un premier demi-tour Or, l'instance précédente n'a pas retenu ce fait comme établi. Si tel avait été le cas, le recourant aurait été condamné pour la commission de ce premier demi-tour. En réalité, le juge précédent reconnaît que le premier demi-tour n'a pas été constaté, mais qu'il constitue l'hypothèse la plus probable pour expliquer pourquoi le recourant circulait en direction d'E._ lorsque les gardes-frontière l'ont vu effectuer le deuxième demi-tour, lequel fait l'objet de l'infraction en cause. Quoi qu'il en soit, qu'il ait ou non effectué un premier demi-tour ne change rien au fait que deux gardes-frontière l'ont vu franchir une double ligne de sécurité, seul comportement qui lui est imputé. Le grief est infondé.
1.5. Le recourant reproche à l'autorité précédente d'avoir versé dans l'arbitraire en retenant que c'était lui qui était au volant du véhicule à bord duquel l'infraction a été commise.
Il se fonde sur une pièce, selon laquelle la société " A._ SA " disposerait de quatorze véhicules du même type que le sien et emploierait huit personnes qui vivraient dans la même région que lui. Cette pièce a été jugée à juste titre irrecevable par l'instance précédente. En effet, s'agissant d'une contravention, aucune nouvelle allégation ou nouvelle preuve ne pouvait être produite en appel (<ref-law>). En tout état de cause, les probabilités pour qu'un deuxième véhicule de la même société franchisse une double ligne de sécurité et se retrouve 15 minutes plus tard à la douane sont quasi nulles. En outre, au vu du signalement de leurs collègues, si un véhicule identique s'était retrouvé à la douane avant ou après les 15 minutes, les gardes-frontière auraient également interpellé le conducteur de la deuxième voiture Audi blanche portant l'inscription " A._ SA ". Or tel n'a manifestement pas le cas.
2.
Le recourant se plaint ensuite en substance d'une violation des art. 9 et 325CPP.
2.1. Le principe de l'accusation est posé à l'<ref-law>, mais découle aussi de l'art. 29 al. 2 Cst., de l'art. 32 al. 2 Cst. et de l'art. 6 ch. 1 et 3 let. a et b CEDH. Selon ce principe, l'acte d'accusation définit l'objet du procès (fonction de délimitation). Il doit décrire les infractions qui sont imputées au prévenu de façon suffisamment précise pour lui permettre d'apprécier, sur les plans subjectif et objectif, les reproches qui lui sont faits (cf. <ref-law>). Le tribunal est lié par l'état de fait décrit dans l'acte d'accusation, mais peut s'écarter de l'appréciation juridique qu'en fait le ministère public (<ref-law>), à condition d'en informer les parties présentes et de les inviter à se prononcer (<ref-law>). Il peut toutefois retenir dans son jugement des faits ou des circonstances complémentaires, lorsque ceux-ci sont secondaires et n'ont aucune influence sur l'appréciation juridique (arrêt 6B_947/2015 du 29 juin 2017 consid. 7.1).
La description des faits reprochés dans l'acte d'accusation doit être la plus brève possible (art. 325 al. 1 let. f CPP). Celui-ci ne poursuit pas le but de justifier ni de prouver le bien-fondé des allégations du ministère public, qui sont discutées lors des débats. Aussi le ministère public ne doit-il pas y faire mention des preuves ou des considérations tendant à corroborer les faits. Par ailleurs, il va de soi que le principe de l'accusation ne saurait empêcher l'autorité de jugement, au besoin, de constater des faits permettant de réfuter les contestations et allégations du prévenu, qu'il n'incombe pas au ministère public de décrire par le menu dans l'acte d'accusation (arrêt 6B_947/2015 précité consid. 7.1 et les références citées)
2.2. En l'espèce, le recourant reproche à l'autorité précédente d'avoir arbitrairement retenu qu'il aurait effectué deux demi-tours, alors que l'acte d'accusation n'en fait pas état. Il est vrai que l'acte d'accusation ne mentionne pas le premier demi-tour. Toutefois, le recourant n'a pas été reconnu coupable pour ce premier demi-tour mais uniquement pour avoir une fois franchi une double ligne de sécurité, comme cela est précisément décrit dans l'acte d'accusation. Le grief tiré de la violation du principe de l'accusation doit donc être rejeté.
3.
Le recourant succombe. Il supporte les frais de la procédure (art. 65 al. 2 et 66 al. 1 LTF). Il n'y a pas lieu d'allouer des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 24 août 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Thalmann