Faits :
A.
Par jugement du 28 juin 2017, le Tribunal de police de l'arrondissement de Lausanne a constaté que X._ s'était rendu coupable de violation simple des règles de la circulation routière (<ref-law>). Il l'a condamné à une amende de 100 fr., la peine privative de liberté de substitution étant de 1 jour à défaut du paiement de l'amende.
B.
Par jugement du 12 octobre 2017, la Cour d'appel pénale du Tribunal cantonal du canton de Vaud a rejeté l'appel de X._. Ce jugement retient que le 26 août 2016 à A._, au volant de son véhicule, X._ a effectué un dépassement alors qu'il n'avait pas la distance nécessaire, ni la visibilité adéquate pour le réaliser.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement du 12 octobre 2017. Il conclut, avec suite de frais et dépens, à sa réforme en ce sens qu'il est acquitté et qu'une indemnité de 6'775 fr. lui est accordée conformément à l'<ref-law>. A titre subsidiaire, il requiert l'annulation du jugement attaqué et le renvoi de la cause à l'autorité précédente pour nouveau jugement.

Considérant en droit :
1.
Le recourant invoque l'arbitraire dans l'appréciation des preuves (art. 9 Cst.) et la violation de la présomption d'innocence (art. 32 al. 1 Cst., 6 par. 2 CEDH et 10 al. 1 CPP). Il soutient que les éléments de preuve versés au dossier ne permettent pas d'établir les circonstances de la manoeuvre litigieuse sur le plan objectif et il reproche à l'autorité précédente d'avoir conféré une force probante accrue au rapport de police.
1.1. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il est lié par les constatations de fait de la décision entreprise (<ref-law>), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, à savoir, pour l'essentiel, de façon arbitraire au sens de l'art. 9 Cst. Une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable et cela non seulement dans sa motivation mais aussi dans son résultat (<ref-ruling> consid. 2.3.1 p. 244). La présomption d'innocence, garantie par les <ref-law>, 32 al. 1 Cst., 14 par. 2 Pacte ONU II et 6 par. 2 CEDH, ainsi que son corollaire, le principe "in dubio pro reo", concernent tant le fardeau de la preuve que l'appréciation des preuves (<ref-ruling> consid. 2a p. 40 s.). Lorsque, comme en l'espèce, l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe "in dubio pro reo", celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 7 p. 82).
Le recours est dirigé contre une décision d'une autorité cantonale dont le pouvoir d'examen est limité à l'arbitraire en matière de constatations des faits (<ref-law>). Quoi qu'il en soit, le principe de l'appréciation libre des preuves interdit d'attribuer d'entrée de cause une force probante accrue à certains moyens de preuve, comme des rapports de police (arrêts 6B_146/2016 du 22 août 2016 consid. 4.1; 6B_353/2015 du 14 décembre 2015 consid. 2). On ne saurait toutefois dénier d'emblée toute force probante à un tel document. Celui-ci est en effet, par sa nature, destiné et propre à servir de moyen de preuve, dans la mesure où le policier y reproduit des faits qu'il a constatés et où il est fréquent que l'on se fonde, dans les procédures judiciaires, sur les constatations ainsi transcrites (arrêts 6B_753/2016 du 24 mars 2017 consid. 1.2; 6B_750/2010 du 5 mai 2011 consid. 2.2).
1.2. Le rapport de police établi le 26 août 2016 a la teneur suivante: " [...] Au jour et à l'heure précitée, alors que nous circulions sur la rue B._ à A._ en direction de C._, notre attention a été attirée par la voiture immatriculée xxx xxx. En effet, ce véhicule qui circulait incorporé dans une file de véhicules et dans le sens opposé au nôtre est, à un moment donné, sorti de ladite file pour effectuer un dépassement. Dès lors, le véhicule qui nous o ccupe s'es t retrouvé face à nous. Nous avons dû freiner pour éviter la collision. Sans nous mettre directement en danger, nous avons tout de même constaté que le conducteur qui nous occupe n'avait pas la distance nécessaire ni la visi bilité adéquate pour ef fectuer ledit dépassement. [...]". Lors de son audition, l'agent verbalisateur a confirmé la teneur de son rapport, précisant que sans un freinage énergique, la collision aurait eu lieu (procès-verbal d'audition du 16 février 2017).
Le recourant a expliqué devant le juge de première instance qu'il circulait derrière un fourgon, qui roulait très lentement, soit environ 30 km/h. Il avait déboité entre deux passages de sécurité, dès qu'il en avait eu la possibilité. Il s'était rabattu dès que possible, la manoeuvre de dépassement n'ayant pas pris plus de cinquante mètres. Il avait aperçu le véhicule de police en finissant son dépassement. Il se trouvait à une cinquantaine de mètres de lui. Au moment de son dépassement, il n'y avait aucun véhicule en face (jugement de première instance du 28 juin 2017, p. 3).
1.3. La cour cantonale a considéré qu'il n'existait aucune raison de mettre en doute le rapport rédigé par un agent public assermenté, aucun élément ne permettant d'affecter sa crédibilité. On voyait difficilement que les deux policiers se trouvant dans le véhicule de police puissent parler d'une distance insuffisante alors que celle-ci n'aurait pu être observée de manière claire. De plus, ces policiers n'avaient aucun intérêt à l'issue de la procédure. En outre, leurs observations ne comportaient aucune incertitude sur les éléments pertinents de la cause. Enfin, s'agissant de conducteurs expérimentés, il n'y avait aucune subjectivité à considérer devoir freiner énergiquement pour éviter une collision.
1.4. Il n'est permis d'exécuter un dépassement ou de contourner un obstacle que si l'espace nécessaire est libre et bien visible et que si les usagers de la route venant en sens inverse ne sont pas gênés par la manoeuvre. Dans la circulation à la file, seul peut effectuer un dépassement celui qui a la certitude de pouvoir reprendre place assez tôt dans la file des véhicules sans entraver leur circulation (<ref-law>). Selon le recourant, le rapport de police ne permet pas de déterminer si sa manoeuvre était propre à gêner les usagers de la route, faute d'établir les conditions objectives du trafic, à savoir, en particulier, la vitesse et le positionnement des véhicules impliqués.
1.4.1. Le rapport en question relate que le véhicule du recourant a entamé une manoeuvre de dépassement alors qu'il circulait dans une file de véhicules et que les agents de police circulant en sens inverse avaient dû freiner pour éviter une collision. L'observation des policiers porte ainsi sur l'ensemble de la manoeuvre de dépassement effectuée par le recourant. Celui-ci a déclaré qu'il n'avait pas vu de véhicule arriver en face de lui lorsqu'il a entrepris son dépassement, alors que la police avait pour sa part pu observer sa manoeuvre. Il n'était pas arbitraire d'en déduire que le recourant n'avait pas été en mesure d'apprécier correctement la distance qui lui était nécessaire, faute de visibilité suffisante. En outre, le fait que les agents de police ont été contraints de freiner énergiquement pour éviter une collision constitue un élément concret attestant que la manoeuvre du recourant a entravé la circulation venant en sens inverse. Ainsi, contrairement à ce qu'affirme le recourant, le rapport de police ne se limite pas à retranscrire l'appréciation subjective des agents de police. Ajouté aux déclarations des intéressés, il permet de reconstituer les faits de manière claire et cohérente. On ne saurait, dès lors, faire grief à la cour cantonale de s'être fondée sur des moyens de preuve qui ne permettaient pas suffisamment d'établir si le conducteur pouvait penser, au vu des conditions objectives du trafic, qu'il ne gênait pas ceux qui venaient à sa rencontre. Au surplus, le recourant n'expose aucun élément qui permettrait de douter de la crédibilité des agents de police.
1.4.2. Il s'ensuit que l'autorité précédente n'a pas accordé à la version des faits présentée par les deux policiers et verbalisée dans le rapport de police une force probante qui porterait atteinte à la présomption d'innocence. Sur la base du dossier, la cour cantonale pouvait, sans tomber dans l'arbitraire, considérer que l'appréciation objective de l'ensemble des éléments de preuve ne laissait pas subsister un doute sérieux quant à la culpabilité du recourant. Il n'était par conséquent pas nécessaire, comme le soutient ce dernier, d'administrer des mesures d'instruction complémentaires. Le grief est rejeté.
2.
Compte tenu de ce qui précède, le recourant ne peut prétendre à l'octroi d'une indemnité au sens de l'<ref-law>.
3.
Le recours est rejeté. Le recourant, qui succombe, supporte les frais judiciaires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 3000 francs, sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 17 mai 2018
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Musy