Faits : A. Par jugement du 16 novembre 2016, le Tribunal de police de l'arrondissement de La Côte a constaté que X._ s'était rendu coupable de vol. Il l'a condamné à une peine pécuniaire de 180 jours-amende à 100 fr. le jour avec sursis durant deux ans, ainsi qu'à une amende de 3'600 fr. et a renoncé à révoquer le sursis qui lui avait été accordé le 4 octobre 2012 par le Ministère public de l'arrondissement de La Côte. Ce jugement dit par ailleurs que X._ est débiteur de A.A._ et de B.A._ de la somme de 4'000 fr, à titre de dépens, et met les frais de procédure de 3'775 fr. à la charge de X._. B. Par jugement du 1er juin 2017, la Cour d'appel pénale du Tribunal cantonal vaudois a rejeté l'appel interjeté par X._ contre le jugement du 16 novembre 2016. La cour cantonale a retenu les faits suivants: X._ a été employé comme gestionnaire de patrimoine auprès de C._ SA du 1er novembre 2005 au 30 novembre 2013. Licencié en décembre 2012 par C._ SA, X._ n'est plus venu travailler dès le mois de février 2013 à la suite d'un arrêt pour cause de maladie. Le délai de congé a été prolongé à la suite de la présentation de certificats d'incapacité de travail. X._ est venu dans les locaux de la société à deux reprises au printemps 2013 pour apporter un certificat médical. Il est passé lors de la pause de midi, lorsque les bureaux étaient vides et qu'il n'y avait que la réceptionniste au siège de la société. Dans les locaux de C._ SA, entre le printemps 2013 et le début du mois de juillet 2013, X._ a dérobé les certificats au porteur n° 8 et 9 de cette société. Propriété de A.A._, ces certificats représentaient chacun 100 actions d'une valeur nominale de 1'000 fr., à hauteur de 20% du capital-actions. Ces titres avaient alors été sortis du coffre-fort de C._ SA et se trouvaient sur le bureau de B.A._, administrateur-président de la société et époux de A.A._. C. X._ forme un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 1er juin 2017. Il conclut, avec suite de frais et dépens, principalement, à l'annulation du jugement attaqué et à son acquittement. Il demande également à ce que la somme de 19'297 fr. 20 lui soit allouée, au titre d'indemnité pour les dépenses occasionnées par l'exercice raisonnable de ses droits de procédure et que les frais des procédures cantonales soient mis à la charge de A.A._ et B.A._. Subsidiairement, il conclut à l'annulation du jugement attaqué, à son acquittement et au renvoi de la cause à l'instance inférieure pour fixation des frais et indemnités liés aux procédures cantonales. Plus subsidiairement, il conclut à l'annulation du jugement attaqué et au renvoi de la cause à l'instance inférieure pour nouvelle décision.