Faits : A. Par ordonnance pénale du 22 juin 2015, le procureur de l'arrondissement de la Côte a reconnu X._ coupable des infractions d'usage abusif de permis et/ou de plaques de contrôle (art. 97 al. 1 let. a LCR), de contravention à la loi vaudoise sur la gestion des déchets (art. 36 LGD/VD; RSV 814.11) et de contravention à l'ordonnance sur les règles de la circulation routière (art. 96 OCR). Il l'a condamné à 20 jours-amende à 50 francs le jour avec sursis pendant deux ans et à une amende de 800 francs, convertible, en cas de non-paiement, en une peine privative de liberté de substitution de 16 jours. Il a mis les frais de la procédure par 400 francs à sa charge. A la suite de l'opposition de X._, le procureur a confirmé les infractions retenues et les 20 jours-amende, avec sursis pendant deux ans, mais a réduit le montant du jour-amende à 30 francs le jour et l'amende à 300 francs, convertible, en cas de non-paiement, en une peine privative de liberté de substitution de 10 jours. Il a également confirmé la mise à la charge de X._ des frais de la procédure par 400 francs. Par jugement du 12 avril 2016, le Tribunal de police de l'arrondissement de la Côte a reconnu X._ coupable d'usage abusif de permis et/ou de plaques de contrôle, de contravention à la loi vaudoise sur la gestion des déchets et de contravention à l'ordonnance sur les règles de la circulation routière. Il l'a condamné à une peine pécuniaire de 20 jours-amende à 20 francs le jour avec sursis pendant deux ans, ainsi qu'à une amende de 300 francs convertible, en cas de non-paiement, en 15 jours de peine privative de liberté de substitution. Il a mis les frais de justice par 800 francs à sa charge, le solde étant laissé à la charge de l'Etat. B. Après avoir signifié à X._ qu'elle envisageait de retenir à sa charge les art. 20 al. 1 OCR, 13 al. 1 LGD/VD et 17 RLGD/VD, la Cour d'appel pénale du Tribunal cantonal vaudois a, par jugement du 5 septembre 2016, admis partiellement l'appel de X._. Elle a réduit la peine pécuniaire à 10 jours-amende et l'amende à 150 francs, convertible, en cas de non-paiement, en une peine privative de liberté de substitution de deux jours. Pour le surplus, elle a confirmé le jugement du tribunal de police et a mis la moitié des frais de l'instance d'appel à la charge de X._. En substance, la cour cantonale a retenu que X._ avait stationné le véhicule de marque A._ à un endroit devant être considéré comme une route publique et que le véhicule en question était dépourvu de plaques de contrôle. De plus, elle a admis qu'il n'existait aucun permis de circulation valable pour le véhicule de marque A._ et qu'en conséquence on était en présence d'un véhicule hors d'usage dont le dépôt ou l'abandon est interdit sur l'ensemble du territoire cantonal. C. X._ interjette un recours en matière pénale contre ce jugement. Il demande, principalement, une diminution de la peine et une réduction de tous les frais fixés dans les décisions précédentes. Subsidiairement, il conclut à son acquittement de l'infraction aux art. 97 al. 1 LCR et 20 al. 1 OCR. Il demande également que la teneur et l'interprétation rigoriste des art. 13 al. 1 LGD/VD et 17 RLGD/VD soient considérées comme anticonstitutionnelles lorsque ceux-ci sont appliqués à un véhicule temporairement sans permis de circulation valide en raison de défauts mineurs.