Faits : A. Le 17 décembre 2012, X._ a déposé plainte pénale pour faux dans les titres et escroquerie contre A._. Il lui reprochait d'avoir produit de faux documents à l'appui d'un litige civil qui les opposait. Le 23 décembre 2009 en effet, A._ avait introduit action contre X._, lui réclamant le paiement de divers produits phytosanitaires livrés sur une période courant de février 2007 à avril 2008. Par Jugement du 25 janvier 2011, la Présidente du Tribunal civil a admis l'action et condamné X._ au paiement de 9'560 fr. avec intérêts à 5% dès le 24 avril 2009, l'opposition formée au commandement de payer étant définitivement levée. Dans sa plainte pénale, X._ soutenait que A._ avait déposé de faux documents à l'appui de sa réclamation pécuniaire afin de justifier que la somme de 4'275 fr. 80, réglée par X._ le 17 décembre 2007, n'avait pas été imputée sur les factures faisant l'objet de la contestation civile, mais sur d'autres commandes et factures. B. Par ordonnance du 29 août 2014, le Procureur de l'arrondissement du Nord Vaudois a ordonné le classement de la procédure pénale dirigée contre A._ pour escroquerie au procès et faux dans les titres, les frais de procédure étant laissés à la charge de l'Etat. C. Par arrêt du 28 octobre 2014, la Chambre des recours pénale du Tribunal cantonal du Canton de Vaud a rejeté le recours formé par X._ contre l'ordonnance précitée. D. X._ forme un recours en matière pénale auprès du Tribunal fédéral contre cet arrêt. Il conclut avec suite de frais et dépens, principalement à l'annulation de la procédure de classement et au renvoi du dossier au ministère public, subsidiairement à l'annulation de l'arrêt du 28 octobre 2014 et au renvoi de l'affaire à la Chambre des recours pénale pour nouvelle décision. Le Tribunal cantonal a été invité à produire son dossier sans échange d'écriture (art. 102 al. 2 LTF).