Faits : A. Par ordonnance du 28 février 2014, le Ministère public du canton de Fribourg a classé la procédure ouverte contre X._ pour infraction à la LStup. Cette autorité a mis les frais de procédure par 1'203 fr. 55 à la charge de X._ et lui a refusé l'octroi d'une indemnité pour ses frais de défense ou pour tort moral. B. Par arrêt du 13 juin 2014, la Chambre pénale du Tribunal cantonal de l'Etat de Fribourg a rejeté le recours formé contre cette ordonnance par X._. C. Ce dernier forme un recours en matière pénale auprès du Tribunal fédéral contre cet arrêt. Il requiert, avec suite de frais et dépens, l'annulation de cette décision, la mise des frais de première instance à la charge de l'Etat, l'octroi en sa faveur d'une indemnité de 4'500 fr. pour les dépenses occasionnées dans le cadre de l'enquête pénale par l'exercice de ses droits de procédure, ainsi que d'une indemnité de 1'522 fr. 80 pour la procédure de recours.