Faits : A. Le 8 septembre 2010, X._ et A._ ont enregistré une conversation téléphonique avec B._, sans le consentement de ce dernier. Celui-ci a porté plainte contre les premiers nommés pour enregistrement non autorisé de conversations au sens de l'art. 179ter ch. 1 et 2 CP. Par ordonnance pénale du 23 mars 2012, le Ministère public du canton de Fribourg a condamné X._ pour enregistrement non autorisé de conversations. Ce dernier a fait opposition. Saisi du dossier, le Juge de police du Tribunal d'arrondissement de la Sarine a retourné le dossier au ministère public en l'invitant à étendre la mise en prévention à la conservation de l'enregistrement. Lors de l'audience du ministère public du 25 avril 2013, X._ et B._ ont passé un arrangement dans le cadre duquel ce dernier a retiré sa plainte. Le 10 janvier 2014, le ministère public a rendu une ordonnance de classement, mettant à la charge de X._ les frais de procédure par 445 fr. (dispositif, ch. 3) et refusant de lui octroyer une indemnité ou une réparation du tort moral (dispositif, ch. 4). B. Par arrêt du 9 juillet 2014, la Chambre pénale du Tribunal cantonal de l'Etat de Fribourg a rejeté le recours formé contre les chiffres 3 et 4 de l'ordonnance du 10 janvier 2014 par X._. C. Ce dernier forme un recours auprès du Tribunal fédéral contre cet arrêt. Il conclut à son annulation et à ce que les ch. 3 et 4 du dispositif de l'ordonnance du 10 janvier 2014 soient réformés en ce sens que les frais de procédure, par 445 fr., sont mis à la charge de l'Etat de Fribourg et une indemnité lui est accordée pour les dépenses occasionnées par la procédure. Il requiert l'octroi d'une indemnité pour les procédure de recours cantonale et fédérale et que les frais relatifs à ces procédures soient mis à la charge de l'Etat de Fribourg.