Faits :
A.
Le 8 septembre 2010, X._ et A._ ont enregistré une conversation téléphonique avec B._, sans le consentement de ce dernier. Celui-ci a porté plainte contre les premiers nommés pour enregistrement non autorisé de conversations au sens de l'art. 179ter ch. 1 et 2 CP.
Par ordonnance pénale du 23 mars 2012, le Ministère public du canton de Fribourg a condamné X._ pour enregistrement non autorisé de conversations. Ce dernier a fait opposition. Saisi du dossier, le Juge de police du Tribunal d'arrondissement de la Sarine a retourné le dossier au ministère public en l'invitant à étendre la mise en prévention à la conservation de l'enregistrement. Lors de l'audience du ministère public du 25 avril 2013, X._ et B._ ont passé un arrangement dans le cadre duquel ce dernier a retiré sa plainte.
Le 10 janvier 2014, le ministère public a rendu une ordonnance de classement, mettant à la charge de X._ les frais de procédure par 445 fr. (dispositif, ch. 3) et refusant de lui octroyer une indemnité ou une réparation du tort moral (dispositif, ch. 4).
B.
Par arrêt du 9 juillet 2014, la Chambre pénale du Tribunal cantonal de l'Etat de Fribourg a rejeté le recours formé contre les chiffres 3 et 4 de l'ordonnance du 10 janvier 2014 par X._.
C.
Ce dernier forme un recours auprès du Tribunal fédéral contre cet arrêt. Il conclut à son annulation et à ce que les ch. 3 et 4 du dispositif de l'ordonnance du 10 janvier 2014 soient réformés en ce sens que les frais de procédure, par 445 fr., sont mis à la charge de l'Etat de Fribourg et une indemnité lui est accordée pour les dépenses occasionnées par la procédure. Il requiert l'octroi d'une indemnité pour les procédure de recours cantonale et fédérale et que les frais relatifs à ces procédures soient mis à la charge de l'Etat de Fribourg.

Considérant en droit :
1.
Le recourant invoque que la mise à sa charge des frais judiciaires de première instance viole les art. 426 al. 2 et 427 al. 3 CPP. En enregistrant une conversation sans l'accord de B._, le recourant a certes porté atteinte à la personnalité de ce dernier. Cette atteinte n'était toutefois pas illicite compte tenu de l'intérêt privé supérieur du recourant à ce que l'enregistrement soit effectué (<ref-law>) afin de faire innocenter son frère, accusé à tort par B._.
1.1. Aux termes de l'<ref-law>, si, comme en l'espèce, le plaignant retire sa plainte au cours d'une tentative de conciliation du ministère public, la Confédération ou le canton supporte en règle générale les frais de procédure.
L'<ref-law> régit les frais à la charge du prévenu et des parties de manière générale et non pas seulement comme semble l'indiquer son titre dans le cadre d'une procédure indépendante en matière de mesures. Dans le cas contraire, son alinéa 5 n'aurait aucun sens. L'<ref-law> prévoit que lorsque la procédure fait l'objet d'une ordonnance de classement ou que le prévenu est acquitté, tout ou partie des frais de procédure peuvent être mis à sa charge s'il a, de manière illicite et fautive, provoqué l'ouverture de la procédure ou rendu plus difficile la conduite de celle-ci.
Une mise à charge des frais selon l'<ref-law> exclut en principe le droit à une indemnisation (cf. <ref-ruling> consid. 2.4.2 p. 357).
1.2. En l'espèce, l'infraction pénale était punissable sur plainte uniquement (art. 179ter ch. 1 et 2 CP) et la plainte a été retirée. Celle-ci étant l'une des conditions d'exercice de l'action pénale, son retrait entraîne l'extinction de l'action pénale. Comme en cas d'acquittement, le prévenu ne peut alors être astreint au paiement des frais de procédure que s'il a provoqué l'ouverture de la poursuite pénale de manière fautive et illicite. En effet, la condamnation d'un prévenu acquitté à supporter tout ou partie des frais doit respecter la présomption d'innocence, consacrée par les art. 32 al. 1 Cst. et 6 par. 2 CEDH. Celle-ci interdit de rendre une décision défavorable au prévenu libéré en laissant entendre que ce dernier serait néanmoins coupable des infractions qui lui étaient reprochées. Une condamnation aux frais n'est ainsi admissible que si le prévenu a provoqué l'ouverture de la procédure pénale dirigée contre lui ou s'il en a entravé le cours. A cet égard, seul un comportement fautif et contraire à une règle juridique, qui soit en relation de causalité avec les frais imputés, entre en ligne de compte. Pour déterminer si le comportement en cause est propre à justifier l'imputation des frais ou le refus d'une indemnité, le juge peut prendre en considération toute norme de comportement écrite ou non écrite résultant de l'ordre juridique suisse pris dans son ensemble, dans le sens d'une application par analogie des principes découlant de l'<ref-law>. Le fait reproché doit constituer une violation claire de la norme de comportement (<ref-ruling> consid. 1b p. 334 et les références citées). Il doit en outre se trouver dans une relation de causalité adéquate avec l'ouverture de l'enquête ou les obstacles mis à celle-ci (<ref-ruling> consid. 2c p. 170 s.).
1.3. La condamnation d'un prévenu acquitté à supporter tout ou partie des frais peut en principe se fonder sur l'<ref-law> (arrêt 6B_150/2014 du 23 septembre 2014 consid. 1.2). Selon cette disposition, celui qui subit une atteinte illicite à sa personnalité peut agir en justice pour sa protection contre toute personne qui y participe (al. 1). Une atteinte est illicite, à moins qu'elle ne soit justifiée par le consentement de la victime, par un intérêt prépondérant privé ou public ou par la loi (al. 2). Le Tribunal fédéral revoit avec retenue le raisonnement de l'instance cantonale, qui dispose à cet égard d'un certain pouvoir d'appréciation (<ref-law>; cf. <ref-ruling> consid. 3a p. 212). Il n'intervient que si la décision s'écarte sans raison sérieuse des règles établies par la jurisprudence ou s'appuie sur des faits qui, en l'occurrence, ne devaient jouer aucun rôle ou encore ne tient, au contraire, pas compte d'éléments qui auraient absolument dû être pris en considération (<ref-ruling> consid. 4a p. 306 et les références citées).
1.4. L'autorité précédente a constaté que le recourant avait enregistré sa conversation téléphonique avec B._ sans le consentement de ce dernier, ce qui constituait une atteinte à sa personnalité. Elle a indiqué que le recourant avait allégué avoir agi de la sorte afin d'innocenter son frère que B._ avait selon lui accusé par vengeance. Elle a relevé que le recourant avait de la sorte partiellement contribué à l'acquittement de son frère. Elle a toutefois considéré que le recourant ne pouvait ignorer le caractère illicite de son acte et le fait que son comportement était propre à faire naître le soupçon d'une violation de l'<ref-law> et, partant, l'ouverture d'une enquête pénale. Elle a en outre jugé que ce but aurait pu être atteint de manière licite, par exemple en sollicitant auprès de l'autorité d'instruction son audition et celle du comparse qui avait participé à la conversation téléphonique litigieuse en tant que témoins ou en proposant à son frère de requérir ces témoignages. Ainsi, l'autorité précédente a estimé que le but recherché par le recourant était certes compréhensible, mais les moyens mis en oeuvre pour l'atteindre n'étaient pas proportionnés et ne justifiaient pas l'atteinte aux droits de la personnalité de B._. L'atteinte était ainsi illicite et fautive. Le lien de causalité entre le comportement du recourant et l'ouverture de l'enquête pénale était établi (arrêt attaqué, p. 5).
1.5. Le recourant ne remet pas en question l'atteinte portée par lui au droit de la personnalité de B._. Il estime toutefois que celle-ci n'était pas illicite dès lors qu'elle était justifiée par son intérêt prépondérant à tenter, grâce à l'enregistrement, d'innocenter son frère.
La vérification de la pesée des intérêts à laquelle a procédé sur ce point l'autorité cantonale impose de connaître ceux en présence. S'agissant de l'intérêt de B._ au respect de sa personnalité, il n'est dans son principe pas contesté par le recourant. On comprend néanmoins de l'arrêt attaqué que B._ a proféré des accusations fausses contre le frère du recourant. L'arrêt ne constate pour le surplus rien quant à la gravité de l'atteinte qui aurait été causée à B._ par l'enregistrement. Il ne ressort en particulier pas qu'il aurait pris des conclusions civiles contre le recourant. S'agissant de l'intérêt privé du recourant, l'autorité cantonale semble admettre que ce dernier a agi pour faire innocenter son frère. Elle retient également que l'enregistrement a "partiellement contribué à son acquittement". Pour le surplus, l'arrêt attaqué ne dit rien de la gravité des accusations portées par B._ et de la peine menaçant le frère du recourant. L'affirmation de l'autorité précédente que des auditions auraient pu être demandées, en lieu et place de l'enregistrement, afin de démontrer la fausseté des allégations de B._ n'est pas vérifiable dès lors que l'arrêt cantonal ne fournit aucun détail sur la procédure impliquant le frère, notamment quant au stade où elle se trouvait au moment de l'enregistrement. Etait-ce avant la clôture de l'enquête, alors que celle-ci pouvait cas échéant être aisément complétée par le ministère public, comme cela semble suggéré (arrêt attaqué, p. 3), ou après un premier jugement de condamnation alors qu'une pesée de tous les intérêts en présence par l'autorité de première instance n'avait pas suffi à écarter les accusations fausses ?
Dans ces circonstances, la cour de céans ne peut vérifier la correcte application de l'<ref-law> et dès lors de l'<ref-law>. L'état de fait s'avère lacunaire par rapport aux réquisits posés par l'<ref-law>. Il convient d'annuler l'arrêt attaqué en application de l'<ref-law> et de renvoyer la cause à l'autorité précédente pour qu'elle constate les faits pertinents et rende une nouvelle décision. Dans cette configuration, le Tribunal fédéral peut procéder au renvoi sans avoir préalablement ordonné un échange d'écritures (cf. <ref-ruling> consid. 3.4.2 p. 296).
Ce qui précède rend sans objet le grief d'arbitraire du recourant.
2.
Le recours doit être admis. L'Etat de Fribourg, qui succombe, est dispensé des frais judiciaires (<ref-law>). Il versera des dépens au recourant qui obtient gain de cause avec l'assistance d'un avocat (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle décision.
2.
Il est statué sans frais.
3.
L'Etat de Fribourg versera au recourant une indemnité de 2'000 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal de l'Etat de Fribourg, Chambre pénale.
Lausanne, le 24 avril 2015
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Cherpillod