Faits :
A.
Le dimanche 6 juillet 2014, sur une route d'alpage valaisanne relativement étroite, X._, au volant de son véhicule, a été agacé par la lenteur du véhicule le précédant, conduit par A._. Malgré l'usage par X._ de son indicateur, d'un appel de phare et d'un coup de klaxon, A._ ne s'est pas rapidement mise de côté pour le laisser passer. Ayant finalement pu la dépasser et se sentant offusqué par un doigt d'honneur qu'elle lui aurait fait, X._ a stoppé son véhicule au milieu de la route. Il s'en est suivi une altercation musclée, les intéressés s'injuriant puis en venant aux mains. Un promeneur B._, ayant assisté à la scène, a vu X._ lever d'abord la main sur A._, puis la maintenir au sol, assis à cheval sur ses jambes, tout en lui assénant des coups de poing sur le haut du corps. B._ a finalement empoigné X._ par derrière, l'a relevé pour le retirer de sa posture et finalement le coucher sur le dos et le maîtriser.
A._ a déposé plainte le 7 juillet 2014 contre X._ pour voies de fait et injure. X._ a déposé une contre-plainte le 8 octobre 2014 contre A._ pour voies de fait, injure et diffamation.
B.
Par ordonnance du 4 mars 2015, le Ministère public de l'Office régional du Valais central a classé la procédure pénale ouverte sur plainte de A._ et la procédure pénale ouverte sur plainte de X._. Il a constaté le retrait des plaintes de A._ et de X._, respectivement la tardivité de la plainte de ce dernier. Le ministère public a mis les frais de procédure, par 400 fr., à charge de X._ et dit qu'aucune indemnité à titre de dépenses occasionnées par la procédure ni à titre de réparation pour tort moral n'était allouée.
C.
Par ordonnance du 24 août 2015, la Chambre pénale du Tribunal cantonal du canton du Valais a rejeté le recours formé par X._, qui conteste la mise des frais à sa charge, contre l'ordonnance du 4 mars 2015. Elle a mis les frais de la procédure de recours, par 800 fr., à charge de X._.
D.
X._ forme un recours en matière pénale auprès du Tribunal fédéral. Il requiert, avec suite de frais et dépens, l'annulation de l'ordonnance du 24 août 2015, la mise des frais de la procédure de première instance à la charge de l'Etat, subsidiairement le renvoi de la cause à l'autorité précédente pour nouvelle décision.

Considérant en droit :
1.
Nonobstant le recours rédigé en allemand, il n'y a aucune raison de déroger au principe énoncé à l'<ref-law>, selon lequel l'arrêt est rendu dans la langue de la décision attaquée.
2.
L'ordonnance du 4 mars 2015 n'est pas une décision prise par les autorités cantonales de dernière instance au sens de l'<ref-law>. Les griefs formulés à son encontre, en particulier un défaut de motivation, sont irrecevables.
3.
Le recourant reproche à l'autorité précédente de n'avoir pas examiné le grief formulé dans son recours cantonal selon lequel il s'était fondé sur les déclarations du ministère public. Il y voit une violation de son droit d'être entendu garanti par l'art. 29 al. 2 Cst.
En vertu de l'<ref-law>, le recours doit être motivé. Le recourant doit ainsi indiquer précisément les points de la décision qu'il attaque, les motifs qui commandent une autre décision et les moyens de preuves qu'il invoque (<ref-law>).
En l'espèce la seule allégation par le recourant qu'il s'était fié aux déclarations du ministère public ne répond pas à ces exigences. Le fait pour l'autorité précédente de ne pas avoir traité cette allégation ne viole pas le droit d'être entendu du recourant.
4.
Le recourant se plaint d'une constatation arbitraire des faits.
4.1. Le Tribunal fédéral est lié par les constatations de fait de la décision entreprise (<ref-law>), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. Il n'entre pas en matière sur les critiques de nature appellatoire. Il n'examine la violation de droits fondamentaux que si ce grief est invoqué et motivé par le recourant (<ref-law>), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée (<ref-ruling> consid. 1.3.1 p. 253).
4.2. Le recourant présente sa propre version des évènements survenus le 6 juillet 2014. Dès lors qu'il s'écarte de celle retenue par l'autorité précédente, en ne présentant qu'une argumentation purement appellatoire, celle-ci est irrecevable. Il ne saurait au demeurant reprocher à l'autorité précédente de ne pas avoir entendu, en plus du témoignage du promeneur B._, la passagère de son véhicule, dès lors qu'il n'invoque pas avoir requis cette mesure d'instruction devant l'autorité précédente.
4.3. Le recourant allègue que lors de l'audience du 5 février 2015, le ministère public aurait indiqué que si les parties plaignantes retiraient leur plainte respective l'entier des frais serait assumé par l'Etat du Valais. Il soutient que cette autorité lui aurait affirmé qu'il ne supporterait aucun frais. On comprend de son argumentation qu'il estime que de telles déclarations du ministère public valaient non seulement si un accord intervenait pendant l'audience de conciliation du 5 février 2015, mais également si les parties retiraient leur plainte après la clôture de celle-ci.
De telles assurances par le ministère public, pour la période postérieure à l'audience de conciliation, ne ressortent pas de l'arrêt attaqué. Le recourant invoque à l'appui de leur existence le courrier du 9 février 2015 de A._ par lequel elle retirait sa plainte. Que la partie plaignante exprime dans ce courrier son regret que les frais de procédure soient supportés par l'Etat du Valais et non par le recourant ne suffit pas à cet égard. Au demeurant, le recourant, dans l'un de ses courriers du 5 mars 2015 au ministère public, faisait référence à une promesse faite par cette autorité le 5 février 2015 de répartir les frais sur les deux parties. Une telle déclaration va à l'encontre de ce qu'évoque aujourd'hui le recourant. Dans son courrier du 10 mars 2015, le ministère public a en outre précisé que lors de la séance du 5 février 2015, il avait effectivement attiré l'attention des parties sur le fait que, conformément à ce qui était prévu par l'<ref-law>, en cas de conciliation, les frais étaient en principe supportés par l'Etat du Valais. Il avait ensuite noté que les parties n'avaient pas trouvé d'arrangement en séance puisque A._ avait souhaité disposer d'un délai pour réfléchir au sort à donner à sa plainte et qu'elle n'avait retiré celle-ci que le 9 février 2015.
Il résulte de ce qui précède que le recourant n'a pas établi que le ministère public aurait donné des assurances s'agissant du sort des frais en cas de retrait de plainte après la clôture de l'audience de conciliation. On ne saurait dès lors faire le reproche à l'autorité précédente de n'avoir pas constaté un tel engagement.
Pour le surplus, faute de toute motivation conforme à l'<ref-law>, on ne saurait retenir que l'autorité précédente aurait omis de constater que le recourant n'avait pris la décision de retirer sa plainte et de renoncer à une indemnité que sur la base des prétendues promesses données.
5.
Le recourant invoque les art. 5 al. 3 Cst. et 9 Cst. et le droit de chaque personne d'être traitée par les organes de l'Etat de manière conforme aux règles de la bonne foi et sans arbitraire.
Le recourant n'a pas saisi l'autorité précédente d'un tel moyen. Invoqué pour la première fois devant le Tribunal fédéral, le grief est irrecevable faute d'épuisement des voies de droit cantonales (<ref-law>). Au demeurant, fondé sur un fait ne résultant pas de l'ordonnance attaquée - les prétendues promesses formulées par le ministère public durant la séance du 5 février 2015 s'agissant du sort des frais en cas de retrait de plainte après dite séance - dont l'omission n'est pas arbitraire (cf. supra consid. 4.3), il est également irrecevable. Pour finir, le ministère public n'avait pas à informer le recourant que sa plainte formulée le 8 octobre 2014 pour des faits survenus le 6 juillet 2014 était tardive. Lui demander s'il souhaitait maintenir une telle plainte ne contrevient pas au principe de la bonne foi.
6.
Le recourant invoque une violation des <ref-law>, 32 al. 1 Cst. et 6 par. 2 CEDH.
6.1. Aux termes de l'<ref-law>, lorsque la procédure fait l'objet d'une ordonnance de classement ou que le prévenu est acquitté, tout ou partie des frais de procédure peuvent être mis à sa charge s'il a, de manière illicite et fautive, provoqué l'ouverture de la procédure ou rendu plus difficile la conduite de celle-ci. Quant aux art. 32 al. 1 Cst. et 6 par 2 CEDH, ils consacrent la présomption d'innocence. On peut se référer sur la portée de ces trois dispositions à la jurisprudence récente (cf. arrêt 6B_203/2015 du 16 mars 2016 consid. 1.1 et les arrêts cités).
6.2. Dès lors que le grief du recourant se fonde sur des faits qui s'écartent de ceux retenus par l'autorité précédente, sans que l'arbitraire de leur omission n'ait été établi (cf. supra consid. 4.2), il est irrecevable. Il en va en particulier de son argumentation qui consiste à soutenir que la procédure à son encontre n'aurait été ouverte que pour injure, alors que des voies de fait lui étaient également reprochées.
6.3. Pour le surplus, l'autorité précédente a constaté, sans arbitraire, que le recourant avait bloqué le véhicule de A._, puis l'avait invectivée grossièrement au risque de provoquer un échange verbal fielleux qui a dégénéré en pugilat, au cours duquel il a fait prévaloir sa supériorité physique au point d'inciter un tiers courageux à s'interposer. Elle a jugé, sans que cela prête flanc à la critique, qu'un tel comportement constituait une atteinte répétée et illicite à la personnalité de A._ au sens des <ref-law> et 41 CO. Un tel comportement fautif et contraire à une règle juridique, en relation de causalité avec les frais imputés par l'ouverture de la procédure initiée par la plainte de A._, permettait au juge de mettre les frais à la charge du recourant en vertu de l'<ref-law>. Une telle mise à charge, telle que motivée par l'autorité précédente, ne contrevient pas aux art. 32 al. 1 Cst et 6 par. 2 CEDH. Rien ne laisse au surplus penser que la plainte déposée par le recourant le 8 octobre 2015, après que les parties ont été convoquées à une audience de conciliation, ait causé des frais qui aient été mis à la charge du recourant, seule l'application de l'<ref-law> étant invoquée par l'autorité précédente.
7.
Il résulte de ce qui précède que le recours doit être rejeté dans la mesure où il est recevable, au frais du recourant (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Chambre pénale.
Lausanne, le 3 juin 2016
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Cherpillod