Faits :
A.
Par ordonnance du 5 août 2013, le Ministère public du canton du Valais a refusé d'entrer en matière sur la plainte de X._ à l'encontre notamment de Y._, agent à la police cantonale, en relation avec une intervention de la force publique le 18 janvier 2013.
Par ordonnance du 28 août 2013, la Chambre pénale du Tribunal cantonal du canton du Valais a déclaré irrecevable, car tardif, le recours de X._.
B.
Par ordonnance du 13 septembre 2013, le ministère public a rejeté la requête en révision et/ou rectification déposée par X._ le 3 septembre 2013.
Par ordonnance du 24 mars 2014, la Chambre pénale du Tribunal cantonal valaisan a rejeté le recours de X._.
C.
Celui-ci forme un recours en matière pénale au Tribunal fédéral contre l'ordonnance du 24 mars 2014, concluant, avec suite de frais, à son annulation. Il sollicite par ailleurs l'assistance judiciaire.
Le 6 juin 2014, il a déposé une écriture complémentaire.

Considérant en droit :
1.
Déposée hors du délai de recours (<ref-law>), l'écriture complémentaire est irrecevable.
2.
2.1. Selon l'art. 81 al. 1 let. a et b ch. 5 LTF, la partie plaignante qui a participé à la procédure de dernière instance cantonale est habilitée à recourir au Tribunal fédéral, si la décision attaquée peut avoir des effets sur le jugement de ses prétentions civiles. Constituent de telles prétentions celles qui sont fondées sur le droit civil et doivent en conséquence être déduites ordinairement devant les tribunaux civils. Il s'agit principalement des prétentions en réparation du dommage et du tort moral au sens des <ref-law>. Selon l'<ref-law>, il incombe au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir (<ref-ruling> consid. 1.2 p. 539; <ref-ruling> consid. 1 p. 356). Lorsque le recours est dirigé contre une décision de non-entrée en matière ou de classement de l'action pénale, la partie plaignante n'a pas nécessairement déjà pris des conclusions civiles (<ref-ruling> consid. 1.3.1 p. 248). Quand bien même la partie plaignante aurait déjà déclaré des conclusions civiles (cf. <ref-law>), il n'en reste pas moins que le procureur qui refuse d'entrer en matière ou prononce un classement n'a pas à statuer sur l'aspect civil (cf. <ref-law>). Dans tous les cas, il incombe par conséquent à la partie plaignante d'expliquer dans son mémoire au Tribunal fédéral quelles prétentions civiles elle entend faire valoir contre l'intimé. Comme il n'appartient pas à la partie plaignante de se substituer au ministère public ou d'assouvir une soif de vengeance, la jurisprudence entend se montrer restrictive et stricte. Le Tribunal fédéral n'entre en matière que s'il ressort de façon suffisamment précise de la motivation du recours que les conditions précitées sont réalisées, à moins que l'on puisse le déduire directement et sans ambiguïté compte tenu notamment de la nature de l'infraction alléguée (<ref-ruling> consid. 1.4.1 p. 189; <ref-ruling> consid. 2.4 p. 222 s.). Les considérations qui précèdent valent aussi lorsque, comme en l'espèce, la décision attaquée constitue un refus de reprise de la procédure préliminaire (cf. <ref-law>).
2.2. Le recourant n'expose pas quelles prétentions civiles il entend faire valoir. Les reproches qu'il formule dans sa plainte pénale sont dirigés contre une intervention policière. La loi valaisanne du 10 mai 1978 sur la responsabilité des collectivités publiques et de leurs agents (RS/VS 170.1) prévoit une responsabilité primaire et exclusive de la collectivité publique (cf. art. 4 et 5 de la loi). Le recourant dispose ainsi uniquement d'une prétention de droit public contre l'Etat. A l'encontre des auteurs présumés, il n'est titulaire d'aucune prétentions civiles au sens de l'<ref-law> et ne peut ainsi fonder sa qualité pour recourir sur cette disposition (cf. <ref-ruling> consid. 3.1 p. 88; arrêt 6B_900/2013 du 11 novembre 2013 consid. 1.1 s.).
2.3. Nonobstant l'absence de possibilité de prise de conclusions civiles contre un agent public, la jurisprudence reconnaît aux personnes qui se prétendent victimes de traitements inhumains et dégradants au sens notamment des art. 10 al. 3 Cst. et 3 CEDH un droit de recourir (cf. <ref-ruling> consid. 3.1.1 p. 88). Pour tomber sous le coup de ces dispositions, un mauvais traitement doit en principe être intentionnel et atteindre un minimum de gravité (cf. arrêt 6B_474/2013 du 23 août 2013 consid. 1. 4).
En l'occurrence, le recourant ne fournit aucune explication pour fonder sa qualité pour recourir sur la jurisprudence précitée. Son mémoire est insuffisant au regard de l'<ref-law>. Quoi qu'il en soit, les reproches que le recourant formule à l'encontre de l'intervention policière ont trait à des vices de procédure ou à des atteintes à l'honneur (cf. ordonnance attaquée p. 3). Aucun élément ne permet de supposer une atteinte suffisante propre à constituer un traitement inhumain ou dégradant. La qualité pour recourir ne saurait donc reposer sur cette base.
2.4. Il résulte de ce qui précède que le recourant ne dispose pas de la qualité pour recourir sur le fond. Les critiques qu'il formule contre le refus de reprise de la procédure préliminaire sont ainsi irrecevables.
2.5. Indépendamment des conditions posées par l'<ref-law>, la partie plaignante est aussi habilitée à se plaindre d'une violation de ses droits de partie équivalant à un déni de justice formel, sans toutefois pouvoir faire valoir par ce biais, même indirectement, des moyens qui ne peuvent être séparés du fond (cf. <ref-ruling> consid. 1.9 p. 40 et les références citées).
Le recourant se plaint d'une violation de son droit d'être entendu en raison d'une motivation insuffisante. La motivation due ne porte que sur l'objet du litige, en l'espèce les mérites de la requête en révision et/ou rectification. Le recourant ne soutient pas que cette motivation serait incomplète, s'en prenant au contraire à la décision de non-entrée en matière rendue par le ministère public le 5 août 2013. Son grief est irrecevable.
Le recourant invoque de manière peu intelligible son droit à un avocat de la première heure, une absence de notification et une restitution de délai. L'autorité précédente a appréhendé la demande du recourant du 3 septembre 2013 comme une requête tendant à une reprise de la procédure préliminaire au sens de l'<ref-law>. Le recourant ne formule aucune critique recevable à cet égard. On ne discerne pas en quoi ses droits de partie auraient été violés. Les critiques qu'il formule sont irrecevables faute de répondre aux exigences de motivation des art. 42 al. 2 et 106 al. 2 LTF.
3.
Le recours est irrecevable et est écarté en application de l'<ref-law>. Il était d'emblée dénué de chances de succès. L'assistance judiciaire doit donc être refusée (<ref-law>). Le recourant supporte les frais de la cause, réduits pour tenir compte de sa situation financière.

Par ces motifs, le Juge unique prononce :
1.
Le recours est irrecevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Chambre pénale.
Lausanne, le 2 septembre 2014
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Juge unique : La Greffière :
Denys Cherpillod