Faits :
A.
Le 29 août 2012 vers 16 h, à A._, X._, après avoir reçu un coup de poing au niveau de la tempe gauche de la part de B._, a asséné à ce dernier un coup de couteau qui lui a causé au niveau du cou une plaie superficielle de 10 cm de long, béante (environ 2 cm) et nécessitant la pose d'onze points de suture.
B.
Par jugement du 6 septembre 2016, le Tribunal du IIIe arrondissement pour le district de Monthey a condamné X._ pour tentative de meurtre à une peine privative de liberté de trois ans, six mois ferme et deux ans et six mois avec sursis partiel assorti d'un délai d'épreuve de trois ans. X._ a également été condamné à verser à B._ une indemnité réduite pour ses dépenses obligatoires.
C.
Par jugement du 8 mars 2018, la Cour pénale II du Tribunal cantonal du canton du Valais a rejeté l'appel formé contre cette décision par X._.
D.
Ce dernier forme un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 8 mars 2018. Il requiert, avec suite de frais et dépens, l'annulation de cette décision et son acquittement de toute accusation, subsidiairement le renvoi de la cause à l'autorité précédente pour nouveau jugement. Il sollicite également l'assistance judiciaire et l'effet suspensif.

Considérant en droit :
1.
La demande d'effet suspensif est sans objet (<ref-law>).
2.
Le recourant s'en prend aux constatations de fait contenues dans le jugement entrepris.
2.1. Le Tribunal fédéral est lié par celles-ci (<ref-law>), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.3 p. 244), ce qu'il appartient au recourant d'alléguer et d'étayer conformément aux exigences de motivation strictes posées par l'<ref-law> (<ref-ruling> consid. 1.1 p. 503). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 2.4 p. 368).
2.2. Le recourant avait au moment des faits dans sa poche un trousseau de clefs auquel était accroché un couteau pliable dont la lame mesure environ 5 cm. Il conteste que la blessure causée à B._ le 29 août 2012 l'ait été au moyen de ce couteau qu'il aurait eu dans sa main, lame ouverte, au moment de porter le coup à B._. ll invoque qu'aucune preuve n'établirait que c'est bien la lame de son couteau qui avait causé la blessure et que ce pourrait être l'une des clefs qu'il soutient avoir eu à ce moment dans sa main, ce qu'il avait indiqué dans sa plainte datée du jour des faits.
Le 30 août 2012, lendemain du jour des faits et de dite plainte, le recourant a été entendu par la police en tant que personne appelée à donner des renseignements et a déclaré qu'il avait légèrement coupé B._ " au niveau du cou avec la lame d'un petit couteau fixé au porte-clefs que je tenais dans mes mains " (jugement entrepris, p. 12, consid. 2.3.2.2). Lors de son audition par la police le 15 octobre 2012, cette fois en tant que prévenu, interpellé sur la question de savoir s'il avait utilisé un couteau avec une lame d'environ 10 cm, le recourant a fait référence à ses déclarations faites le 30 août 2012 et indiqué qu'il s'agissait d'un petit couteau, lequel était fixé à son porte-clefs. Le 15 juillet 2013, assisté d'un interprète et d'un avocat, le recourant a déclaré confirmer une grande partie de ses déclarations du 30 août 2012. Il a en particulier indiqué, s'agissant de savoir si " le couteau " était celui figurant sur la photographie et non un couteau avec une lame de 10 cm, qu'il s'agissait bien de celui sur la photographie, soit le sien. Il a également ajouté que lorsqu'il a riposté au coup de poing, il tenait le couteau dans son poing (idem, p. 12-13 ch. 2.3.2.4). Ces éléments permettaient à l'autorité précédente de retenir sans arbitraire, malgré les déclarations du recourant dans sa plainte qu'il aurait tenu dans sa main au moment du coup non pas un couteau mais des clefs, qu'il avait bien frappé la victime de son poing en tenant un couteau, lame ouverte, et que c'est bien cette lame, et non une clef, qui avait causé la blessure. Le grief est infondé, nombre de réflexions du recourant sur ce qui aurait pu se passer ou aurait été imaginable ou ce qu'il aurait pu dire ou faire durant l'instruction étant au demeurant appellatoires et partant irrecevables. Les griefs relatifs à ce que le recourant aurait pu penser ou accepter sur la base des faits ici écartés sont irrecevables.
2.3. Le recourant conteste avoir eu la conscience et la volonté, sous la forme de l'acceptation du résultat, de commettre un homicide, respectivement de tenter de le commettre, en frappant B._ au cou avec son poing tenant un couteau avec sa lame ouverte.
2.3.1. Le recourant se réfère à l'expertise psychiatrique. Celle-ci devait déterminer la responsabilité pénale du recourant au moment de faits (cf. <ref-law>; pièces 230 ss et 244). L'expert a sur ce point conclu que la capacité du recourant d'apprécier le caractère dangereux et illicite de son acte n'avait pas été altérée par ses troubles. Ceux-ci, combinés à la tension de la situation au moment des faits, avaient pu faiblement à moyennement altérer sa capacité volitive. Ces constats posés, il n'appartenait en revanche pas à l'expert de déterminer spécifiquement si le recourant, au moment des faits, avait la conscience de sortir le couteau ouvert de sa poche, de porter un coup qui pouvait être fatal et avait accepté cette issue si elle survenait. Ces faits devaient être établis par le juge à la suite de sa libre appréciation des preuves. Que l'expert, après s'être référé à plusieurs reprises aux seules déclarations du recourant, ait indiqué ne pouvoir cliniquement déterminer avec quel état de conscience la lame avait été mise entre les doigts du recourant (expertise, p. 28, pièce 270) est ainsi impropre à rendre le fait retenu par l'autorité précédente arbitraire.
2.3.2. Au demeurant, la question n'est pas seulement de savoir si la lame avait été ouverte ou non dans la poche du pantalon au su du recourant, ce que ce dernier conteste. En effet, dans le contexte où le recourant avait clairement senti le comportement menaçant de B._, qui après l'avoir menacé verbalement une heure avant, avait posé ses lunettes préalablement sur un muret et fait le geste du boxeur, le recourant était à ce moment déjà sur un mode défensif. Le maniement de son couteau dans sa poche à cet instant-là ne pouvait être considéré comme anodin, ni comme un jeu par habitude, comme il le soutient. En outre, il n'a pas seulement ouvert la lame dans sa poche, ce qui requiert déjà une certaine agilité, même avec un pantalon large, mais il l'a également sortie et tenue dans son poing, lame devant, alors qu'il frappait B._. Dans ces circonstances, admettre qu'il avait conscience, non pas d'avoir ouvert ou non la lame de manière machinale, mais d'avoir porté un coup à quelqu'un avec un poing tenant un couteau lame ouverte en avant et qu'il avait accepté le risque létal qui pouvait en découler, n'a rien d'arbitraire.
2.3.3. Dans le cadre de ce grief, le recourant évoque qu'il aurait été entendu lors des auditions antérieures à celle du 15 juillet 2013 sans interprète ni avocat, en violation des art. 130 let. b à d et 131 al. 1 CPP. On ne saurait dès lors lui reprocher d'avoir adopté dès le 15 juillet 2013 une stratégie de défense en invoquant le caractère machinal du geste consistant à ouvrir son couteau dans sa poche.
On peut ici se borner à constater que ce qui précède ne rend pas arbitraire l'appréciation des faits examinés ci-dessus, qui ne repose pas sur les déclarations qu'il a faites avant le 15 juillet 2013 auprès de la police, sans être plus tard confirmées alors que le recourant avait un interprète et un avocat. Le recourant n'expose pour le surplus pas la portée à donner à son grief qui ne peut par conséquent qu'être rejeté, dans la mesure de sa recevabilité.
3.
Le recourant conteste la qualification de tentative d'homicide arguant qu'il n'avait pas l'intention, même par dol éventuel, de tuer B._.
Dès lors qu'il se fonde sur l'admission des griefs d'arbitraire dans la constatation des faits, examinés et rejetés ci-dessus, son grief est irrecevable. La question de savoir si l'autorité précédente aurait dû retenir en lieu et place une infraction de voie de fait (<ref-law>) ne se pose donc pas, cette infraction étant au demeurant absorbée dans le cas d'espèce par celle de tentative de meurtre (cf. <ref-ruling> consid. 1 p. 113 ss).
4.
Le recourant estime que l'autorité précédente aurait dû le mettre au bénéfice de l'<ref-law> et non seulement de l'<ref-law>.
Selon l'<ref-law>, quiconque, de manière contraire au droit, est attaqué ou menacé d'une attaque imminente a le droit de repousser l'attaque par des moyens proportionnés aux circonstances. Si l'auteur, en repoussant une attaque, a excédé les limites de la légitime défense au sens de l'<ref-law>, le juge atténue la peine (<ref-law>).
Dès lors que le recourant fonde son moyen sur la constatation qu'il n'a porté qu'un coup de poing, sans être muni d'une arme blanche ouverte, son grief est irrecevable. Pour le surplus, le recourant semble soutenir qu'il n'avait pas d'autres alternatives, en passant sous silence le fait qu'il aurait pu uniquement riposter par un coup simple, sans utilisation d'arme blanche. Les extraits de l'expertise ne lui sont sur ce point d'aucun secours. Le grief de violation des art. 15 et 16 CP est infondé.
5.
Le recourant requiert une nouvelle répartition des frais et dépens des instances précédentes et à n'être pas astreint à verser à B._ une indemnité réduite pour ses dépenses obligatoires. Dès lors qu'il fonde ces griefs sur ceux précédemment jugés irrecevables, respectivement infondés, ils sont irrecevables.
6.
Il résulte de ce qui précède que le recours doit être rejeté dans la mesure de sa recevabilité. Les conclusions étaient dénuées de chances de succès, de sorte que la demande d'assistance judiciaire doit être rejetée (<ref-law> a contrario). Le recourant supportera les frais de justice dont la quotité tiendra compte de sa situation financière (art. 65 al. 2 et art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1200 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour pénale II.
Lausanne, le 6 septembre 2018
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Cherpillod