Faits : A. Le 29 août 2012 vers 16 h, à A._, X._, après avoir reçu un coup de poing au niveau de la tempe gauche de la part de B._, a asséné à ce dernier un coup de couteau qui lui a causé au niveau du cou une plaie superficielle de 10 cm de long, béante (environ 2 cm) et nécessitant la pose d'onze points de suture. B. Par jugement du 6 septembre 2016, le Tribunal du IIIe arrondissement pour le district de Monthey a condamné X._ pour tentative de meurtre à une peine privative de liberté de trois ans, six mois ferme et deux ans et six mois avec sursis partiel assorti d'un délai d'épreuve de trois ans. X._ a également été condamné à verser à B._ une indemnité réduite pour ses dépenses obligatoires. C. Par jugement du 8 mars 2018, la Cour pénale II du Tribunal cantonal du canton du Valais a rejeté l'appel formé contre cette décision par X._. D. Ce dernier forme un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 8 mars 2018. Il requiert, avec suite de frais et dépens, l'annulation de cette décision et son acquittement de toute accusation, subsidiairement le renvoi de la cause à l'autorité précédente pour nouveau jugement. Il sollicite également l'assistance judiciaire et l'effet suspensif.