Citation: 6B_557/2013 E. B

X.________ forme un recours en matière pénale au Tribunal fédéral. Il conclut, sous suite de frais et dépens, principalement à la réforme du jugement attaqué en ce sens qu'il est acquitté du chef d'accusation d'injure. Subsidiairement, à sa réforme en ce sens qu'il est exempté de toute peine. Plus subsidiairement au renvoi de la cause à la Cour d'appel pénale du Tribunal cantonal vaudois pour nouvelle décision. Finalement, il demande à être libéré des frais de procédure mis à sa charge y compris l'indemnité allouée au défenseur d'office. Invitée à se déterminer, la Cour d'appel pénale a renoncé à formuler des observations. Il en va de même de Y.________. Le Ministère public n'a pas répondu.