Faits : A. A._ était une société de droit suisse dont la faillite a été prononcée le 19 février 2008. B._ en était l'actionnaire unique. X._ en était l'administrateur avec signature individuelle depuis le 4 mai 2000. Y._ y a été actif, à travers la société dont il était administrateur, comme réviseur dès mai 2003. B. Par jugement du 28 janvier 2013, le Tribunal de police du Littoral et du Val-de-Travers du canton de Neuchâtel a condamné X._ pour gestion fautive (art. 165 CP) et violation de l'obligation de tenir une comptabilité (art. 166 CP) à 270 jours-amende, à 266 fr. le jour, avec sursis pendant deux ans, ainsi qu'à une amende de 5'000 fr. à titre de peine additionnelle, la peine privative de liberté de substitution étant fixée à 50 jours. Par le même jugement, cette autorité a condamné Y._ pour gestion fautive (art. 165 CP) à 90 jours-amende, à 330 fr. le jour, avec sursis pendant trois ans, ainsi qu'à une amende de 1'000 fr. à titre de peine additionnelle, la peine privative de liberté de substitution étant fixée à 10 jours. C. Par jugement du 23 décembre 2013, la Cour pénale du Tribunal cantonal du canton de Neuchâtel a rejeté les appels formés contre le jugement du 28 janvier 2013 par X._ et Y._ et a confirmé dit jugement. D. X._ et Y._ forment chacun un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 23 décembre 2013. Ils requièrent, avec suite de frais et dépens, son annulation et leur acquittement, subsidiairement le renvoi de la cause pour nouvelle décision à l'une ou l'autre des autorités précédentes. Y._ invoque également les art. 113 ss LTF. Le Ministère public a conclu au rejet des deux recours. L'autorité intimée a renoncé à se déterminer.