Faits :
A.
A._ SA était une société de droit suisse dont la faillite a été prononcée le 19 février 2008. B._ en était l'actionnaire unique. C._ était inscrit comme administrateur avec signature individuelle. X._ y a été actif, par le biais de la société dont il était administrateur, comme réviseur dès mai 2003.
B.
Par jugement du 28 janvier 2013, le Tribunal de police du Littoral et du Val-de-Travers du canton de Neuchâtel a condamné X._ pour gestion fautive (<ref-law>) à 90 jours-amende, à 330 fr. le jour, avec sursis pendant trois ans, ainsi qu'à une amende de 1'000 fr. à titre de peine additionnelle, la peine privative de liberté de substitution étant fixée à 10 jours.
C.
Par jugement du 23 décembre 2013, la Cour pénale du Tribunal cantonal du canton de Neuchâtel a rejeté l'appel formé contre ce jugement par X._ et confirmé ledit jugement.
D.
Par arrêt du 30 octobre 2014 (réf. 6B_135/2014, 6B_144/2014), le Tribunal fédéral a admis le recours de X._ (et celui de C._), annulé le jugement du 23 décembre 2013 et renvoyé la cause à l'autorité cantonale pour nouveau jugement.
E.
Par jugement du 21 avril 2015, la Cour pénale du Tribunal cantonal du canton de Neuchâtel a rejeté l'appel formé contre le jugement du 28 janvier 2013 par X._ et confirmé ce jugement.
En bref, cette autorité a refusé de tenir compte, dans la comptabilité de l'exercice 2003 de la société A._ SA, du poste d'actif correspondant au compte-courant de l'actionnaire B._, à hauteur de 71'337 fr. 52. En effet aucune garantie de la solvabilité de ce dernier n'avait été présentée. Un tel procédé, présent déjà en 2002 dans une mesure moindre (22'853 fr. 59), violait en outre l'interdiction de rembourser leurs versements aux actionnaires, prévue par l'<ref-law>. Il en découlait au 31 décembre 2003 un surendettement comptable de 7'664 fr. 30, ce en admettant que les actifs comptabilisés aient bien correspondu à des biens propriétés de la société et aient été correctement évalués.
La Cour pénale a ensuite considéré que les réévaluations opérées sur le poste " Anlagen " par 190'000 fr. en 2004, 1'025'000 fr. en 2005 et 1'900'000 fr. en 2006 n'avaient pas lieu d'être, respectivement violaient l'ancien <ref-law> dans sa teneur en vigueur à l'époque. Ces réévaluations indues avaient seules permis d'éviter de constater comptablement le surendettement de la société à la clôture de l'exercice 2004 à hauteur de 118'347 fr. 09, surendettement qui s'est aggravé pour atteindre 1'871'084 fr. 70 en 2006 et 532'747 fr. 29 en 2007.
S'agissant du comportement de X._, la Cour pénale lui a reproché de ne pas avoir attiré suffisamment tôt l'attention de l'administrateur sur l'interdiction faite par l'<ref-law>. Cette disposition était certes mentionnée dans les notes de révision relatives à l'exercice 2003, mais non dans le rapport à l'assemblée générale des actionnaires. Cette omission violait l'ancien <ref-law>. L'autorité précédente a également reproché à X._, notamment, de n'avoir entrepris aucune démarche pour s'assurer de la réalité et de la nature des actifs, notamment du poste " Anlagen ", d'avoir admis sans vérification leur réévaluation et finalement de n'avoir pas avisé le juge alors qu'il avait constaté un surendettement. Son comportement violait l'ancien <ref-law> dans ses al. 1 et 2 et était constitutif de gestion fautive.
F.
X._ forme un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 21 avril 2015. Il conclut, avec suite de frais et dépens, à l'annulation de cette décision et à son acquittement, subsidiairement au renvoi de la cause pour nouvelle décision à l'autorité précédente.

Considérant en droit :
1.
Dans le jugement attaqué, ad p. 3 à 8, l'autorité précédente se borne, à titre de faits, à résumer les actes de procédure et les positions des parties. Cette partie du jugement ne contient aucun fait autre que de nature procédurale. Ce n'est que dans la partie en droit que l'autorité précédente expose, mêlés aux considérations juridiques, certains faits de la cause, qu'on comprend qu'elle a retenus comme établis. Une telle manière de faire n'est dans son principe pas conforme à l'<ref-law>. Toutefois, les considérants du jugement attaqué permettant de comprendre quels faits ont été retenus par l'autorité précédente, ce jugement n'a pas à être annulé pour ce motif.
2.
La pièce 4 produite à l'appui du recours, nouvelle, est irrecevable (<ref-law>).
3.
Le recourant invoque une " violation de ses droits subsidiaires (<ref-law>) " (recours, p. 2). A l'encontre d'un jugement final rendu dans une cause de droit pénal, le recours constitutionnel subsidiaire est exclu. Pour le surplus, insuffisamment motivé au regard des exigences posées par l'<ref-law>, le grief est irrecevable.
4.
Le recourant relève que l'analyste financier était un collaborateur du ministère public et doute que ses conclusions " remplissent les réquisits d'une expertise judiciaire " (recours, p. 6 i. f.). On ne distingue pas dans cette argumentation de grief qui respecte les exigences de motivation posées par l'<ref-law>, respectivement pour les griefs d'ordre constitutionnel et conventionnel par l'<ref-law>. Il n'y a pas lieu d'entrer en matière. Il en va de même des critiques que le recourant formule à l'encontre du refus de l'autorité précédente d'administrer des preuves supplémentaires et du grief de violation de la maxime d'instruction. En effet, le recourant n'indique ni quelle mesure d'instruction aurait été nécessaire, ni en quoi le refus de l'autorité précédente d'y procéder violerait le droit.
5.
Le recourant invoque une appréciation arbitraire des preuves, une constatation manifestement inexacte des faits et une violation du principe in dubio pro reo.
5.1. En vertu de l'<ref-law>, le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst., et si la correction du vice est susceptible d'influer sur le sort de la cause. Le Tribunal fédéral n'entre ainsi pas en matière sur les critiques de nature appellatoire et n'examine la violation de droits fondamentaux que si ce moyen est invoqué et motivé par le recourant (<ref-law>), c'est-à-dire s'il a été expressément soulevé et exposé de manière claire et détaillée (<ref-ruling> consid. 1.3.1 p. 253).
La présomption d'innocence, garantie par les <ref-law>, 32 al. 1 Cst. et 6 par. 2 CEDH, ainsi que son corollaire le principe " in dubio pro reo " concernent tant l'appréciation des preuves que le fardeau de la preuve. Comme règle régissant l'appréciation des preuves, le principe " in dubio pro reo" interdit au juge de se déclarer convaincu d'un état de fait défavorable au prévenu, lorsqu'une appréciation objective des éléments de preuve recueillis laisse subsister un doute sérieux et insurmontable quant à l'existence de cet état de fait. Lorsque l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe " in dubio pro reo ", celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 7 p. 82). En tant que règle relative au fardeau de la preuve, la présomption d'innocence signifie que toute personne prévenue d'une infraction pénale doit être présumée innocente jusqu'à ce que sa culpabilité soit légalement établie et, partant, qu'il appartient à l'accusation de prouver la culpabilité du prévenu. La présomption d'innocence est violée si le juge du fond condamne le prévenu au motif que son innocence n'est pas établie (<ref-ruling> consid. 2a p. 41), s'il a tenu la culpabilité du prévenu pour établie uniquement parce que celui-ci n'a pas apporté les preuves qui auraient permis de lever les doutes quant à son innocence ou à sa culpabilité, ou encore s'il a condamné le prévenu au seul motif que sa culpabilité est plus vraisemblable que son innocence (arrêt 6B_748/2009 du 2 novembre 2009 consid. 2.1). Le Tribunal fédéral revoit librement le respect de la présomption d'innocence en tant que règle sur le fardeau de la preuve (<ref-ruling> consid. 2a p. 40).
5.2. Le recourant se plaint de ce que l'autorité précédente n'ait pas tenu compte de l'importance des fonds confiés à B._ par des tiers en Allemagne et de l'importance du préjudice subis par ces tiers dans le cadre d'une escroquerie du type " ponzi " commise par B._. Que le recourant ait accepté que le réel et seul administrateur de la société n'était pas celui inscrit au registre du commerce mais un tiers (recours, p. 3 ch. 5) et que ce tiers ait été condamné pour escroquerie à l'étranger n'enlève rien, quelle que soit l'importance de l'escroquerie commise, aux devoirs de contrôle qui lui incombaient. A ce titre, le recourant devait notamment, dans les circonstances d'espèce, s'assurer lors de la révision des comptes de la société que les avoirs qui lui étaient annoncés, qui constituaient la substance de la société dès 2003 (jugement attaqué, p. 33; par. ex. 418'433 fr. 07 sur 611'362 fr. 68 d'actifs comptabilisés en 2003; 1'952'869 fr. 35 sur 2'279'633 fr. 96 d'actifs comptabilisés en 2005) et dont seule la comptabilisation permettait d'éviter une situation de surendettement, existaient et étaient propriétés de la société. Lors de leur réévaluation massive, il aurait dû en outre contrôler la nature des actifs visés et le fait que leur valeur comptable n'était pas supérieure à leur valeur réelle (cf. ancien <ref-law>; cf. infra consid. 6.3). Il ne pouvait se fier à cet égard à des assurances orales non documentées ou insuffisamment documentées qui lui étaient rapportées par C._. Dans ces conditions, il n'était pas arbitraire de ne pas tenir compte dans le jugement attaqué d'actes distincts reprochés à B._ en Allemagne au préjudice de tiers à la présente procédure.
5.3. Le recourant se plaint que l'autorité précédente n'ait pas tenu compte des " pièces relatives aux actifs et garanties de la société, notamment concernant le terrain en Allemagne et la poudre de cuivre " (recours, p. 4 ch. 16, également, p. 7).
5.3.1. S'agissant du terrain en Allemagne, le recourant ne donne aucun détail sur cet immeuble ni sur les droits que B._ aurait eu sur celui-ci. Il invoque cependant d'une part que cet immeuble aurait été présenté comme une garantie de la dette de l'actionnaire B._ en faveur de la société A._ SA, dette comptabilisée sous un poste d'actif (" c/c Dr. B._") dans la comptabilité de la société A._ SA. Il soutient d'autre part que l'autorité précédente aurait dû retenir que les actifs de A._ SA comportaient un terrain d'une valeur effective supérieure à 200'000 euros, " propriété " de A._ SA (recours, p. 9).
Les notes de révision de l'exercice 2003 mentionnent que la société A._ SA a acquis un bien immobilier en Allemagne en 2003 pour le prix de 101'731 francs. Cette acquisition a été confirmée par le recourant durant la procédure. Ce montant figure dans la comptabilité de la société A._ SA, dès l'exercice 2003, dans un poste " Grundstück ". Dès lors que ce bien était la propriété de la société, il ne pouvait logiquement pas servir de garantie de solvabilité pour la dette de B._ envers dite société.
Les pièces citées par le recourant, toutes postérieures à 2006, laissent effectivement penser que la société A._ SA était propriétaire d'un bien-fond, la parcelle xxx (cf. pièce 455). Rien ne permet toutefois de penser qu'il s'agirait d'un autre immeuble que celui précité, déjà comptabilisé comme actif dans la comptabilité de la société A._ SA. Le recourant ne le soutient pas, ne parlant jamais que d'un terrain. Après avoir mentionné les pièces précitées, il se réfère d'ailleurs à l'acquisition faite par la société d'un immeuble en 2003 (recours, p. 9). Ne pas retenir l'existence d'un autre terrain en Allemagne que celui comptabilisé n'est dès lors pas arbitraire. Dans ces circonstances, considérer comme l'a fait l'autorité précédente que l'actionnaire n'avait pas présenté de garanties de sa dette, sous forme d'un terrain en Allemagne, ne prête pas flanc à la critique.
S'agissant cette fois de la valeur du terrain, le recourant ne cite aucun élément qui imposait de retenir une valeur supérieure à celle d'acquisition comptabilisée en 2003 par 101'731 francs. Que le recourant allègue, sans référence à aucune pièce, que B._ aurait déclaré à l'administrateur que le terrain valait à tout le moins 250'000 EUR est impropre à démontrer l'arbitraire de la non-prise en compte d'une valeur supérieure à celle initialement comptabilisée de 101'731 francs. Dans ces conditions, l'autorité précédente pouvait sans arbitraire refuser de retenir que la valeur réelle de l'immeuble sis en Allemagne aurait été supérieure à son prix d'acquisition ou à son coût de revient. Elle pouvait par conséquent sans violer l'ancien <ref-law> considérer que les conditions posées par cette disposition (notamment réévaluation au maximum à la valeur réelle d'un immeuble lorsque celle-ci est supérieure au prix d'acquisition ou co ût de revient) n'étaient pas remplies et partant refuser de prendre en compte dans les comptes de la société A._ SA la réévaluation de l'immeuble intervenue en 2004 par 190'000 francs.
5.3.2. Quant à la poudre de cuivre, le recourant se contente de tenter d'en démontrer l'existence. Cela ne suffit toutefois pas. Cette marchandise ne pouvait en effet être admise comme garantie de la dette de B._, respectivement comme actif de la société A._ SA qu'à la condition que le premier, respectivement la seconde ait des droits sur un tel bien.
A l'appui de son grief, le recourant invoque plusieurs documents. Le courrier produit sous pièce 251 et adressé à la société D._SA indique que de la poudre de cuivre a été livrée le 25 septembre 2006 auprès de la société E._ SA. Ni B._, ni la société A._ SA ne sont mentionnés dans ce document dont il ne peut dès lors rien être tiré en leur faveur, qui plus est pour un exercice comptable clôt en 2003 et vérifié en juin 2004. La pièce 349 est un courrier du 31 décembre 2006 dans lequel une société allemande F._ SA, représentée par B._, informe la société A._ SA que de la poudre de cuivre, d'une valeur de 20'000'000 $, a été déposée pour A._ SA au port-franc de Zurich. Ce courrier n'est accompagné d'aucune annexe. Simple déclaration non documentée du principal bénéficiaire - B._ - de dite déclaration, daté du jour de la clôture de l'exercice comptable, il est insuffisant à établir que ce dernier ou la société A._ SA aurait des droits sur la marchandise indiquée, celle déposée en septembre 2006 (pièce 251) l'ayant au demeurant été apparemment au nom de D._SA et non de F._ SA. La pièce 350 est un procès-verbal de séance d'une société étrangère G._ SA du 21 septembre 2006. On ne voit pas en quoi le fait que cette société serait détenue à hauteur de 12 % par B._ et par 12 % par H._, également indiqué comme représentant de la société D._SA mentionnée dans la pièce 251, aurait une quelconque portée sur les droits de B._ ou de la société A._ SA sur de la poudre de cuivre. Le recourant ne l'explique pas. Ce document est sans pertinence ici. L'allégation dans le recours en matière pénale qu' " à titre de rappel, la poudre de cuivre (respectivement une participation à celle-ci) a été cédée à la société" A._ SA (recours, p. 10) n'est pas documentée. On ne saurait dès lors considérer que l'autorité précédente aurait fait preuve d'arbitraire en ne retenant pas l'existence d'une telle cession, dont l'objet n'est au demeurant pas clair pour le recourant.
Au vu de ce qui précède, le refus de l'autorité précédente de considérer que la poudre de cuivre indiquée dans ces documents constituait une garantie de la solvabilité de B._ ou un actif de la société A._ SA ne prête pas flanc à la critique. Un tel refus ne viole pas plus le principe " in dubio pro reo ". Contrairement à ce que soutient le recourant, ce principe n'implique pas de considérer qu'à défaut de preuve de l'inexistence d'un élément, de fait ou de droit, celui-ci devrait être considéré comme établi. Les motifs de fait et de droit retenus par l'autorité précédente reposent en outre sur l'appréciation des preuves auxquels elle a procédé dans le dossier et non sur le motif que le recourant n'aurait pas prouvé des éléments à décharge. Le grief de violation du principe " in dubio pro reo " en tant que règle sur le fardeau de la preuve est ainsi infondé. Pour le surplus, au vu de ce qui précède, savoir si les documents invoqués par le recourant étaient ou non authentiques est sans pertinence. Leur contenu n'était de toute façon pas suffisant pour retenir l'existence des éléments aujourd'hui invoqués par le recourant pour justifier son comportement.
5.4. Le recourant relève que l'autorité précédente a déclaré ne pas pouvoir indiquer précisément dans quelle mesure la sous-évaluation du passif " Darlehen " retenue avait contribué au surendettement. Il en déduit que les " constatations infondées " de l'autorité précédente ne pouvant être démontrées, elles ne devaient pas être prises en compte. Le recourant ne précise pas quel effet sur le sort de la cause cette sous-évaluation aurait eu. Insuffisamment motivé, son grief est irrecevable. Au demeurant, la sous-évaluation retenue par l'autorité précédente n'a pas été prise en compte pour calculer le surendettement de la société A._ SA (a contrario jugement attaqué, p. 27).
5.5. A la suite du précédent grief, le recourant se plaint d'une absence de réserve qui lui avait été reprochée concernant le poste " Debitoren ". La page citée du jugement indique toutefois que l'autorité précédente a renoncé à formuler ce reproche au recourant. Incompréhensible, le grief est irrecevable.
6.
Le recourant conteste sa condamnation pour gestion fautive.
6.1. En vertu de l'<ref-law>, le débiteur qui, de manières autres que celles visées à l'<ref-law>, par des fautes de gestion, notamment par une négligence coupable dans l'exercice de sa profession ou dans l'administration de ses biens, aura causé ou aggravé son surendettement, aura causé sa propre insolvabilité ou aggravé sa situation alors qu'il se savait insolvable sera, s'il a été déclaré en faillite ou si un acte de défaut de biens a été dressé contre lui, puni d'une peine privative de liberté de cinq ans au plus ou d'une peine pécuniaire. L'art. 172 aCP, en vigueur jusqu'au 31 décembre 2007, respectivement l'<ref-law> permet d'imputer à une personne physique un devoir particulier incombant à la personne morale, dans la mesure où cette personne physique a agi en qualité d'organe de la personne morale.
6.2. Le recourant conteste l'existence d'un surendettement.
Le recourant revient à cet égard sur la manière dont la réévaluation du terrain et la poudre de cuivre ont été comptabilisées. Comme il le reconnaît, cette question est sans pertinence sur la détermination du surendettement. Le recourant se réfère pour le surplus à un " tableau " qu'il aurait versé " au dossier officiel " dont il ressort qu'un surendettement faisait en l'occurrence défaut (recours, p. 13). Un tel renvoi, sans plus de détail, à une pièce indéterminée d'un dossier volumineux est inadmissible. Le grief est irrecevable. Au demeurant, au vu des postes d'actifs et de passifs retenus par l'autorité précédente, la non-prise en compte - en l'absence de toute garantie de la solvabilité de l'actionnaire - de l'actif constituée par le compte-courant de ce dernier était légitime et conduisait à une situation de surendettement fin 2003 déjà. Par la suite, la non-prise en compte des réévaluations comptabilisées sans que les conditions de l'ancien <ref-law> ne soient réalisées conduit à l'augmentation massive de ce surendettement. A cet égard, on relève que le recourant conteste la non-prise en compte de la réévaluation de 190'000 fr. reliée par l'autorité précédente à un terrain et examinée ci-dessus (cf. supra consid. 5.3.1). Il ne conteste en revanche pas l'illicéité retenue par l'autorité précédente des réévaluations comptabilisées à hauteur de 1'025'000 fr. en 2005 et de 1'900'000 fr. en 2006, qui ont permis, comptablement, de cacher une grande partie du surendettement pour ces années-là. Le grief est infondé dans la mesure où il est recevable.
6.3. Le recourant conteste avoir fait preuve de négligence coupable.
Le recourant a admis que l'actif constituant le compte-courant de l'actionnaire a augmenté inexorablement, en violation de l'<ref-law> et alors qu'il ne disposait d'aucune garantie de la solvabilité de B._. Il n'était pas légitimé à penser détenir des garanties à cet égard, les documents invoqués sur ce point, outre qu'ils ne permettaient pas de le retenir, étaient de plus largement postérieurs (2006) à la date à laquelle il aurait dû pouvoir s'assurer de l'existence de ces garanties (2004). Or sans la prise en compte de cet actif, la société était en état de surendettement dès la fin de son exercice 2003. Par la suite, le recourant a admis des réévaluations massives d'actifs dont il ne savait rien, soit non seulement s'il s'agissait d'immeubles ou de participations - seuls actifs susceptibles de faire l'objet d'une réévaluation au sens de l'ancien <ref-law> - mais également si leur valeur réelle dépassait le prix d'acquisition ou le coût de revient au sens de cette disposition. Or conformément à l'ancien <ref-law>, la réévaluation précitée ne pouvait intervenir que si l'organe de révision - dont le recourant était administrateur - attestait par écrit à l'intention de l'assemblée générale que les conditions légales étaient remplies. Le recourant n'a pas procédé à un tel contrôle et laissé passer, durant plusieurs années, des réévaluations très importantes qui ne remplissaient pas les conditions prévues par l'ancien <ref-law>. Il aurait dû avertir, par écrit, le conseil d'administration (ancien <ref-law>) et constater que sans ces réévaluations contraires au droit, la société présentait un surendettement manifeste qui imposait l'avis au juge par le conseil d'administration, à défaut par l'organe de révision (ancien <ref-law>). En n'y procédant pas sur plusieurs années et en laissant ainsi le surendettement s'aggraver, le recourant a fait preuve de négligence coupable dans l'exercice de sa profession de réviseur au sens de l'<ref-law>.
Le recourant ne saurait se retrancher derrière les escroqueries reprochées à B._ en Allemagne. Il n'a en effet pas été trompé par ce dernier par de faux documents qui auraient attesté de l'existence de garanties ou que les conditions des réévaluations opérées auraient été remplies. Le recourant a juste omis de faire correctement le travail qui lui était confié, en procédant aux contrôles et avis qui lui incombaient.
Au vu de ce qui précède, la condamnation du recourant pour gestion fautive ne viole pas l'<ref-law>.
7.
Il résulte de ce qui précède que le recours doit être rejeté dans la mesure de sa recevabilité, au frais du recourant qui succombe (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour pénale du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 25 mai 2016
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Cherpillod