Faits :
A.
Par jugement du 19 décembre 2018, la Cour pénale du Tribunal cantonal du canton de Neuchâtel a rejeté l'appel formé par X._ contre le jugement du 6 novembre 2018 du Tribunal de police des Montagnes et du Val-de-Ruz le condamnant pour excès de vitesse (art. 27 al. 1 et 90 al. 1 LCR, art. 4a et 5 OCR et 22 al. 2 OSR) à une amende de 400 fr. ainsi qu'aux frais de la cause.
B.
X._ forme un recours en matière pénale auprès du Tribunal fédéral contre le jugement du 19 décembre 2018. Il sollicite, avec suite de frais et dépens, l'annulation de cette décision et son acquittement, subsidiairement le renvoi de la cause à l'autorité cantonale pour nouveau jugement.

Considérant en droit :
1.
Le recourant allègue que le radar fixe qui a calculé la vitesse de son véhicule automobile le 15 août 2017 était implanté sur une parcelle privée. Or son propriétaire n'aurait pas consenti à dite implantation. Le recourant invoque à cet égard une appréciation des preuves et une constatation des faits arbitraires et contraires à la présomption d'innocence. Le recourant estime ensuite que les art. 26 et 36 Cst. auraient été violés. La preuve de la vitesse du véhicule aurait en conséquence été obtenue de manière illicite et serait donc inexploitable conformément à l'art. 141 al. 2 CPP. Les aveux faits par le recourant à la suite de la prise de connaissance des résultats du contrôle le seraient également. Sa condamnation devrait en conséquence être annulée.
1.1. Le recourant fonde son raisonnement sur le fait que le propriétaire de la parcelle où se trouvait le radar n'avait pas consenti, avant le contrôle litigieux, à son implantation. Ce faisant il s'en prend à la constatation factuelle (cf. <ref-ruling> consid. 6.3 p. 375) de l'autorité précédente que le propriétaire avait accepté l'implantation, dès 2008, du radar sur sa parcelle.
1.1.1. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il est lié par les faits établis par l'autorité précédente (art. 105 al. 1 LTF), à moins qu'ils n'aient été constatés en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, soit pour l'essentiel de façon arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 1.1 p. 503). Lorsque l'autorité cantonale a forgé sa conviction quant aux faits sur la base d'un ensemble d'éléments ou d'indices convergents, il ne suffit pas que l'un ou l'autre de ceux-ci ou même chacun d'eux pris isolément soit à lui seul insuffisant. L'appréciation des preuves doit en effet être examinée dans son ensemble. Il n'y a ainsi pas d'arbitraire si l'état de fait retenu pouvait être déduit de manière soutenable du rapprochement de divers éléments ou indices (arrêts 6B_1137/2018 du 14 février 2019 consid. 3.1; 6B_435/2018 du 19 septembre 2018 consid. 3.2.1).
Lorsque l'appréciation des preuves et la constatation des faits sont critiquées en référence à la présomption d'innocence (art. 6 par. 2 CEDH, 32 al. 1 Cst. et 10 CPP), le principe " in dubio pro reo " n'a pas de portée plus large que l'interdiction de l'arbitraire (<ref-ruling> consid. 1.1 p. 503).
Le Tribunal fédéral n'entre en matière sur les moyens fondés sur la violation de droits fondamentaux, dont l'interdiction de l'arbitraire, que s'ils ont été invoqués et motivés de manière précise (art. 106 al. 2 LTF; <ref-ruling> consid. 1.1 p. 503).
1.1.2. Lorsque, comme dans le cas d'espèce, le recours en matière pénale est dirigé contre une décision d'une autorité de dernière instance cantonale dont le pouvoir d'examen est limité à l'arbitraire en matière de constatation des faits, en vertu de l'art. 398 al. 4 CPP, l'examen du Tribunal fédéral porte concrètement sur l'arbitraire du jugement de l'autorité inférieure, à la lumière des griefs soulevés dans l'acte de recours. Pour se conformer aux exigences de motivation rappelées ci-dessus, le recourant doit exposer pourquoi l'autorité cantonale aurait à tort admis ou nié l'arbitraire dans l'appréciation des preuves faite par l'autorité de première instance. Le Tribunal fédéral se prononce librement sur cette question (arrêts 6B_622/2018 du 14 août 2018 consid. 1.3; 6B_360/2017 du 9 octobre 2017 consid. 1.3; également <ref-ruling> consid. 1.1 p. 74).
1.1.3. Le recourant présente des faits en pages 5 à 8 de son recours. Non accompagnés d'un grief d'arbitraire, ils sont irrecevables dès lors qu'ils s'écartent des faits constatés dans le jugement attaqué.
1.1.4. L'autorité précédente a dûment motivé les raisons pour lesquelles elle estimait, au vu des preuves administrées, que le propriétaire de la parcelle sur laquelle était implanté le radar avait bien accepté, depuis 2008, dite implantation. Elle s'est en particulier fondée sur les circonstances entourant la pose du radar en 2008, jugeant que l'autorisation de poursuivre l'exploitation de cette activité de contrôle, signée par le propriétaire le 30 août 2018, ne venait que confirmer l'existence de cet accord (cf. jugement attaqué, p. 8 ss ch. 5).
A l'encontre de cette appréciation, le recourant oppose une motivation purement appellatoire, concentrant son argumentation sur des documents émis en 2018. Il ne démontre ainsi pas que l'autorité précédente ne pouvait considérer qu'il était soutenable de déduire des circonstances en 2008 que le propriétaire avait à ce moment déjà accepté l'implantation du radar sur son terrain. Une telle argumentation est irrecevable.
1.2. Le recourant invoque parallèlement le document signé par le propriétaire le 13 décembre 2018, par lequel ce dernier indiquait notamment qu'il n'aurait pas su que le radar se trouvait sur son terrain. Le recourant estime que la cause n'était pas en état d'être jugée au sens de l'art. 349 CPP, de sorte que le document précité, déposé après l'avis de l'autorité précédente que l'échange d'écritures était clos, aurait néanmoins dû être admis et pris en compte, celui-ci " venant apporter des précisions indispensable au jugement de la cause qui nous occupe ". Il allègue encore qu'en l'état du dossier empreint d'incertitude, une vérification de la volonté réelle du propriétaire de la parcelle aurait dû être entreprise.
1.2.1. Aux termes de l'art. 349 CPP, lorsque l'affaire n'est pas en état d'être jugée, le tribunal décide de compléter les preuves, puis de reprendre les débats. Cette disposition est applicable aux débats d'appel par renvoi de l'art. 379 CPP (<ref-ruling> consid. 5.4 p. 224).
Cela dit, lorsque, comme en l'espèce, seules des contraventions ont fait l'objet de la procédure de première instance, l'appel ne peut être formé que pour le grief que le jugement est juridiquement erroné ou que l'état de fait a été établi de manière manifestement inexacte ou en violation du droit. Aucune nouvelle allégation ou preuve ne peut être produite (art. 398 al. 4 CPP). Cette disposition exclut les preuves nouvelles et limite le pouvoir d'examen de la cour d'appel à l'arbitraire en matière factuelle. Dans cette mesure, les preuves complémentaires susceptibles de pouvoir être administrées selon l'art. 389 CPP sont limitées (arrêt 6B_478/2018 du 28 juin 2018 consid. 1.1).
Aux termes de l'art. 389 al. 3 CPP, l'autorité de recours administre, d'office ou à la demande d'une partie, les preuves complémentaires nécessaires au traitement du recours. Conformément à l'art. 139 al. 2 CPP, il n'y a pas lieu d'administrer des preuves sur des faits non pertinents, notoires, connus de l'autorité ou déjà suffisamment prouvés. Cette disposition codifie, pour la procédure pénale, la règle jurisprudentielle déduite de l'art. 29 al. 2 Cst. en matière d'appréciation anticipée des preuves (arrêts 6B_896/2018 du 7 février 2019 consid. 2.1; 6B_463/2018 du 11 janvier 2019 consid. 1.1). Le magistrat peut ainsi refuser des preuves nouvelles, lorsqu'il estime de manière non arbitraire qu'une administration anticipée de ces preuves démontre qu'elles ne seront pas de nature à modifier le résultat de celles déjà administrées (<ref-ruling> consid. 3.1.3 p. 435; arrêts 6B_503/2015 du 24 mai 2016 consid. 7.1, non publié in <ref-ruling>; <ref-ruling> consid. 3.3 p. 64).
1.2.2. Il résulte de ce qui précède que l'autorité précédente pouvait, eu égard à l'art. 398 al. 4 CPP, refuser de prendre en considération le document du 13 décembre 2018 moyennant que son appréciation anticipée de cette preuve ne soit par arbitraire. Or le recourant n'expose pas, conformément aux exigences de motivation posées par l'art. 106 al. 2 LTF, en quoi le refus de prise en compte du document du 13 décembre 2018 - ou l'absence de mesure complémentaire d'instruction - aurait constitué une appréciation anticipée arbitraire de la part de l'autorité précédente. Purement appellatoire, son grief est irrecevable. Dans ces conditions, le grief de violation de l'art. 349 CPP ne peut qu'être écarté.
1.3. Il s'ensuit que Tribunal fédéral est lié par le constat que le propriétaire de la parcelle où le radar litigieux était implanté avait accepté, avant le contrôle litigieux, dite implantation.
Le radar ne saurait en conséquence être considéré comme ayant été posé en violation du droit de propriété du propriétaire de la parcelle. Une violation de l'art. 26 Cst., garantissant la propriété, ou de l'art. 36 Cst. régissant la restriction des droits fondamentaux, n'entre partant pas en ligne de compte. Dès lors qu'il s'agissait du seul motif d'illicéité invoqué par le recourant pour fonder l'application de l'art. 141 al. 2 CPP, cette disposition n'est pas applicable, ce sans qu'il doive être examiné ici si la violation du droit de propriété d'un tiers à la procédure serait susceptible de rendre inexploitable une preuve.
Il résulte de ce qui précède que la preuve de la vitesse du véhicule du recourant, obtenue par le biais du radar, était pleinement exploitable et pouvait fonder la condamnation du recourant pour excès de vitesse.
2.
Le recours doit être rejeté, dans la mesure de sa recevabilité, aux frais du recourant qui succombe (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties et à la Cour pénale du Tribunal cantonal du canton de Neuchâtel.
Lausanne, le 12 mars 2019
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Cherpillod