Faits :
A.
Le 10 juillet 2000, l'autorisation de construire une nouvelle remise agricole sur le fonds 10940 de la Commune de La Chaux-de-Fonds a été délivrée à A._. Après les travaux, la commune a constaté qu'une partie de cette remise était utilisée pour les besoins d'une entreprise d'électricité, ce qui a conduit l'intéressé à demander, en 2002 et 2003, la délivrance des autorisations nécessaires à la mise en conformité. Le 2 juillet 2003, le département compétent a refusé les autorisations requises, interdit l'utilisation de la remise pour un usage non agricole et ordonné l'évacuation du matériel électrique; il a ajouté que l'interdiction et l'ordre d'évacuation seraient mentionnés au registre foncier. Sur recours, le Tribunal administratif a confirmé cette décision, par arrêt du 9 février 2006.
B.
Le 5 juillet 2013, A._ a requis l'autorisation de transformer une étable existante en stabulation et de l'agrandir par une aire paillée couverte, sur la parcelle 10940; cette demande portait également sur la création de trois boxes à chevaux dans ce bâtiment.
Le 28 janvier 2014, le Conseil communal de La Chaux-de-Fonds a octroyé le permis de construire requis; les différentes conditions figurant dans le préavis du 4 décembre 2013 du Service de l'aménagement du territoire ainsi que dans la décision spéciale du 29 novembre 2013 du Département du développement territorial et de l'environnement (ci-après: DDTE) font parties intégrantes de cette autorisation. Dans ce cadre, le DDTE a observé que les chevaux détenus dans les boxes projetés n'auraient accès qu'à un pâturage, mais non à une aire de sortie toutes saisons durant les périodes où ce terrain serait impraticable (p. ex. lors de fortes pluies); il a en conséquence exigé la réalisation de trois aires de sortie toutes saisons comme condition préalable à l'accueil d'équidés. Par ailleurs, constatant que A._ ne s'était pas conformé à l'ordre de remise en état du 2 juillet 2003 - confirmé en dernier lieu par le Tribunal administratif, le 9 février 2006 -, le département a une nouvelle fois exigé l'évacuation du matériel électrique présent dans la remise, dans un délai échéant le 31 mars 2014, sous la menace d'une exécution par substitution et des peines d'amende prévues par l'art. 292 du Code pénal suisse du 21 décembre 1937 (CP; RS 311.0); il a en outre ordonné la mention au registre foncier de l'interdiction d'un usage non agricole du bâtiment et de l'ordre d'évacuation.
Le 1 er janvier 2014, le Conseil d'Etat de la République et canton de Neuchâtel a rejeté le recours formé par A._ contre la décision du DDTE.
Le prénommé a interjeté recours contre le prononcé du Conseil d'Etat devant la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel. Par arrêt du 30 mai 2016, la cour cantonale a rejeté le recours. Le Tribunal cantonal a tout d'abord confirmé la nécessité de réaliser trois aires de sortie toutes saisons, jugeant le seul pâturage insuffisant à assurer cette fonction en cas de conditions météorologiques défavorables. La cour cantonale a ensuite considéré que l'ordre d'évacuation de la remise et la menace d'une exécution par substitution ne pouvaient constituer des clauses accessoires au permis de construire portant sur l'agrandissement de l'étable, ces deux édifices - bien qu'implantés sur la même parcelle - ne présentant aucun lien direct; l'instance précédente a jugé qu'il s'agissait de mesures d'exécution de la décision du 2 juillet 2003, n'apportant matériellement aucune modification à la situation et partant non susceptibles de recours, ce qui aurait dû conduire le Conseil d'Etat à prononcer l'irrecevabilité des griefs soulevés à ce propos.
C.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt attaqué, la décision rendue le 1 er décembre 2014 par le Conseil d'Etat ainsi que la décision du DDTE. Il requiert également l'octroi de l'effet suspensif.
Se référant aux motifs de son arrêt, le Tribunal cantonal renonce à formuler des observations et propose le rejet du recours. Le Service juridique du Département de la justice, de la sécurité et de la culture conclut aussi au rejet, de même que la Commune de La Chaux-de-Fonds. Egalement appelé à se déterminer, l'Office fédéral du développement territorial ARE adhère à l'arrêt attaqué, tout en soulignant qu'il devrait, selon lui, être possible de subordonner l'octroi d'une nouvelle autorisation de construire hors de la zone à bâtir au rétablissement préalable d'un état conforme au droit.
Par ordonnance du 25 août 2016, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif.

Considérant en droit :
1.
Dirigé contre une décision finale (<ref-law>) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans le domaine du droit public des constructions (<ref-law>), le recours est en principe recevable comme recours en matière de droit public selon les <ref-law>, aucune des exceptions prévues à l'<ref-law> n'étant réalisée. Le recourant a pris part à la procédure de recours devant le Tribunal cantonal. En tant que destinataire de la décision subordonnant, d'une part, l'utilisation des boxes à chevaux à la réalisation de trois aires de sortie et imposant, d'autre part, l'exécution de l'ordre de remise en état du 2 juillet 2003, le recourant peut se prévaloir d'un intérêt personnel et digne de protection à l'annulation de l'arrêt attaqué. Il a dès lors qualité pour agir au sens de l'<ref-law>. Les autres conditions de recevabilité sont au surplus réunies, si bien qu'il y a lieu d'entrer en matière.
En revanche, dans la mesure où le recourant attaque le prononcé du Conseil d'Etat et la décision spéciale du DDTE, dont il demande également l'annulation, son recours est irrecevable en raison de l'effet dévolutif complet du recours déposé auprès du Tribunal cantonal (cf. <ref-ruling> consid. 1.2 p. 104).
2.
A titre de mesure d'instruction, le recourant sollicite la production des dossiers constitués par le Tribunal cantonal, le Conseil d'Etat, le DDTE ainsi que par la commune au sujet de la transformation de l'étable existante en stabulation et agrandissement pour une aire paillée. Cette demande est satisfaite, l'instance précédente ayant déposé son dossier - comprenant également ceux des autres autorités concernées - dans le délai imparti à cette fin (<ref-law>).
Pour le surplus, il n'y a pas lieu de réserver un écho favorable aux réquisitions portant sur l'édition, d'une part, du dossier relatif à l'autorisation de construire une remise, en 2000, et, d'autre part, celui constitué par le Tribunal administratif cantonal au sujet de l'ordre d'évacuer le matériel non agricole du 2 juillet 2003: le dossier en mains de la Cour de céans contient les éléments nécessaires à l'examen de la question de l'exécution de cette injonction, en particulier l'arrêt du Tribunal administratif du 9 février 2006.
3.
Le recourant soutient qu'il n'appartenait pas au DDTE, mais au Service cantonal de la consommation et des affaires vétérinaires (ci-après: SCAV) de déterminer si le pâturage attenant à l'étable constituait une aire de sortie suffisante et, dans la négative, assujettir le permis de construire à la réalisation de trois aires de sortie toutes saisons. Le recourant se prévaut essentiellement des art. 2 et 9 de la loi d'introduction de la législation fédérale sur la protection des animaux du 24 janvier 2012 (LILPA; RS/NE 465.0) et de son règlement d'application du 20 juin 2012 (RELILPA; RS/NE 465.01). A le comprendre, en matière de protection des animaux, le DDTE ne serait habilité à intervenir que dans le cadre d'un recours hiérarchique contre une décision du SCAV; il ne pourrait en revanche pas - comme il l'a fait - imposer, par le biais d'une décision spéciale, des charges ou conditions liées à une détention respectueuse des animaux. Le recourant y voit une incompétence qualifiée du DDTE commandant d'annuler sa décision spéciale du 29 novembre 2013.
3.1. Selon l'art. 2 LILPA, le Conseil d'Etat arrête les dispositions d'exécution (al. 1); le département désigné par le Conseil d'Etat veille à l'exécution de la législation en matière de protection des animaux (al. 3); le service (SCAV; cf. art. 2 RELILPA) placé sous la responsabilité du vétérinaire cantonal est chargé des tâches découlant de cette législation. L'art. 9 LILPA prévoit que les décisions des organes d'exécution peuvent faire l'objet d'un recours au département puis au Tribunal cantonal, conformément à la loi sur la procédure et la juridiction administratives du 27 juin 1979 (LPJA; RS/NE 152.130).
3.2. Sauf dans les cas cités expressément à l'<ref-law>, le recours ne peut pas être formé pour violation du droit cantonal en tant que tel. En revanche, il est toujours possible de faire valoir que la mauvaise application du droit cantonal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres motifs de droit constitutionnel (<ref-ruling> consid. 1.2 p. 145).
Appelé à revoir l'interprétation d'une norme cantonale ou communale sous l'angle restreint de l'arbitraire, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - même préférable - paraît possible (<ref-ruling> consid. 2.4 p. 5; <ref-ruling> consid. 4.2 p. 560). En outre, pour qu'une décision soit annulée au titre de l'arbitraire, il ne suffit pas qu'elle se fonde sur une motivation insoutenable; encore faut-il qu'elle apparaisse arbitraire dans son résultat (<ref-ruling> consid. 2.4 p. 5).
3.3. Compte tenu du principe d'épuisement matériel des instances, auquel demeure soumis le grief d'arbitraire dans l'application du droit cantonal (cf. arrêt 5A_235/2016 du 15 août 2016 consid. 5.2 et les arrêts cités), on peut douter de la recevabilité de la présente critique. Devant le Tribunal cantonal, le recourant a certes soutenu que le DDTE n'était pas légitimé à assortir le permis de construire d'une charge imposant la mise à l'enquête d'aires de sortie supplémentaires; son grief ne portait toutefois pas à proprement parler - contrairement à son recours fédéral - sur la compétence matérielle et formelle du département en matière de protection des animaux: au stade du recours cantonal, il reprochait uniquement au DDTE d'avoir outrepassé le cadre procédural défini par la demande d'autorisation de construire en imposant des infrastructures supplémentaires n'y figurant pas. Ainsi, dans la mesure où cette question de compétence n'a pas été débattue devant l'instance précédente, il n'appartient en principe pas au Tribunal fédéral d'examiner, pour la première fois, si la décision du DDTE contrevient sur ce point aux art. 2 et 9 LILPA.
Quoi qu'il en soit, à l'examen de ces dispositions, il n'apparaît pas d'emblée évident qu'il appartenait au SCAV de rendre une décision portant sur les trois aires de sortie contestées; rien n'indique en effet que, dans le cadre d'une procédure d'autorisation de construire, hors de la zone à bâtir, soumise, de par le droit fédéral, à l'approbation de l'autorité cantonale compétente (art. 25 al. 2 de la loi fédérale sur l'aménagement du territoire du 22 juin 1979 [LAT; RS 700]), en l'occurrence le DDTE (art. 62 al. 1 et 2 de la loi cantonale sur l'aménagement du territoire du 21 août 1991 [LCAT; RS/NE 701.0] et art. 1 er de son règlement d'application [RELCAT; RS/NE 701.02]), le rôle du SCAV ne se limitait pas à formuler un préavis sur les constructions envisagées (à ce propos, cf. notamment art. 31 al. 1 de la loi sur les constructions du 25 mars 1996 [LConstr.; RS/NE 720.0] et art. 4 let. h de son règlement d'exécution [RELConstr.; RS/NE 720.1]). Or c'est précisément le SCAV - en qualité d'autorité spécialisée en matière de protection des animaux (cf. art. 2 al. 4 LILPA) - qui, dans son préavis, a défini les conditions d'une détention respectueuse des chevaux, que le DDTE a reproduit dans sa décision spéciale. Enfin, la voie du recours hiérarchique invoquée par le recourant n'est pas non plus imposée par le droit fédéral (cf. <ref-law> et art. 33 LPJA; à ce sujet, voir également BERNARD CORBOZ, Commentaire de la LTF, 2 e éd. 2014, n. 13 ad <ref-law>), ce que celui-ci ne prétend d'ailleurs pas.
3.4. En définitive, la procédure suivie par les autorités cantonales résiste au grief d'arbitraire et l'on ne saurait en inférer l'existence d'une incompétence qualifiée commandant d'annuler la décision spéciale du DDTE. Entièrement mal fondé, le présent grief doit être rejeté dans la faible mesure de sa recevabilité.
4.
Le recourant dénonce une mauvaise application de l'art. 2 al. 3 de l'ordonnance sur la protection des animaux du 23 avril 2008 (OPAn; RS 455.1), qui définit l'aire de sortie comme étant le pré ou l'enclos aménagé de façon à permettre aux animaux de s'y mouvoir librement tous les jours et par tous les temps. Selon le recourant, il serait contraire à cette définition - sauf à vider l'alternative qu'elle prévoit de "toute substance" - de lui imposer la réalisation de trois aires supplémentaires alors qu'il dispose pourtant déjà d'un pâturage attenant aux boxes de détention projetés.
4.1. Avec le recourant, force est de reconnaître, à la lumière de la formulation alternative de l'<ref-law>, qu'un pré peut en soi constituer une aire de sortie adéquate et suffisante, sans que d'autres infrastructures ne soient en parallèle nécessaires. Le recourant perd cependant de vue qu'un pâturage ne répond pas à cette condition de par sa seule existence; encore faut-il qu'il remplisse les autres exigences définies par la législation fédérale en matière de protection des animaux. A cet égard et de façon générale, l'<ref-law> impose que les logements, enclos et sols soient construits et équipés de façon à ce que le risque de blessure pour les animaux soit faible (let. a) et que ces derniers ne soient pas atteints dans leur santé (let. b). L'<ref-law> renouvelle cette exigence s'agissant des sols, précisant que la nature de ceux-ci ne doit pas présenter de risque pour la santé des animaux.
Appliqués à la détention des chevaux, ces préceptes commandent que les écuries, les aires de sortie et les pâturages soient aménagés de manière à ce que le risque de lésion pour les animaux soit limité (cf. OSAV, Fiche thématique, Ne pas infliger de dommages ni de souffrances aux chevaux, avril 2016, p. 3, disponible à l'adresse www.blv.admin.ch, onglet Animaux, consultée le 6 janvier 2017). Dans ce cadre, il s'impose également d'éviter que les sols des zones dans lesquelles se tiennent généralement les chevaux soient boueux (cf. art. 6 al. 3 de l'ordonnance de l'OSAV du 27 août 2008 sur la détention des animaux de rente et des animaux domestiques [RS 455.11.1]; OSAV, Fiche thématique, Réglementation des sorties pour chevaux, mai 2016, p. 3, disponible à l'adresse www.blv.admin.ch, onglet Animaux, consultée le 6 janvier 2017).
La protection des animaux relevant du droit fédéral (art. 80 Cst.), le Tribunal fédéral en revoit d'office et, en principe, librement l'application (art. 95 let. a et 106 al. 1 LTF); il fait toutefois preuve de retenue lorsqu'il s'agit, comme en l'espèce, d'apprécier des circonstances locales, mieux connues des autorités cantonales et communales, ou d'examiner des questions supposant des connaissances techniques particulières (cf. <ref-ruling> consid. 6.4 p. 89; <ref-ruling> consid. 5.4.1 p. 163; <ref-ruling> consid. 3c p. 79; voir également BERNARD CORBOZ, op. cit., n. 24a ad <ref-law>).
4.2. En l'espèce, le DDTE - suivant en cela le préavis du SCAV - a imposé la réalisation de trois aires de sorties toutes saisons séparées, avant toute détention d'équidés, non seulement pour répondre à la nécessité de disposer d'un espace exploitable en tout temps, mais également dans le but d'éviter les conflits susceptibles d'apparaître entre les chevaux, en raison de leur détention dans des boxes séparés (cf. préavis du SCAV reproduit dans la synthèse établie le 4 décembre 2013 par le Service de l'aménagement du territoire). Confirmant cette appréciation, la cour cantonale a jugé que, pour garantir des conditions de détention respectueuses pour les chevaux, il était nécessaire de disposer d'un endroit qui soit praticable quelles que soient les conditions météorologiques; elle a estimé que le pâturage du recourant ne répondait pas à cette exigence et qu'une aire de sortie toutes saisons devait nécessairement faire l'objet d'aménagements particuliers liés à la stabilité du sol afin de pouvoir résister aux intempéries.
4.2.1. Le recourant ne prend guère la peine de critiquer cette appréciation, son grief étant essentiellement circonscrit à une approche littérale et isolée de l'<ref-law>, dont il a été dit qu'elle ne pouvait sans autre être suivie (cf. consid. 4.1). Il n'apporte aucun élément susceptible de remettre en cause la conformité au droit fédéral des exigences définies par le service spécialisé de l'administration cantonale, dont on ne voit par conséquent pas de motif de s'écarter. Le recourant ne prétend en particulier pas que le sol de son pâturage répondrait, indépendamment des conditions météorologiques, aux exigences de la législation en matière de protection des animaux; il ne conteste pas non plus qu'une détention séparée des équidés est susceptible de conduire à des conflits entre congénères nécessitant, comme l'a préconisé le SCAV, des aires de sorties distinctes.
4.2.2. Par ailleurs, l'appréciation des autorités cantonales se révèle - quoi qu'en dise le recourant - conforme aux principes d'aménagement du territoire déduits de la jurisprudence en matière de détention de chevaux en zone agricole. En effet, si le pâturage constitue certes l'aire de sortie idéale, une aire de sortie résistant à la pression des sabots, accessible en toute saison, est néanmoins à prévoir afin de ménager l'herbe (cf. arrêt 1C_250/2009 du 13 juillet 2010 consid. 3.2 et la référence au message du Conseil fédéral du 2 décembre 2005 relatif à la révision partielle de la LAT, FF 2005 6646; cf. également, Rapport du 24 avril 2012 de la Commission de l'environnement, de l'aménagement du territoire et de l'énergie du Conseil national, FF 2012 6124).
4.2.3. Enfin, dans le cadre du présent grief, le recourant reproche encore à l'instance précédente de n'avoir pas procédé à une inspection locale avant de se prononcer sur la conformité de son pâturage; cette critique doit toutefois être déclarée irrecevable faute de motivation suffisante (art. 42 al. 2 et 106 al. 2 LTF) : le recourant n'explique pas en quoi le refus de mettre en oeuvre cette mesure d'instruction aurait conduit l'instance précédente à constater les faits de manière inexacte - comme il le soutient - ni ne prétend que son droit d'être entendu aurait été violé.
4.3. Entièrement mal fondé, le grief doit être écarté dans la mesure de sa recevabilité.
5.
Le recourant soutient que le droit d'ordonner l'évacuation du matériel non agricole entreposé dans sa remise serait prescrit.
5.1. Selon la jurisprudence, la compétence d'exiger la démolition d'une installation pour rétablir une situation conforme au droit est en principe soumise à un délai de péremption de trente ans; exceptionnellement, cette compétence peut être exercée au-delà du délai en question si des motifs de police au sens strict imposent une telle mesure et, inversement, l'autorité peut en être déchue avant l'écoulement des trente ans lorsque le principe de la bonne foi le commande (cf. <ref-ruling> consid. 6.3 p. 39; arrêt 1C_318/2013 du 10 décembre 2013 consid. 4.1.2 publié in SJ 2014 I 280 et les références citées).
5.2. En l'espèce, la cour cantonale a jugé qu'en tant qu'elle concerne l'évacuation du matériel non agricole, la décision spéciale du DDTE constitue une mesure d'exécution de la décision de remise en état du 2 juillet 2003, ce qui n'est pas contesté par le recourant. Selon la jurisprudence, la possibilité de recourir contre une décision d'exécution s'impose si un acte règle une question nouvelle, non prévue par une décision antérieure, ou s'il contient une nouvelle atteinte à la situation juridique de l'intéressé (cf. <ref-ruling> consid. 3c/bb p. 498; arrêt 1C_603/2012 du 19 septembre 2013 consid. 4.1; THIERRY TANQUEREL, Manuel de droit administratif, 2011, p. 389 n. 1150 s.; MOOR/POLTIER, Droit administratif, vol. II, 3 e éd. 2011, p. 116 i.i). En revanche, si un acte ne fait que reprendre, sans les modifier, des obligations figurant déjà dans une décision antérieure, il n'y a pas d'objet possible à un recours et l'acte en cause doit être qualifié de mesure d'exécution, non sujette à recours (cf. <ref-ruling> consid. 1.1 p. 412; en droit cantonal, cf. art. 29 let. c LPJA). Le recours dirigé contre une décision d'exécution ne permet pas de remettre en cause la décision au fond, définitive et exécutoire, sur laquelle elle repose. On ne saurait faire exception à ce principe que si la décision tranchant le fond du litige a été prise en violation d'un droit fondamental inaliénable et imprescriptible du recourant ou lorsqu'elle est nulle de plein droit (<ref-ruling> consid. 3c/cc p. 499 et les arrêts cités; arrêt 1C_622/2015 du 24 février 2016 consid. 4.1.1).
5.3. Se fondant sur ces principes, la cour cantonale a considéré que la décision spéciale ne faisait que reprendre, sans les modifier, les obligations figurant déjà dans la décision du 2 juillet 2003, qui revêtait l'autorité de la chose décidée. Elle a jugé que le recourant n'avait fait valoir aucune violation d'un droit fondamental inaliénable ni de motif de nullité susceptible de mettre en doute la validité de cette dernière décision. L'instance précédente a en particulier estimé que l'inactivité de l'autorité durant un laps de temps de dix ans, entre cette décision de remise en conformité et la décision spéciale du DDTE, du 29 novembre 2013, ne constituait pas un motif propre à réduire à néant l'ordre d'évacuer le matériel entreposé illicitement en zone agricole.
Le recourant conteste cette appréciation et l'on comprend de son argumentation qu'il se plaint spécialement d'une violation du principe de la bonne foi ancré à l'art. 9 Cst.; il soutient en particulier que l'entreposage du matériel électrique dans sa remise aurait été toléré par les autorités cantonales pendant une "quinzaine d'années" - sans que l'on comprenne toutefois comment il parvient à cette durée -, ce qui interdirait, selon lui, au DDTE d'en ordonner l'évacuation, dans sa décision spéciale du 29 novembre 2013.
5.4. Se prévaloir ainsi de la passivité des autorités sur une période prétendue de quinze ans, tout en reconnaissant pourtant que la question de l'évacuation du matériel électrique a fait l'objet d'une procédure judiciaire complète, achevée par l'arrêt du Tribunal administratif du 9 février 2006, confine à la témérité. L'existence de cette procédure exclut en soi que l'on puisse prêter au département une quelconque volonté d'accepter une situation contraire au droit, tout particulièrement hors de la zone à bâtir. De plus et contrairement à ce que soutient implicitement le recourant, une tolérance délibérée assimilable à une promesse liant l'administration ne saurait pas non plus être déduite de l'inaction du département, depuis l'arrêt du Tribunal administratif, jusqu'à sa décision spéciale. En effet, pour des raisons pratiques évidentes, il ne saurait être exigé de l'administration qu'elle procède à une surveillance systématique et continue de l'exécution de l'ensemble de ses décisions, l'autorité pouvant s'attendre à ce que l'administré s'y conforme de son propre chef; dans ce cadre, le recourant serait d'ailleurs malvenu - il ne s'y risque du reste pas - de prétendre qu'il aurait été de bonne foi en poursuivant l'entreposage de son matériel électrique en zone agricole au mépris de la décision du Tribunal administratif. Il n'apparaît ainsi pas critiquable d'avoir jugé que l'écoulement du temps ne constituait en l'espèce pas un motif susceptible de remettre en cause l'obligation de débarrasser ce matériel. Les circonstances ne commandent au demeurant pas de mettre le recourant au bénéfice d'un délai de péremption inférieur à celui de trente ans; ce dernier est d'ailleurs loin d'être échu, que l'on se fonde, comme la cour cantonale, sur le laps de temps compris entre la décision de remise en état et la décision spéciale du DDTE (dix ans), ou sur la durée de quinze ans alléguée par le recourant. La solution confirmée par le Tribunal cantonal s'impose enfin d'autant plus qu'elle tend à préserver un intérêt public évident, à savoir le respect du principe cardinal de la séparation de l'espace bâti et non bâti (cf. <ref-ruling> consid. 4.2.1 p. 398).
5.5. Manifestement mal fondé, ce grief doit être rejeté.
6.
Les considérants qui précèdent conduisent au rejet du recours dans la mesure de sa recevabilité, aux frais du recourant, qui succombe (<ref-law>). Compte tenu de l'issue du litige, un nouveau délai doit être imparti pour procéder à la remise en état, sous peine d'une exécution par substitution, aux frais du recourant, et de la sanction prévue par l'<ref-law>; ce point n'ayant fait l'objet d'aucune contestation, ce délai peut être arrêté à une durée équivalente à celle du délai initialement fixé par le DDTE.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3.
Le délai pour procéder à la remise en état est reporté au 31 mai 2017.
4.
Le présent arrêt est communiqué au mandataire du recourant, au Conseil communal de la Ville de La Chaux-de-Fonds, au Département du développement territorial et de l'environnement de la République et canton de Neuchâtel, au Conseil d'Etat de la République et canton de Neuchâtel, au Tribunal cantonal de la République et canton de Neuchâtel, Cour de droit public, ainsi qu'à l'Office fédéral du développement territorial.
Lausanne, le 18 janvier 2017
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Merkli
Le Greffier : Alvarez