Faits:
A.
En automne 2009, A._, agriculteur et propriétaire de la parcelle n° 2914 du cadastre de la commune des Bayards (NE) en nature de pâturages et d'environ deux hectares, y a procédé sans autorisation à une opération mécanique lourde (girobroyage), après avoir traité le sol à la barre avec un produit phytosanitaire.
Le Service neuchâtelois de la faune, des forêts et de la nature a dénoncé pénalement l'intéressé et l'a invité à déposer une demande d'autorisation, ce que celui-ci a fait le 19 décembre 2009. Une expertise sur les conséquences de l'opération pour le sol et l'écosystème a été réalisée par le laboratoire sol et végétation de l'Université de Neuchâtel, qui a remis son rapport le 20 avril 2010.
Par jugement du 24 novembre 2010, le Tribunal de police du district de Val-de-Travers a condamné A._ à une amende de 500 francs. Il a considéré que celui-ci savait que, selon les circonstances, le girobroyage nécessitait une autorisation et qu'il connaissait le statut de la zone, savoir celui d'un site naturel et paysager d'importance nationale. Le tribunal a estimé en revanche que la parcelle ne constituait pas un pâturage boisé et qu'une autorisation n'était donc pas requise à ce titre.
B.
Par décision du 17 janvier 2013, le Département cantonal de la gestion du territoire a refusé de délivrer une autorisation a posteriori d'effectuer une opération mécanique lourde sur le bien-fonds litigieux et a imparti à son propriétaire un délai d'un an pour prendre des mesures de réparation, faute de quoi elles seraient exécutées par substitution à ses frais par une entreprise forestière. Ces mesures consistent en la création d'aires de régénération ligneuse (trois surfaces d'au moins 36 m2 chacune) constituées d'un mélange défini d'arbres divers et protégés par des barrières permanentes ainsi qu'en la pâture extensive de la surface girobroyée. Par arrêt du 27 juin 2013, la Cour de droit public du Tribunal cantonal de la République et canton de Neuchâtel a rejeté le recours de A._ contre cette décision. Elle a en substance considéré que le refus de l'autorisation a posteriori n'était pas critiquable, vu le dommage considérable que l'intervention portait à un site protégé, et que la mesure de réparation imposée respectait le principe de proportionnalité. Elle a laissé indécise la qualification de pâturage boisé de la parcelle, dès lors que son appartenance à un site répertorié à l'inventaire fédéral des paysages, sites et monuments naturels (IFP) suffisait à justifier le refus de l'autorisation et la mesure de réparation.
C.
A._ interjette un recours en matière de droit public auprès du Tribunal fédéral. Il conclut à l'annulation de l'arrêt cantonal et à l'octroi en sa faveur de l'autorisation de girobroyer la parcelle n° 2914, subsidiairement au renvoi de la cause au Tribunal cantonal pour nouvelle décision dans le sens des considérants. La cour cantonale ne se détermine pas. Le Département cantonal du développement territorial et de l'environnement (qui a succédé au Département de la gestion du territoire) et l'Office fédéral de l'environnement (OFEV) déposent leurs observations; ils concluent l'un et l'autre au rejet du recours. Le recourant et le département cantonal se déterminent une seconde fois.
Par ordonnance du 24 septembre 2013, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif présentée par le recourant.

Considérant en droit:
1.
Le recours est formé contre un arrêt final rendu en dernière instance cantonale, dans une cause de droit public. Il est recevable au regard des art. 82 let. a, 86 al. 1 let. d et 90 LTF. Le recourant, particulièrement touché par l'arrêt attaqué qui confirme le refus d'autorisation de procéder à une intervention mécanique lourde sur sa parcelle ainsi que l'ordre de remise en état de ces lieux, a qualité pour agir au sens de l'<ref-law>. Les autres conditions de recevabilité sont réunies, si bien qu'il y a lieu d'entrer en matière.
2.
Dans son écriture, le recourant présente son propre état de fait, sans toutefois exposer en quoi celui de l'arrêt attaqué aurait été établi de manière manifestement inexacte ou en violation du droit au sens de l'<ref-law>, ni en quoi la correction du vice serait susceptible d'influer sur le sort de la cause (<ref-law>). Le Tribunal fédéral ne prend dès lors pas en considération la version présentée par le recourant et s'en tient à l'état de fait de l'arrêt cantonal.
3.
Le recourant fait valoir une violation de son droit d'être entendu pour deux motifs: il se plaint de ne pas avoir pu se déterminer sur la prise de position de l'autorité intimée devant le Tribunal cantonal, faute d'avoir été invité à le faire et en l'absence d'audience de jugement au cours de laquelle il aurait pu s'exprimer; il dénonce en outre le fait de ne pas avoir pu participer à l'élaboration de l'expertise de l'Université de Neuchâtel.
3.1. Compris comme l'un des aspects de la notion générale de procès équitable au sens des art. 29 Cst. et 6 CEDH, le droit d'être entendu garantit notamment le droit pour une partie à un procès de prendre connaissance de toute argumentation présentée au tribunal et de se déterminer à son propos, que celle-ci contienne ou non de nouveaux éléments de fait ou de droit, et qu'elle soit ou non concrètement susceptible d'influer sur le jugement à rendre. Il appartient en effet aux parties, et non au juge, de décider si une prise de position ou une pièce nouvellement versée au dossier contient des éléments déterminants qui appellent des observations de leur part. Pour garantir à la partie un droit effectif à la réplique, il peut suffire à l'autorité judiciaire de communiquer une prise de position (sans imposer de délai pour d'éventuelles observations), si l'on peut attendre de la partie - notamment lorsqu'elle est représentée par un avocat ou par une personne qui a de bonnes connaissances en droit - qu'elle dépose des observations immédiatement sans y avoir été invitée ou qu'elle requière la possibilité de le faire (<ref-ruling> consid. 2.4 p. 487). Pour que le droit à la réplique soit garanti, il faut toutefois que le tribunal laisse un laps de temps suffisant à la partie concernée, entre la remise des documents et le prononcé de sa décision, pour qu'elle ait la possibilité de déposer des observations si elle l'estime nécessaire à la défense de ses intérêts. Cette pratique peut certes engendrer une certaine incertitude, dès lors que la partie ignore de combien de temps elle dispose pour formuler une éventuelle prise de position. La Cour européenne des droits de l'homme a cependant admis la conformité du procédé avec l'art. 6 par. 1 CEDH, dès lors qu'il suffit à la partie de demander à l'autorité de pouvoir prendre position et de requérir la fixation d'un délai (arrêt Joos contre Suisse du 15 novembre 2012; <ref-ruling> consid. 2.4 p. 487). Pour résumer de manière plus générale la pratique, le Tribunal fédéral considère qu'un délai inférieur à dix jours ne suffit pas à garantir l'exercice du droit de répliquer, tandis qu'un délai supérieur à vingt jours permet, en l'absence de réaction, d'inférer qu'il a été renoncé au droit de répliquer (arrêts 2C_939/2013 du 31 mars 2014 consid. 2.4; 8C_1032/2012 du 17 décembre 2013 consid. 3.2; 9C_193/2013 du 22 juillet 2013 consid. 2.1.2; 5A_155/2013 du 17 avril 2013 consid. 1.4; 1B_407/2012 du 21 septembre 2012 consid. 2.2).
Le recourant, représenté par un avocat, ne démontre pas avoir reçu copie des déterminations de l'autorité intimée trop tardivement pour pouvoir y réagir avant la reddition de l'arrêt cantonal. Cette écriture est datée du 29 avril 2013 et le Tribunal cantonal a rendu son arrêt le 27 juin 2013, soit environ deux mois plus tard. Conformément à la jurisprudence, un tel délai suffit et le seul fait de ne pas avoir été invité à procéder ne constitue pas une violation du droit d'être entendu. La demande d'audition de témoins "en cas de besoin" présentée par l'autorité intimée n'était par ailleurs pas de nature à conforter le recourant dans l'idée qu'une audience, au cours de laquelle il allait pouvoir faire valoir ses déterminations, allait être tenue, ce d'autant qu'il ne l'avait pas lui-même requise. Aussi la cour cantonale n'a-t-elle pas violé son droit d'être entendu en statuant deux mois après lui avoir transmis la réponse de l'autorité intimée, sans l'avoir expressément invité à répliquer.
3.2. Le droit d'être entendu comprend également le droit pour le justiciable de s'expliquer avant qu'une décision ne soit prise à son détriment, celui de fournir des preuves quant aux faits de nature à influer sur le sort de la décision, celui d'avoir accès au dossier, celui de participer à l'administration des preuves, d'en prendre connaissance et de se déterminer à leur propos (<ref-ruling> consid. 2.3 p. 282; <ref-ruling> consid. 3.1 p. 370 et les réf.).
Il ressort du dossier que le recourant a levé copie du dossier du département cantonal, dont faisait partie l'expertise. Il a donc pu en prendre connaissance et aurait pu se déterminer à son sujet. Or, ni devant cette autorité, ni devant le tribunal cantonal, le recourant n'a critiqué cette pièce, n'a exprimé le souhait d'en clarifier certains aspects ou n'a requis de complément d'expertise. Il était pourtant en mesure de le faire et il n'expose pas pour quelles raisons il a omis de se manifester à cet égard. Le grief est dès lors mal fondé.
4.
Le recourant se plaint ensuite d'arbitraire dans l'application du droit cantonal. Il prétend que la cour cantonale n'a pas examiné les conditions d'octroi d'une autorisation d'effectuer une opération mécanique lourde sur sa parcelle. Il relève en particulier l'absence de pesée des intérêts en cause.
4.1. Le Tribunal fédéral applique le droit fédéral d'office (<ref-law>). En revanche, il ne revoit l'interprétation et l'application du droit cantonal et communal que sous l'angle de l'arbitraire. Il ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. Si l'application de la loi défendue par l'autorité cantonale ne se révèle pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - même préférable - paraît possible (<ref-ruling> consid. 2.4 p. 5; <ref-ruling> consid. 4.2 p. 560).
L'art. 2 de l'arrêté neuchâtelois du 13 avril 2005 sur les opérations mécaniques lourdes dans les milieux naturels (RSN 461.107), soumet certaines opérations mécaniques à autorisation, celle-ci étant délivrée si aucun intérêt public prépondérant lié à la protection de la nature et du paysage ne s'y oppose (al. 2). Selon la teneur de l'art. 2 al. 1 en vigueur jusqu'au 12 mai 2010, il s'agissait des opérations intervenant dans les pâturages boisés (let. a), dans les pâturages situés en zone d'estivage (let. b), dans les sites naturels et paysagers (let. c) dans les périmètres figurant dans les données de base du projet d'inventaire des prairies et pâturages secs de Suisse (let. d), dans les périmètres figurant à l'inventaire des biotopes, objets géologiques et sites naturels d'importance régionale que l'Etat entend mettre sous protection (let. e). Actuellement, l'art. 2 al. 1 de l'arrêté soumet à autorisation les interventions dans les pâturages situés en zone de montagne et en zone d'estivage (let. a), dans les sites naturels et paysagers d'importance nationale désignés par le Conseil fédéral (inventaire IFP) (let. b), dans les périmètres figurant dans les données de base de l'inventaire fédéral des prairies et pâturages secs d'importance nationale, mais non retenus dans ledit inventaire (let. c), dans les périmètres figurant à l'inventaire des biotopes, objets géologiques et sites naturels d'importance régionale que l'Etat entend mettre sous protection (let. d).
4.2. La cour cantonale a tout d'abord constaté que la parcelle litigieuse était située dans le périmètre d'un objet classé à l'IFP. Elle s'est expressément référée au rapport établi par l'Université de Neuchâtel pour qualifier le dommage de considérable, vu le cumul du traitement phytosanitaire et du girobroyage. La cour cantonale fait manifestement sienne l'analyse de cette expertise, détaillée et documentée, qui conclut à une atteinte irréversible à la diversité des sols et de la faune qui en dépend. Partant, l'intervention mécanique effectuée par le recourant se révèle fondamentalement incompatible avec l'intérêt à la protection de la nature et du paysage, gravement compromis en l'espèce, dans un site dont la valeur est reconnue d'importance nationale. Cette appréciation, qui se fonde sur les circonstances particulières du cas, prend en considération l'étendue de l'intervention, son ampleur et son incidence sur la nature et le paysage protégés. Elle prend également en considération, en contrepartie, l'intérêt que le recourant avait à procéder à cette opération, savoir la suppression des roches et des chardons pour faciliter et améliorer l'exploitation et le rendement de sa parcelle. La pesée de tous les intérêts en cause, requise par l'art. 2 al. 2 de l'arrêté sur les opérations mécaniques lourdes dans les milieux naturels, a ainsi été effectuée, et le recourant ne démontre pas que la cour cantonale aurait appliqué cette disposition de façon arbitraire.
5.
Le recourant critique le fait que l'arrêt attaqué n'ait pas tranché la question de savoir si son terrain constituait un pâturage boisé, alors que la décision du département s'était notamment fondée sur cet élément pour refuser l'autorisation (en dépit de ce que le juge pénal avait réfuté cette qualification).
Au vu de l'appartenance du bien-fonds à un objet IFP, la cour cantonale a laissé indécise la question de savoir s'il s'agissait d'un pâturage boisé, dès lors que l'art. 2 de l'arrêté cantonal était quoi qu'il en soit applicable et une autorisation requise aux conditions de l'al. 2 de cette disposition. La critique du recourant est uniquement dirigée contre la décision du département (et la qualification de pâturage boisé) et non contre l'argumentation développée par la cour cantonale. Elle est par conséquent sans pertinence.
6.
Le recourant s'en prend encore à la proportionnalité des mesures de réparation qui lui sont imposées. Il se plaint de ce que l'obligation de planter des arbres soit sans rapport avec le girobroyage effectué et fait valoir que cette mesure porte une atteinte excessive à son droit de propriété: elle conduirait selon lui à donner à sa parcelle la qualité de pâturage boisé, type de terrain pour lequel les conditions d'exploitation seraient beaucoup plus strictes et les opérations mécaniques lourdes désormais purement interdites.
6.1. La garantie de la propriété ancrée à l'art. 26 al. 1 Cst. n'est pas absolue. Comme tout droit fondamental, elle peut être restreinte aux conditions fixées à l'art. 36 Cst. La restriction doit ainsi notamment respecter le principe de la proportionnalité. Ce principe exige que les mesures mises en oeuvre soient propres à atteindre le but visé (règle de l'aptitude) et que celui-ci ne puisse être atteint par une mesure moins contraignante (règle de la nécessité); il doit en outre y avoir un rapport raisonnable entre ce but et les intérêts compromis (principe de la proportionnalité au sens étroit, impliquant une pesée des intérêts) (<ref-ruling> consid. 3.1 p. 246). Le Tribunal fédéral vérifie librement les questions de l'intérêt public et de la proportionnalité, en s'imposant toutefois une certaine réserve lorsqu'il s'agit de tenir compte de circonstances locales ou de trancher de pures questions d'appréciation (<ref-ruling> consid. 4.3 p. 416; <ref-ruling> consid. 4.1 p. 344).
Selon l'art. 6 al. 1 de la loi fédérale sur la protection de la nature et du paysage (LPN; RS 451), l'inscription d'un objet d'importance nationale dans un inventaire fédéral indique que l'objet mérite spécialement d'être conservé intact ou en tout cas d'être ménagé le plus possible, y compris au moyen de mesures de reconstitution ou de remplacement adéquates. Celui qui y porte atteinte peut être tenu d'annuler les effets des mesures prises illicitement, de prendre à sa charge les frais occasionnés par la réparation du dommage et de fournir une compensation appropriée lorsque le dommage ne peut être réparé (<ref-law>). L'art. 4 de l'arrêté cantonal sur les opérations mécaniques lourdes dans les milieux naturels prévoit par ailleurs que toute opération mécanique illicite donne lieu à réparation, aux conditions fixées par la loi cantonale sur la protection de la nature (LCPN; RSN 461.10). La réparation s'exécute en principe en nature, par la remise en état, la reconstitution ou, à défaut, le remplacement adéquat du bien-fonds ou de l'objet touché (art. 40 al. 1 LCPN).
6.2. Selon l'arrêt attaqué et l'expertise universitaire sur laquelle il se fonde, l'atteinte causée est en bonne partie impossible à réparer en raison de la modification irréversible de la structure du sol. C'est pour cette raison que le département a ordonné une mesure de réparation qui tend à une compensation qualitativement différente des dégâts causés par le recourant. Comme le relève la cour cantonale, la plantation d'arbres permet non seulement de revaloriser le paysage, mais également de favoriser la régénération du sol. L'OFEV souligne au demeurant la pertinence de la mesure au vu des circonstances. Dès lors que ni une remise en état des lieux, ni une reconstitution, ni même un remplacement n'étaient possibles, cette mesure permet à tout le moins de compenser la moins-value écologique et paysagère engendrée par l'intervention mécanique faite par le recourant. Elle se révèle ainsi apte à atteindre le but visé par les réglementations fédérale et cantonale en matière de protection de la nature et du paysage.
Ensuite, du point de vue des inconvénients que la mesure de compensation suppose pour l'exploitation future de la parcelle, l'atteinte au droit de propriété du recourant n'est pas aussi importante que celui-ci tente de le faire valoir. S'il est effectivement possible que cette mesure modifie la nature juridique du pâturage qui serait alors qualifié de pâturage boisé (encore qu'il n'est pas démontré que tel n'était pas déjà le cas), les conséquences alléguées sont minimes. D'une part en effet, une interdiction complète de procéder à des opérations mécaniques lourdes n'est que peu aggravante par rapport au régime de l'autorisation: le recourant bénéficie des effets du girobroyage litigieux qu'il a opéré sur toute sa parcelle et on ne voit au surplus pas quelles autres nouvelles interventions il espère se voir autoriser à moyen terme. D'autre part, la décision impose trois surfaces de régénération ligneuse d'au minimum 36 m2 chacune, soit au total un peu plus d'une centaine de m2 sur une parcelle d'environ 20'000 m2, ce qui constitue une entrave négligeable à l'exploitation de la parcelle. Comme le relève l'OFEV, cela semble même peu pour remédier à l'ensemble des atteintes causées par le girobroyage.
Quant à la durée de la procédure, qui s'explique notamment par les circonstances particulières de la demande d'autorisation ( a posterioriet non préalablement aux travaux), par les besoins d'une expertise et par le déroulement de la procédure pénale, elle ne saurait minimiser l'intérêt public à la réparation de l'atteinte, dès lors qu'il y va de la protection d'un site naturel et paysager dont la conservation doit être assurée sur le long terme.
La mesure de réparation ordonnée au recourant se révèle ainsi conforme au principe de la proportionnalité.
7.
Sur le vu des considérants qui précèdent, le recours doit être rejeté et l'arrêt attaqué confirmé. Le recourant, qui succombe, supportera les frais de la présente procédure (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 3'000 francs, sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Département du développement territorial et de l'environnement de la République et canton de Neuchâtel, au Tribunal cantonal de la République et canton de Neuchâtel et à l'Office fédéral de l'environnement.
Lausanne, le 17 avril 2014
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Sidi-Ali