Faits :
A.
A._ SA est propriétaire de la parcelle n° 3934 de l'ancienne commune de Charrat (qui a fusionné avec la commune de Martigny depuis le 1er janvier 2021), sise en zone agricole.
Le 14 mars 2016, un inspecteur du Secrétariat et police des constructions du canton du Valais a constaté que la parcelle n° 3934 avait complètement perdu sa vocation agricole et était utilisée en tant que dépôt d'entreprise; de plus, une haie de thuyas d'environ 3 m de hauteur avait été plantée le long des limites nord, sud et est de la parcelle, une clôture avait été placée sur son pourtour et des portails avaient été installés au sud et au nord-ouest.
Invitée à se déterminer, A._ SA a exposé que la parcelle en question était au bénéfice d'une décision constatatoire du 25 octobre 1994 du Département de l'économie publique du canton du Valais qui constatait qu'elle n'était pas un immeuble agricole au sens de l'art. 6 de la loi fédérale du 4 octobre 1991 sur le droit foncier rural (LDFR; RS 211.412.11).
Par décision du 9 juin 2016, la Commission cantonale des constructions du canton du Valais (ci-après: la CCC) a jugé que les aménagements litigieux ne pouvaient pas faire l'objet d'une autorisation de construire a posteriori, a ordonné à A._ SA de remettre la parcelle n° 3934 dans son état antérieur jusqu'au 31 décembre 2016 (évacuation complète de tous le matériel stocké, démontage et évacuation des structures de stockage, des clôtures, portails et haies) et de procéder à une revégétalisation naturelle du sol. Elle a toléré le maintien de la clôture sur la limite séparant la zone artisanale et industrielle de la zone agricole.
Par décision du 9 décembre 2020, le Conseil d'Etat du canton du Valais (ci-après: le Conseil d'Etat) a rejeté le recours déposé par A._ SA contre la décision du 9 juin 2016.
Par arrêt du 5 juillet 2021, la Cour de droit public du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a rejeté le recours formé par A._ SA contre la décision du 9 décembre 2020.
B.
Agissant par la voie du recours en matière de droit public, A._ SA demande au Tribunal fédéral d'annuler l'arrêt du 5 juillet 2021 et la décision du 9 juin 2016 confirmée par la décision du 9 décembre 2020 et de ne pas prononcer d'ordre de remise en état des lieux de la parcelle n° 3934.
Le Tribunal cantonal renonce à se déterminer. Le Conseil d'Etat se réfère à l'arrêt attaqué. L'Office fédéral du développement territorial conclut au rejet du recours.
Par ordonnance du 2 septembre 2021, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif présentée par la recourante.

Considérant en droit :
1.
Dirigé contre une décision finale (art. 90 LTF) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans le domaine du droit public des constructions (art. 82 let. a LTF), le recours est en principe recevable comme recours en matière de droit public selon les art. 82 ss LTF, aucune des exceptions prévues à l'art. 83 LTF n'étant réalisée.
La recourante a pris part à la procédure de recours devant le Tribunal cantonal. En tant que destinataire de l'ordre de remise en état relatif à la parcelle dont elle est propriétaire, elle peut se prévaloir d'un intérêt personnel et digne de protection à l'annulation de l'arrêt attaqué. Elle a dès lors qualité pour recourir au sens de l'art. 89 al. 1 LTF.
Les autres conditions de recevabilité sont au surplus réunies, si bien qu'il y a lieu d'entrer en matière.
2.
Dans un grief d'ordre formel qu'il convient d'examiner en premier lieu, la recourante se plaint d'une appréciation arbitraire des preuves (art. 29 Cst. et 8 CC).
2.1. Garanti à l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit pour l'intéressé d'offrir des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes et de participer à l'administration des preuves essentielles lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 7.2.2.1 et les références citées). L'autorité peut cependant renoncer à procéder à des mesures d'instruction lorsque les preuves administrées lui ont permis de forger sa conviction et que, procédant d'une manière non arbitraire à une appréciation anticipée des preuves qui lui sont encore proposées, elle a la certitude que ces dernières ne pourraient l'amener à modifier son opinion (<ref-ruling> consid. 4.1 et les arrêts cités). Dans ce contexte, le recourant est soumis aux exigences accrues de motivation de l'art. 106 al. 2 LTF.
2.2. En l'occurrence, la recourante reproche d'abord à la cour cantonale d'avoir refusé l'édition du dossier de la CCC en lien avec les travaux menés par B._ SA. Elle affirme que ce dossier aurait dû permettre à l'autorité de contrôler si effectivement il existait une inégalité de traitement avec le présent cas. La cour cantonale a refusé de donner suite à ce moyen de preuve par appréciation anticipée, la recourante n'ayant pas démontré que les conditions nécessaires à l'application du principe de l'égalité dans l'illégalité étaient remplies. La recourante, qui ne se prévaut plus de la violation de l'égalité de traitement devant le Tribunal fédéral, n'expose pas en quoi cette mesure d'instruction aurait une incidence sur l'issue du présent litige. Elle ne prétend pas non plus que les conditions nécessaires à l'application du principe de l'égalité dans l'illégalité seraient remplies.
La recourante a ensuite sollicité l'édition de tout dossier du Service du développement territorial et du Service de l'agriculture du canton du Valais en lien avec la parcelle n° 3934. Elle soutient que cela aurait permis d'établir les dates auxquelles le terrain était utilisé à des fins agricoles ou non, et à quel titre. A nouveau, cet élément n'est pas susceptible d'avoir une incidence sur l'issue du litige dans la mesure où tant l'état d'occupation non agricole de la parcelle depuis des décennies que la décision de non-assujettissement à la LDFR du 25 octobre 1994 ont été pris en compte dans la pesée des intérêts (voir infra consid. 5).
Le grief d'appréciation arbitraire des preuves doit ainsi être écarté.
3.
La recourante fait ensuite valoir une violation de l'obligation de motiver (art. 29 al. 2 Cst.).
3.1. Le droit d'être entendu consacré à l'art. 29 al. 2 Cst. implique aussi pour l'autorité l'obligation de motiver sa décision. Il suffit que le juge mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause (<ref-ruling> consid. 5.2). L'autorité n'a toutefois pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais peut au contraire se limiter à l'examen des questions décisives pour l'issue du litige (<ref-ruling> consid. 4.2). La motivation peut pour le reste être implicite et résulter des différents considérants de la décision (<ref-ruling> consid. 3.2.1).
3.2. En l'espèce, la recourante reproche à la cour cantonale de ne pas avoir répondu à son grief relatif au fait qu'il était incohérent que la parcelle n o 3934 soit attribuée à une surface d'assolement puisqu'elle était au bénéfice d'une mention de non-affectation agricole.
A cet égard, la recourante se réfère cependant uniquement à une observation figurant dans le préavis du Service du développement territorial cantonal invité à se déterminer devant la CCC. Le Conseil d'Etat, tout comme la CCC, n'a cependant pas pris en compte dans son raisonnement le fait que la parcelle n° 3934 était attribuée à une surface d'assolement. La cour cantonale s'est donc à bon droit limitée à l'examen des questions décisives pour l'issue du litige. Elle n'a ainsi pas violé son obligation de motiver.
4.
La recourante reproche encore au Tribunal cantonal de ne pas avoir suffisamment pris en compte le fait que la parcelle litigieuse ne présentait pas les qualités des surfaces d'assolement, étant utilisée à des fins non agricoles depuis des décennies (qui plus est en tenant compte du fait qu'elle était utilisée comme parking au restaurant attenant). Elle fait aussi grief à la cour cantonale de ne pas avoir assez tenu compte de la décision de non-affectation agricole du 25 octobre 1994 dans sa pesée des intérêts. Elle se prévaut à cet égard d'un établissement manifestement inexact des faits.
En réalité, la recourante ne conteste pas l'établissement de faits mais l'appréciation juridique de la cour cantonale. Son grief se confond ainsi avec celui de la violation du principe de la proportionnalité et de la bonne foi. Il s'agit d'une question de droit qui sera examinée avec le fond (voir infra consid. 5). En ce sens, le grief d'établissement arbitraire des faits est irrecevable.
5.
Il n'est pas contesté que la parcelle litigieuse se trouve en zone agricole et que les aménagements litigieux ne peuvent pas être mis au bénéfice d'une autorisation de construire a posteriori au sens de l'art. 24c LAT. La recourante soutient en revanche que l'ordre de remise en état des lieux ne respecte ni le principe de la bonne foi, ni le principe de la proportionnalité, ni celui de l'interdiction de l'arbitraire.
5.1. Lorsque des constructions ou des installations illicites sont réalisées en dehors de la zone à bâtir, le droit fédéral exige en principe que soit rétabli un état conforme au droit. Le principe de la séparation de l'espace bâti et non bâti, qui préserve différents intérêts publics, est de rang constitutionnel; il fait partie intégrante de la notion d'utilisation mesurée du sol de l'art. 75 al. 1 Cst. (<ref-ruling> consid 5.5; cf. Message du Conseil fédéral du 20 janvier 2010 relatif à une révision partielle de la LAT, FF 2010 964 ch. 1.2.1 et 973 ch. 2.1; cf. art. 14 al. 2, 16 al. 1, 22 al. 2 let. a et 24 ss LAT). Cette séparation doit par conséquent, en dehors des exceptions prévues par la loi, demeurer d'application stricte. Si des constructions illégales, contraires au droit de l'aménagement du territoire, sont indéfiniment tolérées en dehors de la zone constructible, le principe de la séparation du bâti et du non-bâti est remis en question et un comportement contraire au droit s'en trouve récompensé. S'ajoute à cela que la remise en état poursuit encore d'autres intérêts publics, à savoir la limitation du nombre et des dimensions des constructions en zone agricole (<ref-ruling> consid. 6.4) ainsi que le respect du principe de l'égalité devant la loi (arrêt 1C_418/2021 du 10 mars 2022 consid. 3.1).
5.1.1. L'autorité peut renoncer à un ordre de démolition, conformément au principe de la proportionnalité, si les dérogations à la règle sont mineures, si l'intérêt public lésé n'est pas de nature à justifier le dommage que la démolition causerait au maître de l'ouvrage, si celui-ci pouvait de bonne foi se croire autorisé à construire ou encore s'il y a des chances sérieuses de faire reconnaître la construction comme conforme au droit (<ref-ruling> consid. 6; <ref-ruling> consid. 3a/bb). Celui qui place l'autorité devant un fait accompli doit s'attendre à ce que celle-ci se préoccupe plus de rétablir une situation conforme au droit que d'éviter les inconvénients qui en découlent pour lui (ATF <ref-ruling> consid. 4a).
5.1.2. A l'inverse de ce qui prévaut pour les zones à bâtir, l'obligation de rétablir un état conforme au droit ne s'éteint pas après 30 ans s'agissant de bâtiments et installations érigés illégalement en dehors de la zone à bâtir (<ref-ruling> consid. 4 et 5). En particulier, s'il peut certes être tenu compte de situations exceptionnelles par le biais de solutions spécifiques, notamment par la fixation d'un délai de remise en état plus long, une utilisation illégale, qui contrevient au principe fondamental en matière d'aménagement du territoire de la séparation du territoire bâti et non bâti, ne doit pas se poursuivre indéfiniment sur la base du simple écoulement du temps (<ref-ruling> consid. 5.5 et 5.6).
5.1.3. Découlant directement de l'art. 9 Cst. et valant pour l'ensemble de l'activité étatique, le principe de la bonne foi protège le citoyen dans la confiance légitime qu'il met dans les assurances reçues des autorités, lorsqu'il a réglé sa conduite d'après des décisions, des déclarations ou un comportement déterminé de l'administration. Selon la jurisprudence, un renseignement ou une décision erronés de l'administration peuvent obliger celle-ci à consentir à un administré un avantage contraire à la réglementation en vigueur, à condition que l'autorité soit intervenue dans une situation concrète à l'égard de personnes déterminées, qu'elle ait agi ou soit censée avoir agi dans les limites de ses compétences et que l'administré n'ait pas pu se rendre compte immédiatement de l'inexactitude du renseignement obtenu. Il faut encore qu'il se soit fondé sur les assurances ou le comportement dont il se prévaut pour prendre des dispositions auxquelles il ne saurait renoncer sans subir de préjudice, que la réglementation n'ait pas changé depuis le moment où l'assurance a été donnée et que l'intérêt à l'application correcte du droit n'apparaisse pas prépondérant (<ref-ruling> consid. 3.6.2). Dans le cadre de la jurisprudence relative aux comportements contradictoires de l'administration, autre aspect du principe de la bonne foi, le respect des règles de la bonne foi par l'administration doit être examiné selon des critères objectifs, indépendamment de la personne des agents en cause; aussi l'administration peut-elle être rendue responsable d'un comportement contradictoire, même si celui-ci est dû à des personnes différentes, au besoin à l'insu des unes et des autres (<ref-ruling> consid. 2a; arrêt 1C_60/2021 du 27 juillet 2021 consid. 3.3.1).
5.1.4. En règle générale, le Tribunal fédéral examine librement si un ordre de remise en état, qui constitue une restriction du droit de propriété garanti par l'art. 26 al. 1 Cst., est justifié par un intérêt public suffisant et respecte le principe de la proportionnalité (arrêt 1C_197/2021 du 12 novembre 2021 consid. 2.1.3).
5.2. En l'espèce, la recourante soutient que plusieurs éléments n'auraient pas été pris en compte intégralement par le Tribunal cantonal dans sa pesée des intérêts. Elle met en évidence le fait que la parcelle n° 3934 est contiguë à une zone industrielle et ne présente plus d'affectation agricole depuis des décennies (depuis 1988) ainsi que le fait qu'elle a acquis ce terrain en vue d'y développer une activité industrielle, puisque le dépôt et le siège de l'entreprise, érigés en zone industrielle, sont directement attenants à cette parcelle. Elle insiste aussi sur la mention de non-affectation agricole au sens de la LDFR de la parcelle.
Ces éléments doivent être pris en compte dans la pesée des intérêts en présence. En l'absence de tout délai de prescription (<ref-ruling> consid. 5.5), ils ne suffisent cependant pas à rendre mineures les dérogations à la règle de séparation du bâti et du non bâti. En effet, ces dérogations s'étendent sur une parcelle de 7'783 m2. Les aménagements réalisés (dépôt et entreposage de matériaux, installation d'une haie dépassant les dimensions légales), typiques d'un environnement industriel et non agricole, constituent une modification d'affectation importante. De plus, le déplacement du matériel litigieux peut certes compliquer momentanément l'exercice de l'activité de l'intéressée mais ne constitue pas un obstacle à long terme. L'impact négatif pour l'entreprise qui ne disposerait plus d'un dépôt à proximité de son siège et l'intérêt purement économique (au demeurant non chiffré) de la recourante ne suffisent pas pour l'emporter sur l'intérêt public.
Par conséquent, la cour cantonale n'a pas violé les principes de la proportionnalité et de l'interdiction de l'arbitraire lorsqu'elle a retenu que l'intérêt public à une utilisation mesurée du sol veillant à une séparation entre l'espace bâti et non bâti devait l'emporter sur l'intérêt privé de la recourante à disposer d'un site de stockage proche de son entreprise.
5.3. S'agissant de la bonne foi, la recourante expose qu'elle s'est fiée à la décision du 25 octobre 1994 du Département de l'économie publique qui constate que la parcelle n° 3934 n'est pas un immeuble agricole au sens de l'art. 6 LDFR et n'est pas en conséquence assujettie à la LDFR. Elle expose que la lecture d'une telle décision par un citoyen sans connaissances particulières prête forcément à confusion et qu'elle pouvait de bonne foi considérer que la parcelle était exempte de toute disposition en lien avec les parcelles agricoles. Elle relève aussi qu'au moment de son acquisition en 2003, la parcelle avait déjà été aménagée et servait de parking à un restaurant, ce qui lui laissait croire qu'elle pourrait en jouir d'une manière similaire en y entreposant du matériel: elle ne pouvait se douter que l'entreposage de matériel constituait une construction soumise à autorisation de construire. Elle rappelle enfin qu'elle a acquis la parcelle car une mention de non-affectation agricole était inscrite et car la vocation agricole du terrain avait cessé dès 1988 selon le constat du 11 mars 2016 du Secrétariat et police des constructions.
5.3.1. Il faut rappeler à cet égard que la constatation du non-assujettissement a pour conséquence que l'immeuble est définitivement exclu du champ d'application de la LDFR et peut dès lors, en particulier, être aliéné sans restrictions quant à la personne de l'acquéreur et au prix d'acquisition (<ref-ruling> consid. 3.5.2).
Cela étant, même assortie d'une mention (art. 86 LDFR), la décision constatatoire de l'autorité foncière au sens de l'art. 84 LDFR n'a toutefois nullement pour effet d'attribuer à la zone à bâtir le bien-fonds désassujetti: seul un changement du régime des zones, à savoir un passage de la parcelle en zone constructible, permettrait en principe d'aboutir à un tel résultat. Ainsi, le bien-fonds désassujetti reste soumis aux règles relatives aux zones inconstructibles. Le désassujettissement n'a aucune conséquence quant à l'utilisation permise des parcelles concernées au regard des dispositions régissant l'aménagement du territoire. En particulier, toute transformation d'un ouvrage existant, cas échéant, et toute édification d'un nouvel ouvrage demeurent subordonnées comme auparavant à une autorisation de construire à délivrer par l'autorité cantonale compétente en matière de construction hors zone à bâtir (cf. art. 25 al. 2 LAT) (YVES DONZALLAZ, Traité de droit agraire suisse, tome 2, Berne 2006, n. 1937; FRANÇOIS ZÜRCHER, La coordination entre aménagement du territoire et droit foncier rural: quand? pourquoi? comment?, in: Territoire et Environnement 2004, ch. 1.2 p. 3).
En d'autres termes, afin d'éviter que l'avantage du désassujettissement de la LDFR, qui est de remettre le fonds concerné sur le marché libre, ne soit accordé à des constructions et installations illicites, la légalité des constructions et installations existantes doit être confirmée par l'autorité compétente en matière de constructions hors zone à bâtir. Cette pratique a été codifiée à l'art. 4a al. 1 de l'ordonnance sur le droit foncier rural (ODFR; RS 211.412.110), entré en vigueur le 1er septembre 2000. Cette disposition prévoit que dans la procédure d'octroi d'une décision de non-application de la LDFR, l'autorité compétente en matière d'autorisation au sens de cette loi transmet le dossier pour décision à l'autorité cantonale compétente en matière de construction hors de la zone à bâtir (art. 25 al. 2 LAT) lorsqu'une construction ou une installation se trouve sur le bien-fonds concerné et qu'elle est située hors de la zone à bâtir au sens du droit de l'aménagement du territoire.
5.3.2. Il résulte de ce qui précède que, même si la recourante était au bénéfice d'une décision de non-assujettissement à la LDFR, cette décision ne permettait pas de procéder à des aménagements sur cette parcelle, sans tenir compte des règles appliquées à la zone agricole. La décision du 25 octobre 1994 ne constitue pas une mesure de planification respectant les procédures imposées par la LAT (art. 33 LAT). La recourante qui n'a jamais déposé une demande d'autorisation de bâtir et qui n'a reçu aucune assurance d'une autorité compétente en matière d'aménagement du territoire ne peut donc rien déduire de la décision du 25 octobre 1994 au regard de la bonne foi et de la réglementation relative à l'aménagement du territoire.
Par ailleurs, la recourante ne peut rien tirer non plus du point de vue de la bonne foi du fait, regrettable, que le Conseil d'Etat a mis plus de quatre ans pour rendre sa décision. Cela ne saurait valoir assurances particulières de l'autorité au sens de la jurisprudence susmentionnée.
Le Tribunal cantonal n'a ainsi pas violé le principe de la bonne foi en confirmant l'ordre de remise en état litigieux.
6.
Le recours doit par conséquent être rejeté dans la mesure de sa recevabilité, aux frais de la recourante qui succombe (art. 65 et 66 al. 1 LTF). Il n'y a pas lieu d'allouer des dépens (art. 68 al. 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure de sa recevabilité.
2.
Les frais judiciaires, arrêtés à 4'000 fr., sont mis à la charge de la recourante.
3.
Le présent arrêt est communiqué au mandataire de la recourante, au Conseil d'Etat du canton du Valais, à la Commune de Martigny, à la Cour de droit public du Tribunal cantonal du canton du Valais, et à l'Office fédéral du développement territorial.
Lausanne, le 25 avril 2022
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Juge présidant : Chaix
La Greffière : Tornay Schaller