Faits:
A. A._ est propriétaire de la parcelle n° 9'630 du registre foncier de la commune de Conthey, sise au lieu-dit "Les Rayes", en dessous du village d'Aven. D'une superficie de 5'773 m2, cette parcelle est classée en zone viticole protégée selon le plan d'affectation des zones et le règlement communal des constructions et des zones (ci-après: RCCZ), homologués par le Conseil d'Etat le 10 juin 1997. La société X._ SA est locataire exploitante de ce terrain.
Lors d'un contrôle effectué le 25 juin 2008, la police des constructions de la Commission cantonale des constructions du canton du Valais (ci-après: la CCC) a constaté que la parcelle en cause autrefois plantée de vignes en lignes verticales avait été défoncée et replantée en terrasses horizontales. Pour éviter l'érosion et les glissements de terrain, les talus en forte pente nouvellement créés avaient été recouverts de nattes en géotextile blanc. Ces travaux étaient nettement visibles depuis la plaine du Rhône, le terrain apparaissant recouvert d'une bâche blanche.
Invitée à se déterminer sur ces travaux réalisés sans autorisation, X._ SA a indiqué que la configuration du terrain avait été modifiée par souci de sécurité et de rationalisation du travail. Le feutre perméable en géotextile devait consolider les terrasses et prévenir tout risque de glissement de terrain; en outre, ce textile servait de support de semence pour le gazon, de sorte qu'il devait à terme disparaître sous les herbes.
Le 28 juillet 2008, la CCC a notifié à X._ SA un ordre de remise en état des lieux (suppression de la vigne en terrasses, reconstitution des profils antérieurs du terrain et évacuation des géotextiles).
B. Parallèlement au recours interjeté contre la décision de la CCC, X._ SA a déposé une demande de permis de construire pour les travaux litigieux auprès de la Commune de Conthey. La mise à l'enquête publique a suscité quatre oppositions dont celle du WWF Suisse. La Commune de Conthey a préavisé positivement l'aménagement de la vigne en terrasses, mais s'est opposée à l'installation des nattes en géotextile. Par décision du 26 mai 2009, la CCC a autorisé l'aménagement du vignoble en terrasses; en revanche, elle a confirmé l'ordre d'évacuation du géotextile en se référant aux préavis émis par plusieurs services cantonaux spécialisés (Service de l'aménagement du territoire; Service de la protection de l'environnement; Service des forêts et du paysage; Service de l'agriculture). La CCC précisait également que si une consolidation des terrains était indispensable, seul un matériau de revêtement biodégradable pouvait être utilisé; en outre, l'impact sur le paysage devait être limité au minimum.
Le 14 avril 2010, le Conseil d'Etat du canton du Valais a rejeté le recours déposé par l'intéressée contre la décision précitée.
Par arrêt du 28 janvier 2011, le Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a écarté le recours de X._ SA contre la décision du Conseil d'Etat. Il a considéré que la pose des nattes en géotextile nécessitait une autorisation de construire, que l'intéressée ne pouvait bénéficier d'une telle autorisation et que l'ordre de remise en état des lieux devait être confirmé.
C. Agissant par la voie du recours en matière de droit public, X._ SA demande au Tribunal fédéral d'annuler l'arrêt du Tribunal cantonal confirmant la décision de la CCC.
Le Tribunal cantonal et la CCC renoncent à se déterminer. Aux termes de ses observations, le Conseil d'Etat se rallie aux considérants de l'arrêt attaqué et conclut au rejet du recours. Quant à la Commune de Conthey, elle constate que bien que l'installation du géotextile ait initialement porté atteinte au paysage, son effet s'atténue avec le temps et la végétation; en outre, ces nattes contribuent au maintien du sol. Le Département fédéral de l'environnement, des transports, de l'énergie et de la communication (DETEC) a renoncé à se prononcer.
Considérant en droit:
1. 1.1 La voie du recours en matière de droit public (art. 82 ss LTF) est ouverte contre une décision prise par une autorité cantonale de dernière instance dans une contestation portant sur l'application du droit de l'aménagement du territoire et des constructions. En tant que requérante dont l'autorisation de construire a été refusée et destinataire de l'ordre de remise en état des lieux, X._ SA a qualité pour recourir au sens de l'art. 89 al. 1 LTF. Pour le surplus, les conditions de recevabilité sont remplies, si bien qu'il y a lieu d'entrer en matière.
1.2 Dans la procédure de recours, la recourante produit deux articles parus dans une revue spécialisée les 4 mars 2011 et 27 mai 2011 concernant l'aménagement d'un vignoble en terrasse. Postérieures à l'arrêt attaqué, ces preuves sont nouvelles. Or, conformément l'art. 99 al. 1 LTF, aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente. La recourante ne présente par ailleurs aucune argumentation au sujet de la recevabilité de ces pièces. Il n'en sera donc pas tenu compte dans le présent arrêt.
1.3 A titre de mesures d'instruction, la recourante requiert la tenue d'une inspection des lieux afin que le Tribunal fédéral statue sur le véritable impact esthétique de l'installation. Il n'y a toutefois pas lieu de donner suite à cette requête, le Tribunal fédéral s'estimant suffisamment renseigné pour statuer en l'état du dossier, lequel comprend notamment des photographies de l'installation litigieuse. Celles-ci permettent en effet d'apprécier l'ampleur de l'aménagement réalisé et son impact sur le paysage. L'interdiction de présenter des faits nouveaux, ancrée à l'art. 99 al. 1 LTF, empêche d'ailleurs le Tribunal de céans de tenir compte de l'évolution de la situation de fait intervenue après le prononcé de l'arrêt cantonal.
2. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans l'établissement de celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF), ce qu'il lui appartient de démontrer par une argumentation répondant aux exigences de l'art. 42 al. 2 LTF (ATF 133 II 249 consid. 1.4.3 p. 254 s.). L'existence de faits constatés de manière inexacte ou en violation du droit doit en outre être susceptible d'avoir une influence déterminante sur l'issue de la procédure (art. 97 al. 1 in fine LTF).
En l'espèce, la recourante reproche au Tribunal cantonal d'avoir inexactement constaté que le tissu couvrait la totalité de la parcelle; or, seule une surface de l'ordre de 2'500 m2 (les talus des terrasses) serait stabilisée par celui-ci. Contrairement à ce que soutient la recourante, l'arrêt cantonal indique expressément (dans la partie "faits", let. B), en se référant au rapport de la police des constructions, que le géotextile couvre les talus en forte pente nouvellement créés. Ce fait ressort en outre clairement des photographies figurant au dossier cantonal. Le Tribunal cantonal ne chiffre certes pas la surface de textile utilisée pour aménager la parcelle de 5'773 m2; on ne voit toutefois pas en quoi une éventuelle précision de l'état de fait sur ce point aurait permis d'arriver à une solution différente. Cette critique doit donc être rejetée.
La recourante reproche aussi à l'autorité cantonale d'avoir retenu qu'au jour de l'arrêt attaqué, le géotextile demeurait nettement visible depuis la plaine du Rhône; l'autorité constatait en particulier que le textile n'avait toujours pas été absorbé par la végétation. La recourante soutient au contraire que l'installation litigieuse est à ce jour quasiment imperceptible et qu'elle le sera totalement à la fin de la saison 2011. La recourante ne démontre cependant pas comme il lui appartenait de faire en quoi la constatation de l'autorité cantonale serait inexacte. Elle se contente simplement d'opposer sa propre appréciation des faits à celle de l'autorité. La Municipalité de Conthey relève à cet égard que l'effet du géotextile sur le paysage s'atténue avec le temps et la végétation, elle ne prétend cependant pas qu'à ce jour l'installation litigieuse ne serait plus visible. Au demeurant, le Tribunal de céans n'a pas à tenir compte du fait que le géotextile aurait été assimilé par la végétation depuis le prononcé de l'arrêt en cause (cf. supra consid. 1.3). Ce grief doit par conséquent également être écarté.
3. La recourante prétend ensuite que les nattes en géotextile aménagées sur la parcelle ne répondraient pas à la notion de construction ou d'installation définie par l'art. 22 al. 1 LAT et qu'elles ne seraient dès lors pas assujetties à une autorisation de construire. Elle relève en outre que l'installation en cause ne figurerait pas dans la liste des objets soumis à autorisation selon les dispositions cantonales.
3.1 La recourante se réfère en vain aux dispositions cantonales précisant la liste des objets soumis à autorisation. L'art. 22 al. 1 LAT constitue en effet une norme fédérale minimale directement applicable qui règlemente de manière globale l'obligation d'un permis de construire et de transformer pour toute construction ou installation. Le droit cantonal ne peut donc pas restreindre le cercle des constructions et installations que l'art. 22 LAT soumet à autorisation; il peut, en revanche, définir plus largement les objets assujettis à l'autorisation de construire (arrêt 1C_414/2007 du 22 février 2008 consid. 2.2; ALEXANDER RUCH, in AEMISEGGER/MOOR/RUCH/TSCHANNEN, Commentaire de la LAT, 2010, n° 4 ad art. 22 LAT).
3.2 Selon la jurisprudence, sont considérés comme des constructions ou installations au sens de l'art. 22 al. 1 LAT tous les aménagements durables et fixes créés par la main de l'homme, exerçant une incidence sur l'affectation du sol, soit parce qu'ils modifient sensiblement l'espace extérieur, soit parce qu'ils chargent l'infrastructure d'équipement ou soit encore parce qu'ils sont susceptibles de porter atteinte à l'environnement. La procédure d'autorisation doit permettre à l'autorité de contrôler, avant la réalisation du projet, sa conformité aux plans d'affectation et aux réglementations applicables. Pour déterminer si l'aménagement prévu est soumis à cette procédure, il faut évaluer si, en général, d'après le cours ordinaire des choses, il entraînera des conséquences telles qu'il existe un intérêt de la collectivité ou des voisins à un contrôle préalable (ATF 119 Ib 222 consid. 3a p. 227; voir aussi ATF 123 II 256 consid. 3 p. 259; 120 Ib 379 consid. 3c p. 383 s.).
Sont assimilés à des constructions, tous les bâtiments en surface, y compris les abris mobiles, installés pour un temps non négligeable en un lieu fixe. L'exigence de la relation fixe avec le sol n'exclut pas la prise en compte de constructions mobilières, non ancrées de manière durable au sol et qui sont, cas échéant, facilement démontables (ATF 123 II 256 consid. 3 p. 259; RUCH, op. cit., n° 24 ad art. 22 LAT; ZEN-RUFFINEN/GUY-ECABERT, Aménagement du territoire, construction, expropriation, 2001, p. 214 ss).
L'assujettissement a ainsi été admis des clôtures et barrières hors de la zone à bâtir (ATF 118 Ib 49), une serre (arrêt 1C_32/2008 du 21 août 2008 consid. 3), un jardin d'hiver, une véranda, une cabane de jardin ou un couvert servant de garage (arrêt non publié 1A.92/1993 consid. 2a et les références). Il en va de même pour des aménagements extérieurs tels que des balustrades préfabriquées, des colonnes en pierre ou une terrasse (arrêt 1A.156/2004 du 5 novembre 2004 consid. 3.3; cf. également les nombreux exemples cités par WALDMANN/HÄNNI, Raumplanungsgesetz, Handkommentar, 2006, n° 15 ad art. 22 LAT; RUCH, op. cit., n° 24 ad art. 22 LAT; ZEN-RUFFINEN/GUY-ECABERT, op. cit., p. 214 ss).
3.3 En l'espèce, il n'est pas contesté que les nattes en géotextile, utilisées pour aménager la parcelle litigieuse d'une superficie de 5'773 m2, couvrent les talus en pente séparant les terrasses depuis plus de deux ans et demi. Il s'agit indéniablement d'éléments durablement fixés au sol. En outre, il ressort des photographies versées au dossier que le géotextile, installé sur les coteaux du vignoble, ne se fond pas particulièrement dans le paysage, en raison notamment de sa teinte et de l'importance de la surface concernée. Son impact visuel sur le paysage est manifeste.
Les comparaisons proposées par la recourante avec d'autres installations sises en zone agricole telles les serres et les bâches plastiques utilisées dans la cultures maraîchères - qui, selon la recourante, ne seraient pas soumises à autorisation - ne sont pas pertinentes. En effet, comme relevé par le Tribunal cantonal, la question de l'assujettissement à une autorisation doit être examinée de cas en cas à la lumière des critères mentionnés précédemment (cf. consid. 3.2). Ainsi, quoi qu'en dise la recourante, si elles satisfont à ces critères, ces installations sont soumises à l'exigence d'une autorisation de construire. De plus, contrairement aux exemples cités par la recourante, le géotextile litigieux couvre une parcelle située en zone viticole protégée, ce qui justifie un régime différencié. On ne saurait en outre reprocher au Tribunal cantonal de ne pas indiquer à partir de quelle surface une autorisation est requise, dès lors que celle-ci dépend précisément des circonstances particulières du cas d'espèce. Enfin, on ne discerne aucune contradiction dans le raisonnement du Tribunal cantonal. En effet, même si le tissu géotextile ne modifie pas la vocation agricole de la parcelle, il exerce une influence sur l'affectation du sol par une modification sensible de l'espace extérieur.
Le revêtement textile litigieux doit donc être considéré comme une installation au sens de l'art. 22 al. 1 LAT et être assujetti à une autorisation.
4. L'installation en cause étant érigée en zone viticole protégée, il convient d'examiner si elle est conforme à l'affectation de cette zone et si elle peut dès lors bénéficier d'une autorisation ordinaire selon l'art. 22 al. 2 LAT.
4.1 Selon l'art. 22 al. 2 let. a LAT, une autorisation de construire ne peut être délivrée que si la construction ou l'installation projetée est conforme à l'affectation de la zone; tel est le cas lorsque sa fonction concorde avec celle de la zone concernée (DFJP/OFAT, Etude relative à la loi fédérale sur l'aménagement du territoire, 1981, n. 29 ad art. 22 LAT). Hors de la zone à bâtir, de façon générale, la conformité est liée à la nécessité: la construction doit être adaptée, par ses dimensions et son implantation, aux besoins objectifs du propriétaire ou de l'exploitant (ATF 132 II 10 consid. 2.4 p. 17). Cette clause du besoin est clairement exprimée pour les zones agricoles à l'art. 16a al. 1 LAT. Elle vaut également pour les constructions et installations sises en zone à protéger au sens de l'art. 17 LAT (ATF 132 II 10 consid. 2.4 p. 17). Le critère de la nécessité implique aussi que les intérêts en présence soient appréciés et mis en balance. L'implantation et la conception architecturale de la construction ne doivent contrevenir à aucun intérêt prépondérant (cf. art. 34 al. 4 let. b OAT). L'appréciation doit se faire à l'aune des buts et principes énoncés aux art. 1 et 3 LAT, notamment celui visant à préserver le paysage (art. 3 al. 2 let. b et d LAT; cf. RUCH, op. cit., n° 26 ad art. 16a LAT).
Par ailleurs, l'art. 122 ch. 2 RCCZ prévoit que dans la zone viticole protégée - constituée d'un secteur du vignoble remarquable par ses valeurs paysagères et ses cultures traditionnelles en terrasse -, le maintien des caractéristiques essentielles du paysage doit être assuré (cultures en terrasses, murs, bosquets, etc.); aucune construction ne peut y être érigée hormis les équipements indispensables à l'exploitation. Cette disposition renvoie en outre à l'art. 72 RCCZ relatif à la protection des sites et à l'esthétique, qui prescrit que les constructions et leur abords doivent présenter des formes, des couleurs et des aménagements qui s'harmonisent aux constructions environnantes et au caractère typologique du site. Ces dispositions reprennent des éléments de la réglementation cantonale sur la protection et l'aménagement du territoire et de l'environnement (cf. art. 17 et 18 de la loi valaisanne sur les constructions du 8 février 1996 [RS/VS 705.1]).
4.2 En l'espèce, les nattes en géotextile contribuent à consolider les terrasses aménagées sur la parcelle n° 9'630 et présentent dès lors un lien direct avec l'exploitation viticole. Cela étant, comme relevé par le Tribunal cantonal, cette parcelle est spécialement protégée par les dispositions communales précitées. Celles-ci ont pour but de préserver les éléments caractéristiques du vignoble protégé et de prévenir toute atteinte pouvant altérer le caractère et la beauté du paysage. Or, l'installation contestée, eu égard à sa teinte et son ampleur, a un impact sérieux sur le site en question et elle porte atteinte au caractère et à l'esthétique de ce vignoble. Ce d'autant que selon les photographies produites au dossier, elle apparaît exposée à la vue depuis la plaine du Rhône. Par ailleurs, le Tribunal cantonal a relevé que la pose du géotextile n'était pas la seule technique permettant la consolidation des vignes aménagées en terrasses (réalisation de murs en pierre sèche ou de murs avec des caissons de bois complétés par des transplantations de mottes d'herbacées). Aussi, dans la mesure où la recourante peut adopter un autre moyen s'intégrant davantage au site, l'intérêt à la préservation du paysage l'emporte sur l'intérêt que l'installation présente pour l'intéressée.
Le refus du permis est donc conforme au droit fédéral et dénué d'arbitraire.
5. Il reste à examiner si l'ordre de remise en l'état viole le principe de la proportionnalité, comme le fait valoir la recourante. ll est douteux que son grief soit recevable, dans la mesure où elle ne l'a pas soulevé préalablement devant le Tribunal cantonal et qu'il se fonde sur des faits et moyens de preuve nouveaux (cf. ATF 134 III 643 consid. 5.3.2 p. 651). Peu importe au demeurant, puisque la violation du principe de la proportionnalité doit être niée pour les motifs suivants.
5.1 Selon les art. 51 de la loi valaisanne sur les constructions du 8 février 1996 (LC, RS/VS 705.1) et 58 de l'ordonnance sur les constructions du 2 octobre 1996 (OC, RS/VS 705.100), l'autorité de police des constructions peut ordonner la remise en état des lieux lorsqu'un projet a été exécuté sans autorisation de construire ou contrairement à l'autorisation délivrée.
Selon la jurisprudence, l'ordre de démolir une construction ou un ouvrage édifié sans permis et pour lequel une autorisation ne pouvait être accordée n'est en principe pas contraire au principe de la proportionnalité. Celui qui place l'autorité devant un fait accompli doit s'attendre à ce qu'elle se préoccupe davantage de rétablir une situation conforme au droit que des inconvénients qui en découlent pour le constructeur (ATF 123 II 248 consid. 4a p. 255; 108 la 216 consid. 4b p. 218). L'autorité renonce à une telle mesure si les dérogations à la règle sont mineures, si l'intérêt public lésé n'est pas de nature à justifier le dommage que la démolition causerait au maître de l'ouvrage, si celui-ci pouvait de bonne foi se croire autorisé à construire ou encore s'il y a des chances sérieuses de faire reconnaître la construction comme conforme au droit qui aurait changé dans l'intervalle (arrêt 1A.226/2006 du 25 avril 2007 consid. 5.2; ATF 123 Il 248 consid. 3a/bb p. 252; 111 Ib 213 consid. 6 p. 221 ss et les arrêts cités).
5.2 En l'espèce, la dérogation à la règle n'est pas mineure puisqu'il s'agit d'une installation située dans une zone viticole protégée. Il existe un intérêt public à maintenir les caractéristiques et la qualité paysagère de ce site (cf. consid. 4). Les craintes alléguées par la recourante quant à l'impossibilité de procéder à la réalisation de murs et caissons de bois sans mettre en péril les jeunes pousses de vignes ne suffisent pas pour justifier une dérogation à l'intérêt public précité. Il convient en effet de se montrer particulièrement strict s'agissant d'un paysage sensible. La recourante ne démontre au demeurant pas que ces pousses seraient réellement menacées dans leur existence. Enfin, contrairement à ce qu'elle soutient, elle ne pouvait ignorer, eu égard à l'ampleur des travaux réalisés, que la création d'une vigne en terrasses et de l'installation du géotextile dans une zone viticole protégée nécessitait une autorisation de l'autorité compétente. Elle ne saurait donc se prévaloir de sa bonne foi.
6. Sur le vu de ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité. La recourante, qui succombe, doit supporter les frais judiciaires (art. 65 et 66 LTF). Il n'est pas alloué de dépens (art. 68 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué au mandataire de la recourante, à la Commune de Conthey, au Conseil d'Etat et à la Cour de droit public du Tribunal cantonal du canton du Valais, ainsi qu'à l'Office fédéral du développement territorial.
Lausanne, le 5 septembre 2011
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Fonjallaz
La Greffière: Arn