Faits :
A.
Par décision du 6 mars 2009, le service de géologie, sols et déchets (ci-après: GESDEC), auprès du département genevois du territoire, devenu le département de l'environnement, des transports et de l'agriculture (ci-après: DETA), a délivré à A._ SA une autorisation d'exploiter un centre de tri et de conditionnement de déchets n° 08-145 (ci-après: autorisation n° 08-145), sur trois parcelles de la commune de Carouge-La Praille. Cette autorisation annulait et remplaçait celle délivrée le 13 août 2001 à A._ & Cie, qui avait été transférée à A._ SA par décision du 7 avril 2008 du service cantonal des déchets, devenu le GESDEC.
B.
Après avoir régulièrement fait part à A._ SA de la non-conformité de son site à l'autorisation n° 08-145 et malgré des relances répétées durant plusieurs années, le GESDEC la lui a retirée avec effet immédiat, par décision du 7 mai 2014, lui interdisant toute réception de déchets, qu'ils soient considérés comme ordinaires, soumis à contrôle ou spéciaux. En outre, il lui a notamment ordonné d'éliminer tous les déchets encore présents sur le site d'exploitation vers d'autres installations de traitement de déchets dûment autorisés et de lui fournir, dans un délai de trente jours, les justificatifs d'élimination desdits déchets. Il réexaminerait la situation à réception de divers documents énumérés, dont une étude acoustique intégrant les compléments requis le 11 novembre 2013, l'original d'une garantie financière pour un montant de 30'000 fr. et une notice d'impact sur l'environnement ou tout autre document décrivant les activités projetées par A._ SA.
Par jugement du 5 mars 2015, le Tribunal administratif de première instance a rejeté le recours interjeté par A._ SA contre la décision du 7 mai 2014.
C.
Par arrêt du 20 février 2018, la Cour de justice a admis le recours formé par A._ SA contre le jugement précité, annulé la décision du 7 mai 2014 et renvoyé la cause au GESDEC pour nouvelle décision tendant au renouvellement de l'autorisation n o 08-145 ou à l'octroi d'une nouvelle autorisation d'exploiter. Elle a considéré que le GESDEC n'avait pas violé le droit d'être entendu de A._ SA, celle-ci ayant eu l'occasion de s'exprimer à de multiples reprises sur tout éventuel manquement aux échéances fixées et ayant été suffisamment informée des conséquences découlant du non-respect des exigences formulées à son égard. Elle a en outre jugé que la décision du 7 mai 2014 était justifiée au moment de sa notification et que, dès lors, aucune violation du principe de la proportionnalité ne pouvait être constatée. De plus, compte tenu de l'issue de la procédure, aucune violation du principe de la bonne foi ne pouvait être reprochée au GESDEC, pour autant que ce grief, invoqué dans ses dernières écritures par A._ SA, soit recevable. Il convenait toutefois de considérer qu'au cours de la procédure de recours, A._ SA s'était désormais conformée aux exigences du GESDEC, telles que mentionnées dans sa décision du 7 mai 2014. L'autorité précédente a cependant attiré l'attention de A._ SA sur le fait qu'il lui appartenait de strictement respecter les autorisations dont elle bénéficiait et les procédures régissant leur renouvellement ainsi que leurs modifications, l'autorité étant légitimée, au vu des éléments ressortant de l'arrêt, à ne plus faire preuve d'aucune indulgence à son égard.
D.
Agissant par la voie du recours en matière de droit public, l'Etat de Genève, soit pour lui le Conseil d'Etat, représenté par le DETA, demande au Tribunal fédéral d'annuler l'arrêt de la Cour de justice du 20 février 2018 et, cela fait, de confirmer la décision du 7 mai 2014 et de mettre les frais de procédure à la charge de A._ SA.
La cour cantonale s'en rapporte à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt. A._ SA conclut à l'irrecevabilité du recours, à ce que les frais soient laissés à la charge de l'Etat de Genève et qu'une indemnité lui soit allouée; subsidiairement elle conclut au rejet du recours. Le Service des affaires juridiques de l'environnement du DETA, Direction générale de l'environnement, dépose des observations, renvoyant pour le surplus la Cour de céans à ses écritures qu'il confirme; il persiste dans ses conclusions. Aucune autre observation n'a été formulée.

Considérant en droit :
1.
La recourante étant une collectivité publique, il convient en premier lieu de s'interroger sur sa qualité pour recourir, étant rappelé que le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 116; <ref-ruling> consid. 2 p. 59). Toutefois, lorsque les conditions de recevabilité, en particulier la qualité pour recourir, ne ressortent pas à l'évidence de la décision attaquée ou du dossier de la cause, comme tel est le cas en l'espèce, la partie recourante doit exposer en quoi elles sont réunies sous peine d'irrecevabilité (art. 42 al. 1 et 2 LTF; <ref-ruling> consid. 1 p. 356 et la référence citée; <ref-ruling> consid. 1.1 p. 92 concernant l'obligation de motiver des collectivités publiques).
1.1. La collectivité recourante fonde tout d'abord sa qualité pour recourir sur l'art. 89 al. 2 let. c LTF. Elle invoque les art. 3, 42 ss, 47 et 74 Cst., la LPE (RS 814.01), l'ordonnance du 4 décembre 2015 sur la limitation et l'élimination des déchets (OLED; RS 814.600), la loi d'application du 2 octobre 1997 de la loi fédérale sur la protection de l'environnement (LaLPE; RSG K 1 70) et la loi du 20 mai 1999 sur la gestion des déchets (LGD; RSG L 1 20) ainsi que son règlement d'application (règlement d'application du 28 juillet 1999 de la loi sur la gestion des déchets [RGD; RSG L 1 20.01]) pour soutenir qu'elle dispose d'une vaste autonomie - circonscrite par la législation fédérale - dans la gestion des installations d'élimination des déchets sises sur son territoire. Elle fait valoir que la qualité pour recourir devrait dès lors lui être conférée en application de l'art. 89 al. 2 let. c LTF, pour faire rectifier l'application arbitraire du droit à laquelle la cour cantonale aurait procédé, respectivement pour assurer une application uniforme et respectueuse du droit de l'environnement.
1.1.1. Selon l'art. 89 al. 2 let. c LTF, les communes et les autres collectivités de droit public ont qualité pour recourir lorsqu'elles invoquent la violation de garanties qui leur sont reconnues par la constitution cantonale ou la Constitution fédérale. Cette disposition ouvre notamment aux communes la voie du recours pour violation de leur autonomie (<ref-ruling> consid. 1.3 p. 268; <ref-ruling> consid. 1.1 p. 304). En ce qui concerne les cantons, il y a lieu tout d'abord de rappeler que, lors de l'introduction de la LTF, le législateur a expressément renoncé à étendre leur qualité pour recourir contrairement à la proposition du Conseil fédéral (cf. Message du 28 février 2001 concernant la révision totale de l'organisation judiciaire fédérale, FF 2001 4128 s. ch. 4.1.3.3; cf. également <ref-ruling> consid. 5.2 p. 331 s. et les références citées; <ref-ruling> consid. 2.3.3.3 p. 59; <ref-ruling> consid. 2.4, en particulier consid. 2.4.3 p. 408). Dans ce contexte, la question de savoir si un canton peut en général se prévaloir de l'art. 89 al. 2 let. c LTF pour se plaindre de la violation de sa souveraineté garantie par l'art. 3 Cst. n'est pas clairement tranchée par la jurisprudence et est controversée en doctrine (cf. arrêts 2C_1016/2011 du 3 mai 2012 consid. 1.2.1, non publié in <ref-ruling>; 9C_476/2010 du 24 novembre 2010 consid. 1, in: SVR 2011 BVG n° 17 p. 62). Toutefois, confirmant la jurisprudence rendue avant l'entrée en vigueur de la LTF, le Tribunal fédéral a eu l'occasion de préciser, y compris dans des arrêts récents, que le canton ne peut pas se prévaloir d'une telle garantie à l'encontre d'un acte de puissance publique cantonal rendu par son propre tribunal administratif (ATF <ref-ruling> consid. 2.4.1 p. 405 s.; arrêts 2C_357/2018 du 9 septembre 2018 consid. 2.2; 1C_412/2012 du 22 juillet 2013 consid. 1.2; 2C_620/2012 du 14 février 2013 consid. 1.2.3 in RDAF 2013 II 197; question laissée ouverte in arrêt 2C_1016/2011 précité consid. 1.2.1).
1.1.2. En l'occurrence, le canton, par son exécutif, conteste un arrêt de sa plus haute instance judiciaire administrative. Cette dernière a statué dans le cadre d'une procédure cantonale qui a été ouverte par une décision administrative d'un service du canton contestée par la personne morale visée. Dans ces circonstances, il faut constater, au vu de la loi et de la jurisprudence excluant la qualité pour recourir des cantons au Tribunal fédéral dans le cadre d'un conflit cantonal intra-organique, que le canton de Genève ne saurait invoquer une violation de son autonomie au sens de l'art. 89 al. 2 let. c LTF pour établir sa légitimation active. La décision contestée n'étant pas l'oeuvre d'un organe de la Confédération ou d'un autre canton, il n'y a au demeurant pas lieu de s'interroger si, dans une telle hypothèse, le canton de Genève serait fondé à faire valoir une éventuelle violation de sa souveraineté au sens de la norme précitée, l'art. 120 LTF demeurant au surplus réservé. Dans ces circonstances, la recourante n'a pas la qualité pour recourir en vertu de cette disposition.
1.2. A titre subsidiaire, la partie recourante allègue avoir la qualité pour recourir au sens de l'art. 89 al. 1 LTF.
1.2.1. Une collectivité publique peut fonder son recours sur l'art. 89 al. 1 LTF lorsqu'elle est touchée dans ses prérogatives de puissance publique (" in ihren hoheitlichen Befugnissen berührt ") et dispose d'un intérêt public propre digne de protection à l'annulation ou à la modification de l'acte attaqué (cf. <ref-ruling> consid. 2.1 p. 164; <ref-ruling> consid. 1.2.2 p. 93 s. et les références citées). Lorsqu'il est porté atteinte à ses intérêts spécifiques, la collectivité publique peut ainsi se voir reconnaître la qualité pour recourir, pour autant qu'elle soit touchée de manière qualifiée (cf. <ref-ruling> consid. 2.3 p. 166; <ref-ruling> consid. 1.2.2 et 1.2.4 p. 94; arrêt 2C_1105/2016 du 20 février 2018 consid. 1.3.1). En d'autres termes, la collectivité doit être fortement touchée dans des intérêts publics importants (cf. <ref-ruling> consid. 2.1 p. 164). Tel est le cas lorsqu'un acte de puissance publique concerne des intérêts publics essentiels dans un domaine qui relève de la compétence de l'autorité (<ref-ruling> consid. 1.4 p. 274; arrêt 2C_282/2017 du 4 décembre 2017 consid. 1.2 et les références citées). Un intérêt général à une correcte application du droit n'est cependant pas suffisant au regard de cette disposition (ATF <ref-ruling> consid. 1.2.2 p. 93; <ref-ruling> consid. 3.1 p. 159; <ref-ruling> consid. 2.2.1 p. 47). Compte tenu de ces principes, la qualité pour recourir du canton dérivée de l'art. 89 al. 1 LTF ne doit être admise que de manière limitée. Il convient en particulier de faire preuve d'une retenue particulière lorsque s'opposent des organes d'une même collectivité publique, en l'occurrence les autorités exécutives et le tribunal administratif cantonal (cf. <ref-ruling> consid. 2.1 et 2.2 p. 164), ce d'autant plus lorsqu'il s'agit d'interpréter, respectivement d'appliquer du droit cantonal (cf. <ref-ruling> consid. 2.2 p. 164 s.).
1.2.2. Dans la mesure où l'intérêt de la recourante à obtenir l'annulation ou la modification litigieuse n'apparaît pas évident, il lui incombe d'expliquer en quoi la décision attaquée lui serait préjudiciable et pourquoi elle aurait intérêt à la voir modifier ou annuler. Il n'appartient pas au Tribunal fédéral de faire des suppositions au sujet de l'éventuel préjudice que la décision litigieuse pourrait causer à la recourante, ni de rechercher les éléments susceptibles de fonder un intérêt digne de protection à la modification ou à l'annulation de cette décision.
En l'espèce, la recourante se contente de soutenir que l'arrêt attaqué l'atteindrait dans ses prérogatives de détentrice de puissance publique, respectivement que les activités de l'intimée mettraient en danger l'environnement qu'elle a pour mission de protéger. Elle n'explique toutefois pas de manière concrète quelles sont les atteintes en cause, respectivement en quoi la décision attaquée - qui constate que l'intimée s'est désormais conformée aux exigences du GESDEC - est susceptible de porter préjudice à l'intérêt public qu'elle invoque. S'agissant plus particulièrement des immissions sonores générées par les activités de l'intimée que la recourante évoque, la décision entreprise relève que l'intéressée a pris les dispositions nécessaires pour que ses activités respectent la réglementation applicable en matière de protection contre le bruit et que, depuis lors, aucune plainte à ce sujet n'a été déposée. On ne discerne donc pas - et la recourante ne le précise pas - quels intérêts importants sont en jeu. On ne distingue pas non plus que l'arrêt entrepris pourrait influencer nombre d'autorisations futures contraires à la législation environnementale. En effet, la décision attaquée est une décision isolée renvoyant le dossier au GESDEC pour qu'il renouvelle l'autorisation litigieuse ou octroie une nouvelle autorisation d'exploiter, précisément parce que l'intimée s'est conformée aux exigences de ce même service (situation qui diffère de celle examinée à l'<ref-ruling> cité par la recourante, puisque le prononcé en cause avait la valeur d'un précédent propre à contraindre le canton à délivrer, en contradiction avec le droit cantonal, de nombreuses autres autorisations similaires et que des intérêts importants de santé publique étaient en jeu). L'arrêt attaqué n'empêche au demeurant pas le GESDEC de révoquer l'autorisation d'exploiter de l'intimée, s'il devait s'avérer, à l'avenir, que celle-ci ne remplit plus les conditions du droit d'exploiter. En définitive, il n'apparaît pas - et la recourante ne le démontre pas - que les conditions restrictives posées par la jurisprudence pour un recours devant la Cour de céans, concernant un conflit opposant l'autorité exécutive cantonale et le tribunal administratif cantonal seraient réalisées. Cela conduit à l'irrecevabilité du recours à cet égard.
2.
Il s'ensuit que le recours doit être déclaré irrecevable. Il n'y a pas lieu de percevoir de frais judiciaires, la recourante ayant agi dans l'exercice de ses attributions officielles sans que son intérêt patrimonial soit en cause (art. 66 al. 4 LTF). Elle versera néanmoins une indemnité à titre de dépens à l'intimée, qui obtient gain de cause avec l'assistance d'un avocat (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Il n'est pas perçu de frais judiciaires.
3.
Une indemnité de 2'000 fr. est allouée à l'intimée à titre de dépens, à la charge de la République et canton de Genève.
4.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre administrative.
Lausanne, le 10 octobre 2018
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Merkli
La Greffière : Nasel