Faits: A. Le 5 mars 2012, A._, a requis un permis de construire trois appartements destinés à de la résidence secondaire sur la parcelle n° 13188 de la commune de Leytron. Helvetia Nostra a formé opposition. Par décision du 2 mai 2012, la commune de Leytron a levé l'opposition et délivré le permis de construire. Helvetia Nostra a recouru auprès du Conseil d'Etat du canton du Valais. Le 29 juin 2012, celui-ci a déclaré le recours irrecevable faute de qualité pour recourir de l'organisation. Helvetia Nostra a saisi le Tribunal cantonal valaisan, lequel a rejeté le recours dans la mesure où il était recevable par arrêt du 23 octobre 2012. Il a mis 1'000 fr. de frais judiciaires à la charge de la recourante. B. Agissant par la voie du recours en matière de droit public, Helvetia Nostra demande au Tribunal fédéral l'annulation de l'arrêt cantonal et le renvoi de la cause à l'autorité de dernière instance, subsidiairement la réforme de l'arrêt attaqué en ce sens que le permis de construire est annulé. L'intimée s'en remet aux arguments du Tribunal cantonal. Le Conseil d'Etat s'est déterminé et conclut au rejet du recours. La recourante a déposé des déterminations à teneur desquelles elle confirme ses conclusions. Consulté, l'Office fédéral du développement territorial a formulé des observations. L'intimée s'est à nouveau exprimée. Concluant au rejet du recours, la commune expose que l'autorisation délivrée le 10 mai 2012 ne fait que modifier une autorisation de construire notifiée en 2005. Par ordonnance du 18 décembre 2012, le Président de la Ire Cour de droit public a accordé l'effet suspensif au recours. Dans des arrêts de principe du 22 mai 2013, le Tribunal fédéral a notamment admis la qualité pour recourir d'Helvetia Nostra (ATF 139 II 271) ainsi que l'applicabilité directe des art. 75b et 197 ch. 9 Cst. (ATF 139 II 243 et 263). Un délai a été fixé aux autorités communale et cantonales ainsi qu'à la constructrice pour se déterminer au vu de cette jurisprudence. Seule la commune y a donné suite, évoquant à nouveau le permis de construire délivré en 2005. Helvetia Nostra n'a pas été invitée à se déterminer, compte tenu de l'issue de la cause.