A.- A._ est propriétaire de la parcelle n° XXX du cadastre de la commune d'Hérémence, dans la localité d'Euseigne. Une scierie a été construite en 1950 sur cette parcelle; son exploitation a cessé à une date indéterminée.
En 1970, le toit du bâtiment a été arraché par le vent. Depuis lors, la scierie est désaffectée - il n'en reste que des vestiges - et le local principal, muni d'une couverture en plaques de tôle, a été utilisé comme dépôt de matériel agricole. Actuellement, la parcelle n° XXX est classée en zone résidentielle.
B.- Le 18 juin 1998, la commission de salubrité de la commune d'Hérémence a demandé à A._ de démolir les vestiges de l'ancienne scierie et de remettre en état les lieux avant le 31 juillet 1998.
Donnant partiellement suite à cette injonction, A._ a évacué les restes de maçonnerie de la scierie, ne laissant subsister que les murs du local occasionnellement utilisé comme dépôt.
C.- Le 21 octobre 1998, A._ a soumis au conseil municipal d'Hérémence une demande d'autorisation de construire en vue de réparer le local précité (soubassement de l'ancienne scierie, partiellement enterré) et de le recouvrir d'une dalle en béton, afin de l'utiliser comme "réduit pour matériel et outillage".
Mis à l'enquête publique, ce projet a suscité l'opposition de B._, propriétaire d'une parcelle voisine, qui dénonçait sa non-conformité à l'affectation de la zone résidentielle ainsi qu'une violation des règles relatives aux distances entre constructions et limites de propriété.
Le 3 décembre 1998, le conseil municipal d'Hérémence a refusé l'autorisation de construire.
D.- A._ a recouru contre la décision communale auprès du Conseil d'Etat du canton du Valais. Une inspection locale a été organisée par le service chargé de l'instruction de ce recours. Le 23 juin 1999, le Conseil d'Etat a admis le recours, annulé la décision du conseil municipal et octroyé l'autorisation de construire demandée, en considérant en substance que le propriétaire pouvait se prévaloir de la protection de la situation acquise pour transformer un bâtiment existant, conformément à l'art. 3 al. 1 de la loi cantonale sur les constructions (LC).
E.- B._ a recouru au Tribunal cantonal contre le prononcé du Conseil d'Etat.
Par un arrêt rendu le 28 janvier 2000, la Cour de droit public du Tribunal cantonal a admis le recours et annulé le prononcé du Conseil d'Etat. Elle a considéré que l'art. 3 LC, protégeant la situation acquise, ne pouvait pas s'appliquer dans le cas d'un immeuble démoli, délabré ou en ruine; en outre, le projet, qu'il faudrait donc traiter de la même manière qu'une construction nouvelle, contrevient à la réglementation de la zone résidentielle.
F.- Agissant par la voie du recours de droit public pour violation de l'art. 9 Cst. , A._ demande au Tribunal fédéral d'annuler l'arrêt rendu par la Cour de droit public. Il prétend que la juridiction cantonale n'a pas été en mesure d'apprécier correctement les caractéristiques des éléments de l'ancienne scierie qu'il a laissé subsister. Il soutient par ailleurs que la Cour de droit public a appliqué de façon arbitraire l'art. 3 al. 1 LC en refusant d'autoriser les travaux projetés.
B._ conclut au rejet du recours.
Le Conseil d'Etat se détermine dans le sens de l'admission du recours.
Le conseil municipal et la Cour de droit public ont renoncé à répondre au recours.

Considérant en droit :
1.- Propriétaire de l'installation litigieuse et requérant de l'autorisation de construire, A._ a manifestement qualité pour recourir au sens de l'art. 88 OJ (cf.
ATF 126 I 81 consid. 3b p. 85 et les arrêts cités). Son acte de recours répond aux exigences de recevabilité des art. 84 ss OJ. Il y a donc lieu d'entrer en matière.
2.- Le recourant se plaint d'une constatation arbitraire des faits par la juridiction cantonale, au sujet du degré de délabrement des locaux de son ancienne scierie, et d'une application arbitraire de l'art. 3 al. 1 LC. En introduction de son recours, il évoque également une application arbitraire d'une autre disposition du droit cantonal - l'art. 4 LC - mais, en l'absence de toute motivation à ce propos dans l'acte de recours, il n'y a pas lieu d'examiner ce dernier grief (art. 90 al. 1 let. b OJ; <ref-ruling> consid. 1b p. 495).
a) Une décision est arbitraire et, partant, contraire à l'art. 9 Cst. , lorsqu'elle méconnaît gravement une norme ou un principe juridique clair et indiscuté ou lorsqu'elle heurte de manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue en dernière instance cantonale que si elle est insoutenable, en contradiction manifeste avec la situation effective, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Il ne suffit pas que la motivation de la décision soit insoutenable; encore faut-il qu'elle soit arbitraire dans son résultat (<ref-ruling> consid. 2a p. 168; <ref-ruling> consid. 3a p. 15, 129 consid. 5b p. 134; <ref-ruling> consid. 2b p. 139; <ref-ruling> consid. 2a p. 88 et les arrêts cités).
b) aa) L'art. 3 al. 1 LC, sous le titre "Droits acquis", a la teneur suivante:
"Les constructions et installations existantes réalisées
conformément au droit antérieur mais devenues
contraires aux plans ou aux prescriptions en vigueur
peuvent être entretenues et modernisées, transformées
ou agrandies pour autant que les travaux n'engendrent
pas une aggravation de leur non-conformité au droit.. "
Cette règle consacre, en droit public cantonal des constructions, la garantie de la protection de la situation acquise, qui découle du droit constitutionnel (cf. <ref-ruling> consid. 2a p. 122). En l'espèce, elle a été interprétée par la Cour de droit public en ce sens qu'elle ne s'applique qu'aux "constructions et installations existantes" qui doivent être maintenues dans leur utilisation ou structures actuelles, et non pas à celles qui sont en ruine, inutilisables ou destinées à la démolition, après avoir été abandonnées depuis de nombreuses années. En d'autres termes, un bâtiment en ruine ne peut pas être entretenu, modernisé, transformé ou agrandi sur la base de l'art. 3 al. 1 LC.
Le recourant ne prétend pas que cette interprétation de l'art. 3 al. 1 LC serait en elle-même arbitraire. On peut du reste relever que, pour les constructions hors des zones à bâtir, la portée de la protection de la situation acquise est limitée dans la même mesure, en vertu de l'art. 24 al. 2 de la loi fédérale sur l'aménagement du territoire (LAT; RS 700 - cf. DFJP/OFAT, Etude relative à la loi fédérale sur l'aménagement du territoire, Berne 1981, n. 44 ad art. 24; Christoph Bandli, Bauen ausserhalb der Bauzonen, 2e éd.
Coire/Zurich 1991, p. 206). Il arrive que le droit cantonal exclue expressément cette protection pour les bâtiments en ruine (cf. art. 80 al. 3 de la loi cantonale vaudoise sur l'aménagement du territoire et les constructions; cf. en outre Nicolas Michel, Droit public de la construction, Fribourg 1996, p. 90).
bb) Le recourant conteste en revanche que le local principal de son ancienne scierie puisse être considéré comme un bâtiment en ruine, prêt à la démolition. A l'encontre de l'appréciation de la juridiction cantonale, il se prévaut d'une longue utilisation de ce local comme dépôt ainsi que de son intention de le réparer, et non pas de le supprimer; en conséquence, il devrait pouvoir bénéficier des possibilités de transformation ou de rénovation de l'art. 3 al. 1 LC.
La Cour de droit public s'est fondée sur l'aspect de l'ancienne scierie dans son ensemble. Elle disposait de photographies prises sous divers angles, avant et après les travaux de remise en état partielle ordonnés par les autorités communales le 18 juin 1998. Ces photographies, avec les descriptions figurant dans différentes pièces du dossier, étaient suffisantes pour déterminer si cette scierie était ou non en ruine; on ne voit pas en quoi une inspection locale par les juges cantonaux aurait pu permettre la constatation d'autres éléments décisifs. Sur la base du dossier et des arguments du recourant, l'appréciation de la Cour de droit public n'apparaît pas en contradiction manifeste avec la situation effective, car il ne restait de l'ancienne scierie, abandonnée pendant plusieurs décennies, que quelques éléments de maçonnerie disparates. Peu importe, de ce point de vue, que le recourant puisse envisager d'utiliser encore certaines structures qui ont été conservées.
Le recourant critique la description faite, dans l'arrêt attaqué, du local principal qu'il souhaite rénover ou transformer: la Cour de droit public aurait retenu de façon arbitraire que trois de ses murs subsistaient, alors qu'il y en aurait en réalité quatre. Il apparaît cependant que ce local, implanté sur un terrain en pente, est partiellement enterré; trois murs seulement dépassent du sol. On ne peut donc pas reprocher à la Cour cantonale d'avoir sur ce point constaté les faits de façon insoutenable. Cela étant, cette juridiction pouvait ne pas accorder une importance déterminante à l'état de ce petit local - dans toute construction abandonnée, certains éléments sont mieux conservés que d'autres et peuvent, moyennant quelques aménagements de fortune, servir de dépôt - et se borner à constater que la scierie, dans son ensemble, était une ruine. Le recourant ne parvient pas à démontrer le contraire. Dans ces conditions, il n'était pas arbitraire de considérer que toute transformation, même partielle, de cette installation ne pouvait pas être autorisée sur la base du seul art. 3 al. 1 LC. Le recourant ne conteste au demeurant pas que, si cette disposition n'est pas applicable, son projet ne satisfait pas aux exigences ordinaires du droit des constructions, puisqu'il n'a été jugé conforme ni à l'affectation ni à la réglementation de la zone résidentielle.
Le recours de droit public est en conséquence mal fondé.
3.- Ses conclusions étant rejetées, le recourant doit payer l'émolument judiciaire (art. 153, 153a et 156 al. 1 OJ). Il aura en outre à verser des dépens à l'intimée B._, assistée d'un avocat (art. 159 al. 1 OJ). La commune d'Hérémence et l'Etat du Valais n'ont pas droit à des dépens (art. 159 al. 1 et 2 OJ).

Par ces motifs,
le Tribunal fédéral :
1. Rejette le recours.
2. Met à la charge du recourant A._:
a) un émolument judiciaire de 2'000 fr.;
b) une indemnité de 1'000 fr. à payer à l'intimée B._, à titre de dépens.
3. Communique le présent arrêt en copie aux mandataires du recourant et de l'intimée, au conseil municipal de la commune d'Hérémence, au Conseil d'Etat et au Tribunal cantonal du canton du Valais.
_
Lausanne, le 6 septembre 2000 JIA
Au nom de la Ie Cour de droit public
du TRIBUNAL FEDERAL SUISSE:
Le Président, Le Greffier,