(Nutzungsplanungsänderung), hat sich ergeben:
A.- D._ wurde aufgrund eines Erbteilungsvertrags vom 10. Dezember 1992 Alleineigentümer der in der Gemeinde Wollerau gelegenen Liegenschaften KTN 108, 262, 265 und 186.
Für die Miterbinnen E._, A._, B._ und F._ wurde gleichzeitig ein auf 25 Jahre befristetes Gewinnanteilsrecht vorgemerkt. 1994 brach D._ den bestehenden Stall auf der Parzelle KTN 108 ab und errichtete einen neuen.
Am 13. März 1996 stellte D._ beim Gemeinderat Wollerau das Gesuch, die Fläche der Parzelle KTN 108 südlich des Peregrinenweges von der Zone W3 in die Landwirtschaftszone umzuzonen. In der Folge nahm der Gemeinderat einvernehmlich mit dem Gesuchsteller die genaue Abgrenzung der anbegehrten Umzonung unter Einbezug der Parzellen KTN 265 und 696 vor und wies die Parzelle im verlangten Umfang anstatt der Landwirtschaftszone dem Reservegebiet zu.
Die Bestimmung des Baureglements über das Reservegebiet, Art. 102 BauR, ergänzte er zudem mit einem Absatz, wonach (u.a.) im Reservegebiet landwirtschaftliche Bauten und Anlagen zulässig seien.
Mit Schreiben vom 5. August 1996 stellte das Justizdepartement des Kantons Schwyz im Rahmen der Vorprüfung die Genehmigung der Planänderung und der Reglementsänderung, mit Ausnahme der Bestimmung, wonach im Reservegebiet landwirtschaftliche Bauten und Anlagen zulässig seien, in Aussicht.
B.- Der Gemeinderat legte die Nutzungsplan- und Baureglementsänderung in der Folge im Sinne des Vorprüfungsergebnisses öffentlich auf. Am 3. März 1997 wies er die eingegangenen Einsprachen, darunter diejenigen von A._ und B._ ab. Gegen diesen Gemeinderatsbeschluss erhoben A._ und B._ Beschwerde beim Regierungsrat des Kantons Schwyz, welcher darauf mangels Rechtsmittelbefugnis der Beschwerdeführerinnen nicht eintrat.
Nachdem das Verwaltungsgericht des Kantons Schwyz diesen Entscheid am 20. Mai 1998 aufgehoben hatte, wies der Regierungsrat die Beschwerden am 22. Dezember 1998 ab. Das Verwaltungsgericht schützte am 15. Juli 1999 diesen Entscheid des Regierungsrates und wies die Beschwerde von A._ und B._ ab.
Gegen diesen Entscheid erhoben A._ und B._ am 14. September 1999 staatsrechtliche Beschwerde. In prozessualer Hinsicht beantragten sie, das Verfahren sei zu sistieren, bis das Verwaltungsgericht über das von ihnen gegen den Entscheid vom 15. Juli 1999 ebenfalls erhobene Revisionsbegehren entschieden habe. Das Justizdepartement teilte in seiner Vernehmlassung mit, dass der Regierungsrat als zuständige kantonale Behörde die umstrittene Änderung des Nutzungsplanes der Gemeinde Wollerau (noch) nicht genehmigt hat. Auch der zuständige Gemeindesouverän hatte den Inhalt des angefochtenen Teils des Nutzungsplanes der Gemeinde Wollerau noch nicht beschlossen. Weil sich demnach die staatsrechtliche Beschwerde nicht gegen einen anfechtbaren Hoheitsakt im Sinne von Art. 84 Abs. 1 OG richtete, trat das Bundesgericht mit Urteil vom 27. Oktober 1999 darauf nicht ein.
C.- Am 23. Dezember 1999 wies das Verwaltungsgericht das Revisionsbegehren von A._ und B._ ab. An der Gemeindeabstimmung vom 21. Mai 2000 wurde die strittige Umzonung und die Baureglementsergänzung mit deutlichem Mehr angenommen. Dagegen erhoben A._ und B._ beim Verwaltungsgericht Stimmrechtsbeschwerde, welche mit Entscheid vom 24. August 2000 abgewiesen wurde. Mit Beschluss vom 17. Oktober 2000 genehmigte der Regierungsrat den Teilzonenplan "Felsen" und die dazugehörigen Baureglementsbestimmungen.
D.- Sowohl gegen diesen Beschluss des Regierungsrates als auch gegen den Entscheid des Verwaltungsgerichts vom 15. Juli 1999 und vorsorglich gegen die weiteren in dieser Sache ergangenen Teilentscheide erhoben A._ und B._ am 27. November 2000 staatsrechtliche Beschwerde mit dem Antrag, die angefochtenen Entscheide seien aufzuheben.
In formeller Hinsicht rügen sie eine Verletzung der kantonalen Ausstandsvorschriften und der verfassungsrechtlich geschützten Verfahrensgarantien (Art. 9 und 29 BV).
Materiell rügen sie einen Verstoss gegen die Eigentumsgarantie (<ref-law>). Als Gewinnanteilsberechtigte seien sie zu dieser Rüge legitimiert.
E.- Der Beschwerdegegner beantragt in seiner Vernehmlassung, die Beschwerde sei abzuweisen, soweit darauf überhaupt eingetreten werden könne. Der Gemeinderat Wollerau stellte das Begehren, auf die Beschwerde sei nicht einzutreten, eventuell sei sie abzuweisen. Einen gleichlautenden Antrag stellte auch der Regierungsrat. Das Verwaltungsgericht schloss auf Abweisung der Beschwerde.

Das Bundesgericht zieht in Erwägung:
1.- Das Bundesgericht prüft die Zulässigkeit der bei ihm eingereichten Beschwerden von Amtes wegen und mit freier Kognition (<ref-ruling> E. 2a; <ref-ruling> E. 1 mit Hinweisen).
a) Zur staatsrechtlichen Beschwerde wegen Verletzung verfassungsmässiger Rechte ist nach Art. 88 OG nur legitimiert, wer durch den angefochtenen kantonalen Hoheitsakt in seinen rechtlich geschützten eigenen Interessen betroffen ist. Diese können entweder durch kantonales oder eidgenössisches Gesetzesrecht oder aber unmittelbar durch ein angerufenes spezielles Grundrecht geschützt sein. Zur Geltendmachung bloss tatsächlicher Interessen oder allfälliger öffentlicher Interessen ist die staatsrechtliche Beschwerde nicht gegeben (<ref-ruling> E. 3b; <ref-ruling> E. 5b; je mit Hinweisen). Hoheitsakte können indessen nicht nur ihren Adressaten benachteiligen, sondern zugleich weitere Personen, die zum direkt Betroffenen in einer besonderen Beziehung stehen. Solch mittelbar Betroffene sind zur Anfechtung befugt, wenn sie sich bezüglich des beanstandeten Eingriffs nicht nur im Schutzbereich des angerufenen Grundrechts befinden, sondern sich zugleich auf eine Gesetzesnorm berufen können, die gerade ihre eigenen Interessen im fraglichen Bereich schützt. Unabhängig davon, welches verfassungsmässige Recht der Beschwerdeführer anruft, muss er dartun, dass eine Gesetzesnorm besteht, die ihm im beeinträchtigten Interessenbereich einen Rechtsanspruch einräumt oder die dem Schutz seiner Interessen dient (<ref-ruling> E. 3a mit Hinweisen). Dementsprechend hat das Bundesgericht in Bau- und Planungssachen die Beschwerdelegitimation des Eigentümers einer benachbarten Liegenschaft bejaht, soweit es um die Verletzung von Normen geht, welche gerade seinem Schutz dienen (<ref-ruling> E. 2a; <ref-ruling> E. 2b). Ebenso wird unter den genannten Voraussetzungen die Beschwerdelegitimation eines Mieters (<ref-ruling> E. 3a mit Hinweisen) und Pächters (<ref-ruling> E. 3) bejaht.
In einem jüngeren Urteil ist das Bundesgericht von der bisherigen Praxis abgerückt, nach der bei der Abgrenzung des Schutzbereichs der Eigentumsgarantie darauf abgestellt wird, ob die fragliche Massnahme ein rechtliches oder bloss faktisches Interesse betrifft. Mit dem Verzicht auf diese Unterscheidung wird der Tatsache Rechnung getragen, dass auch der Entzug faktischer Vorteile den Eigentümer im Ergebnis gleichermassen treffen kann wie eine Einschränkung seiner rechtlichen Befugnisse. Damit erstreckt sich der Schutzbereich die Eigentumsgarantie nicht nur auf die unmittelbar aus dem Eigentum fliessenden rechtlichen Befugnisse, sondern auch auf gewisse faktische Voraussetzungen zur Ausübung dieser Befugnisse. Das Interesse an deren Erhaltung ist insoweit nicht bloss faktischer Natur, sondern auch rechtlich geschützt (<ref-ruling> E. 1b/bb).
b) Die Beschwerdeführerinnen sind nicht Eigentümer der von der Umzonung erfassten Parzellen. Soweit diese im Rahmen der Erbteilung im Jahre 1992 ihrem Bruder zugewiesen wurden, ist ihnen ein auf 25 Jahre befristetes, im Grundbuch vorgemerktes Gewinnanteilsrecht eingeräumt worden. Durch die Umzonung sind sie nicht unmittelbar, sondern bloss mittelbar betroffen. Die Berufung der Beschwerdeführerinnen als obligatorisch Berechtigte auf die Eigentumsgarantie vermag daher ihre Beschwerdelegitimation (noch) nicht zu begründen. Wie erwähnt ist in solchen Fällen zusätzlich darzutun, dass eine Gesetzesnorm besteht, die ihnen im beeinträchtigten Interessenbereich einen Rechtsanspruch einräumt oder die dem Schutz ihrer Interessen dient. Die Beschwerdeführerinnen berufen sich auf die Erwägungen des Verwaltungsgerichts im Entscheid vom 20. Mai 1998 - wonach im kantonalen Beschwerdeverfahren, im Gegensatz zur staatsrechtlichen Beschwerde, auch tatsächliche Interessen die Legitimation zu begründen vermögen -, den im Steuerrecht beabsichtigten Veräusserungsdruck für landwirtschaftlich genutztes Bauland, den Pächter, den Nutzniessungsberechtigten, den virtuell betroffenen Nachbarn und die im bäuerlichen Bodenrecht als Veräusserungstatbestand qualifizierte Enteignung. Damit ist der im staatsrechtlichen Beschwerdeverfahren erforderlichen Begründungspflicht nicht genüge getan. Es reicht nicht aus, sich auf angeblich gleichgelagerte Tatbestände zu berufen, ohne im Einzelnen aufzuzeigen, inwiefern sich daraus Rückschlüsse auf den eigenen zur Beurteilung stehenden Fall ziehen lassen. Vielmehr ist konkret darzutun, was für eine Gesetzesnorm den Beschwerdeführerinnen als Gewinnanteilsberechtigte in ihren durch die Umzonung beeinträchtigten Interessen einen Rechtsanspruch einräumt oder dem Schutz ihrer Interessen dient. Daran mangelt es vorliegend. Auch soweit die Beschwerdeführerinnen in der Umzonung eine Beeinträchtigung ihrer finanziellen und damit faktischen Interessen erblicken, ist ihrer Beschwerde nicht zu entnehmen, inwiefern sich diese Beeinträchtigung auf die Ausübung ihres Gewinnanteilsrechts auswirkt und inwiefern dadurch die Eigentumsgarantie verletzt worden ist.
Dasselbe gilt auch für die von ihnen angerufene Drittwirkung von Grundrechten. Jeglicher Begründung mangelt es schliesslich, soweit sie <ref-law> anrufen. Dies hat zur Folge, dass insoweit auf die staatsrechtliche Beschwerde nicht eingetreten werden kann.
c) Im Übrigen scheinen die Beschwerdeführerinnen zu verkennen, dass es sich beim Gewinnanteilsrecht um eine vermögensrechtliche Forderung handelt, die suspensiv und resolutiv bedingt ist (<ref-ruling> E. 4b). Damit der Gewinnanspruch überhaupt entsteht, bedarf es nach Art. 28 Abs. 1 des Bundesgesetzes über das bäuerliche Bodenrecht vom 4. Oktober 1991 (BGBB; SR 211. 412.11) der Veräusserung eines Grundstückes oder Gewerbes durch den Erben, dem dieser Gegenstand in einer Erbteilung zu einem Anrechnungswert unter dem Verkehrswert zugewiesen wurde (Jean-Michel Henny, in: Das bäuerliche Bodenrecht, Kommentar zum Bundesgesetz über das bäuerliche Bodenrecht vom 4. Oktober 1991, N. 6 zu Art. 28; Bruno Beeler, Bäuerliches Erbrecht, Zürich 1998, S. 365).
Als Veräusserung gelten auch die formelle und materielle Enteignung (<ref-law>; Bruno Beeler, a.a.O., S. 367). Massgebend für den Zeitpunkt der Veräusserung ist bei der materiellen Enteignung derjenige, in dem die verursachende Massnahme rechtskräftig erlassen worden ist (Bruno Beeler, a.a.O., S. 375). Im vorliegenden Fall ist die Umzonung mit dem Genehmigungsentscheid des Regierungsrates in Rechtskraft erwachsen. Sie hat damit das Gewinnanteilsrecht der Beschwerdeführerinnen unter der Voraussetzung einer materiellen Enteignung, worüber hier nicht zu befinden ist, zum Entstehen gebracht. Inhalt dieses Rechts ist der Anspruch auf anteilsmässige Beteiligung am durch die materielle Enteignung entstandenen Gewinn. Hingegen verleiht das Gewinnanteilsrecht keinen Anspruch darauf, dass eine Umzonung gar nicht erst vorgenommen werden darf. Es hat nicht die Werterhaltung oder gar Wertsteigerung der im Rahmen des bäuerlichen Erbrechts zugewiesenen Grundstücke zum Gegenstand, sondern beim Eintreten bestimmter Tatbestände ein der Erbquote entsprechender Anteil am Gewinn. Durch die Umzonung sind die Beschwerdeführerinnen demnach in ihrem Recht auf Gewinnanteil nicht tangiert. Die Eigentumsgarantie schützt den Gewinnanteilsberechtigten nicht vor zonenplanerischen Massnahmen. Es besteht im bäuerlichen Bodenrecht auch keine Gesetzesnorm, die den Miterben einen Rechtsanspruch auf Belassen der Parzellen in der Bauzone einräumt oder die diesbezüglich ihrem Schutze dient. Im Gegenteil, die langfristige Sicherung landwirtschaftlicher Betriebe durch Umzonung von der Bauzone in die Landwirtschaftszone oder in eine andere hierfür geeignete Zone liegt nachgerade im Zweck (Art. 1) des von den Beschwerdeführerinnen angerufenen BGBB. Bei ihren Interessen handelt es sich schliesslich auch nicht um beeinträchtigte faktische Interessen im Sinne der erwähnten bundesgerichtlichen Praxisänderung (vgl. vorangehende E. 1a), da ihnen als Gewinnanteilsberechtigte - wie erwähnt - bei Umzonungen keine aus dem Eigentum fliessenden, rechtlich geschützten Befugnisse zukommen.
Nicht anders verhält es sich, soweit die Beschwerdeführerinnen ihr Interesse am Verzicht auf die Umzonung damit begründen, dass der Beschwerdegegner keine Entschädigung aus materieller Enteignung geltend gemacht hat.
Die Beschwerdeführerinnen sind demnach in der Sache nicht legitimiert, so dass auch aus diesem Grund auf die staatsrechtliche Beschwerde nicht eingetreten werden kann.
d) Die Beschwerdeführerinnen fechten ausser dem Genehmigungsentscheid des Regierungsrates vom 17. Oktober 2000 auch den Entscheid des Verwaltungsgerichts vom 15. Juli 1999 und vorsorglich alle weiteren in dieser Sache ergangenen Teilentscheide an.
Nach Art. 86 OG ist die staatsrechtliche Beschwerde nur gegen letztinstanzliche Entscheide zulässig. Ein Entscheid einer unteren Instanz kann dabei mitangefochten werden, wenn entweder der letzten kantonalen Instanz nicht sämtliche vor Bundesgericht erhobenen Rügen unterbreitet werden können oder wenn solche Rügen zwar von der letzten kantonalen Instanz beurteilt wurden, jedoch mit einer engeren Prüfungsbefugnis, als sie dem Bundesgericht zusteht (<ref-ruling> E. 2b).
Das Verfahren zur Festsetzung kommunaler Nutzungspläne durchläuft im Kanton Schwyz mehrere aufeinanderfolgende Verfahrensabschnitte. Das kantonale Rechtsmittelverfahren wird dabei nach der öffentlichen Planauflage, aber vor der Planfestsetzung durchgeführt. Die der Plangenehmigung durch den Regierungsrat vorausgehenden Entscheide sind Teilschritte des Planerlassverfahrens. Es fragt sich, ob sie in gleicher Weise zusammen mit dem Genehmigungsentscheid mitangefochten werden können, wie dies nach der angeführten Rechtsprechung in einem Rechtsmittelverfahren für unterinstanzliche Entscheide zutrifft. Das ist zu verneinen. Die im Planungsverfahren vor der Genehmigung ergehenden Entscheide haben keinen endgültigen Charakter (vgl. <ref-ruling> E. 2a; § 28 des Planungs- und Baugesetzes des Kantons Schwyz vom 14. Mai 1987 (PBG), wonach kommunale Nutzungspläne der Genehmigung durch den Regierungsrat bedürfen). Vielmehr beurteilt die Genehmigungsbehörde nach § 28 PBG die kommunalen Nutzungspläne und Vorschriften umfassend auf ihre Rechtmässigkeit und auf ihre Übereinstimmung mit kantonalen Plänen.
Eine derartige Prüfung hat der Regierungsrat denn auch vorliegend vorgenommen. Dass er im angefochtenen Genehmigungsentscheid keine neuen rechtlichen Erwägungen anstellte, sondern sich darauf beschränkte, auf seinen im Rechtsmittelverfahren erlassenen Entscheid und auf den diesem nachfolgenden Entscheid des Verwaltungsgerichts zu verweisen, vermag daran nichts zu ändern. Im Anschluss an den Genehmigungsentscheid können deshalb alle Rügen gegenüber dem Nutzungsplan erhoben werden, namentlich auch solche, die bereits Gegenstand eines kantonalen Rechtsmittelverfahrens bildeten. Für eine Mitanfechtung der dem Genehmigungsentscheid vorangehenden Entscheide besteht daher kein praktisches Bedürfnis, da die in diesem Zusammenhang behandelten Fragen - wie gesagt - im Anschluss an den Genehmigungsentscheid mit staatsrechtlicher Beschwerde gerügt werden können (vgl. auch <ref-ruling> E. 2b S. 169 f.). Soweit die Beschwerdeführerinnen ausser dem Genehmigungsentscheid des Regierungsrates auch alle diesem vorangehenden Entscheide mitanfechten, ist demnach auch aus diesem Grund darauf nicht einzutreten.
2.- a) Trotz fehlender Legitimation in der Sache selbst kann ein Beschwerdeführer die Verletzung von Verfahrensvorschriften rügen, deren Missachtung eine formelle Rechtsverweigerung darstellt. Das nach Art. 88 OG erforderliche rechtlich geschützte Interesse ergibt sich diesfalls nicht aus der Berechtigung in der Sache, sondern aus der Berechtigung, am Verfahren teilzunehmen. Eine solche besteht dann, wenn dem Beschwerdeführer im kantonalen Verfahren Parteistellung zukam. Ist dies der Fall, kann er die Verletzung jener Parteirechte rügen, die ihm nach dem kantonalen Verfahrensrecht oder unmittelbar aufgrund der Bundesverfassung zustehen (<ref-ruling> E. 3b S. 86). Hingegen geht es nicht an, dass auf dem Umweg über die Rüge der Verletzung von Verfahrensvorschriften dem Richter materielle Fragen zur Prüfung vorgelegt werden. Ein in der Sache nicht legitimierter Beschwerdeführer kann deshalb weder die Beweiswürdigung kritisieren noch geltend machen, die Begründung sei materiell unzutreffend. Die Beurteilung dieser Fragen lässt sich nämlich regelmässig nicht von der Prüfung in der Sache selbst trennen (<ref-ruling> E. 1a mit Hinweisen).
b) Die Beschwerdeführerinnen machen eine Verletzung der kantonalen Ausstandsvorschriften (§ 52 Abs. 1 lit. d der schwyzerischen Gerichtsordnung in Verbindung mit § 4 Abs. 1 der Verordnung über die Verwaltungsrechtspflege und § 7 Abs. 1 der Geschäftsordnung für den Regierungsrat) und der in der Bundesverfassung gewährleisteten Verfahrensgarantien (Art. 9 und 29 Abs. 1 BV) geltend. Sie begründen ihre Rügen damit, dass Regierungsrat G._ als früherer in dieser Sache tätige Anwalt des Beschwerdegegners bei der Vorbereitung und Entscheidfindung des angefochtenen Regierungsratsbeschlusses in den Ausstand hätte treten müssen. Zu diesen Rügen sind sie - wie ausgeführt - legitimiert.
Es ist unbestritten, dass Regierungsrat G._ in seiner früheren Tätigkeit als Anwalt die Interessen des Beschwerdegegners vertreten und die Eingabe für den Stallneubau und das Auszonungs- bzw. Umzonungsgesuch gestellt hatte. Unbestritten ist auch, dass diese frühere Tätigkeit gestützt auf die vorerwähnten kantonalen Ausstandsvorschriften einen Ausstandsgrund bildete und er daher in seiner späteren Funktion als Regierungsrat bei der Vorbereitung, Beratung und Beschlussfassung dieses Geschäftes nicht teilnehmen durfte. Nach Auffassung der Beschwerdeführerinnen bedeutet dies, dass ein als befangen erscheinendes Mitglied des Regierungsrats während der mündlichen Beratung über das betreffende Geschäft den Raum zu verlassen hat. Sie sind überzeugt, dass dies bei der Behandlung des vorliegenden Falles nicht befolgt wurde, sondern dass Regierungsrat G._ höchstens bei der Abstimmung nicht teilgenommen hat.
Im Rubrum des angefochtenen und Gegenstand der vorliegenden Beschwerde bildenden Beschlusses vom 17. Oktober 2000 ist festgehalten, dass Regierungsrat G._ bei diesem Geschäft in den Ausstand getreten ist. Die von den Beschwerdeführerinnen anbegehrte Edition des Protokolls der Sitzung besagt nach den Ausführungen des Regierungsrates nichts anderes, da es sich beim angefochtenen Beschluss um einen Auszug aus diesem Protokoll handelt. Aus dem Umstand, dass weder im Beschluss noch im Protokoll vermerkt wurde, ob sich die in den Ausstand getretene Person weiterhin im Sitzungszimmer aufgehalten oder dieses verlassen hat, lässt sich nichts zur Frage einer allfälligen Ausstandspflichtverletzung ableiten. Ein ausdrücklicher Hinweis über den Aufenthalt der in Ausstand getretenen Person im Beschluss oder Protokoll ist nicht vorgeschrieben und wohl auch kaum üblich. Hingegen versicherte der Regierungsrat in seiner Vernehmlassung an das Bundesgericht, dass Regierungsrat G._ den Regierungsratssaal vor Beginn der Beratung und Beschlussfassung über den Teilzonenplan "Felsen" verlassen hatte, was in derartigen Fällen üblich sei und konsequent befolgt werde. Es liegen keine Anhaltspunkte vor, an der Glaubwürdigkeit dieser Aussagen zu zweifeln. Die gegenteilige Überzeugung der Beschwerdeführerinnen fusst auf durch nichts erhärtete Vermutungen. Es braucht daher auch nicht weiter geprüft zu werden, ob die kantonalen Ausstandsvorschriften oder die bundesrechtlichen Verfahrensgarantien überhaupt ein Verlassen des Sitzungszimmers der sich im Ausstand befindenden Person verlangen. Unbehelflich sind auch die weiteren Einwände der Beschwerdeführerinnen im Zusammenhang mit Stellungnahmen und Vernehmlassungen des Regierungsrates an die Gerichte im Rahmen jeweils hängiger Rechtsmittelverfahren.
Die Vorbereitung, Beratung und Beschlussfassung fiel in diesen Fällen in die Zuständigkeit des jeweils angerufenen Gerichts, so dass Regierungsrat G._ selbst bei Unterzeichnung von Eingaben an die Gerichte weder die kantonalen Ausstandsvorschriften noch die bundesrechtlichen Verfahrensgarantien verletzen konnte. Die eingelegten Urkunden belegen übrigens, dass sich Regierungsrat G._ in den Vernehmlassungen an die Gerichte mit zwei auf Versehen beruhenden Ausnahmen jeweils durch Regierungsrat Camenzind vertreten liess. Was die beiden Ausnahmen betrifft, das heisst die Vernehmlassung ans Bundesgericht im Verfahren 1P.540/1999 und diejenige vom 30. September 1999 im Revisionsverfahren des Verwaltungsgerichts, sind die diesbezüglichen Rügen der Beschwerdeführerinnen - vorgebracht erst im vorliegenden Beschwerdeverfahren - ohnehin verspätet.
c) Die Beschwerdeführerinnen werfen dem Verwaltungsgericht vor, es habe einseitig auf das öffentliche Interesse abgestellt und dadurch bei der Prüfung der Verhältnismässigkeit ihre weiteren Einwendungen (Rechtsmissbrauch bei Entgegennahme der Abtretungsentschädigung, mangelnde Schutzwürdigkeit des Betriebes) nicht gehört. Es hätte diese jedoch materiell behandeln und insbesondere die dazu angebotenen Beweise abnehmen müssen. Durch diese Unterlassungen sei ihnen das rechtliche Gehör verletzt worden.
Diese Rügen lassen sich ohne eine materielle Prüfung des angefochtenen Entscheids nicht beurteilen. Nach der eingangs unter Erwägung 2a angeführten Rechtsprechung können die Beschwerdeführer, die in der Sache selbst nicht legitimiert sind, die Rüge nicht erheben, die Begründung des angefochtenen Entscheids halte materiell einer Prüfung nicht stand und es hätten weitere Beweise abgenommen werden müssen.
In formeller Hinsicht ist der angefochtene Entscheid jedenfalls hinreichend begründet. Die Legitimation der Beschwerdeführerinnen ist daher in diesem Punkt zu verneinen.
3.- Die staatsrechtliche Beschwerde ist somit abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Ausgang des Verfahrens tragen die Beschwerdeführerinnen die Kosten (Art. 156 Abs. 1 OG). Ausserdem haben sie den Beschwerdegegner sowie die anwaltlich vertretene Gemeinde Wollerau für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 159 Abs. 1 und 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.- Die Gerichtsgebühr von Fr. 4'000.-- wird den Beschwerdeführerinnen auferlegt.
3.- Die Beschwerdeführerinnen haben dem Beschwerdegegner und der Gemeinde Wollerau für das bundesgerichtliche Verfahren eine Entschädigung von je Fr. 2'500.-- zu bezahlen.
4.- Dieses Urteil wird den Parteien, dem Gemeinderat Wollerau sowie dem Verwaltungsgericht, Kammer III, und dem Regierungsrat des Kantons Schwyz schriftlich mitgeteilt.
_
Lausanne, 11. Mai 2001
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: