zieht das Bundesgericht in Erwägung:
1.- In der Enteignungssache, welche bereits mehrmals
Gegenstand bundesgerichtlicher Entscheide war (vgl. z.B. die Urteile vom 16. Oktober 1998 [1P. 384/1998], 28. Januar 1998 [1P. 722/1997], 3. Oktober 1996 [1P. 526/1996], 14. Juni 1993 [1P. 26/1993], 3. November 1992 [1P. 824/1991], 1. November 1988 [1P. 264/1988] und 24. Oktober 1979 [P 35/79]), wies das Verwaltungsgericht des Kantons Zürich mit Entscheid vom 28. Oktober 1999 einen Rekurs von M._ ab, soweit es darauf eintrat. Das Verwaltungsgericht erkannte, das Ablehnungsbegehren gegen bestimmte Verwaltungsrichter sei teilweise gegenstandslos, im Übrigen unzulässig. Soweit M._ die Revision eines Beschlusses der Verwaltungskommission des Verwaltungsgerichts verlange, sei sein Revisionsgesuch aus formellen Gründen unzulässig. Auf seinen Rekurs sei auch insoweit nicht einzutreten, als er seine Ansprüche bei den Zivilgerichten sowie bei den betreibungs- und konkursrechtlichen Aufsichtsbehörden geltend machen könne. Weiter trat das Verwaltungsgericht auf den Rekurs nicht ein, weil M._ durch die Beiladung des Staats Zürich als Mitbeteiligter im Schätzungsverfahren keinen nicht wieder gut zu machenden Nachteil erlitten habe. Im Wesentlichen trat das Verwaltungsgericht auf den Rekurs jedoch deshalb nicht ein, weil über M._ am 14. März 1995 der Konkurs eröffnet worden sei und die Prozessführungsbefugnis auf die X._ Ltd. übergegangen sei, welcher die im vorliegenden Verfahren umstrittenen Ansprüche aus materieller Enteignung nach <ref-law> abgetreten worden seien. Das Verwaltungsgericht trat auf den Rekurs nur insoweit ein, als M._ eine Verweigerung des rechtlichen Gehörs rügte; die Rüge sei indessen unbegründet.
Mit Verwaltungsgerichtsbeschwerde vom 10. Dezember 1999 stellt M._ folgende Anträge:
"1. Dieser Verwaltungsgerichtsbeschwerde kommt als ordentliches Rechtsmittel im Sinne von Art. 111 Abs. 1 OG die aufschiebende Wirkung von Gesetzes wegen zu.
2. Der vorinstanzliche Entscheid des Verwaltungsgerichtes des Kantons Zürich, 3. Kammer, vom 28. Oktober 1999 (VR. 99.00003) sei wegen Verletzung der Ausstandsregeln im Sinne von Par. 95 ff. des ZH-GVG, begangen durch den Verwaltungsrichter S._, kosten- und entschädigungspflichtig zu kassieren.
3. Die mit dem Beschwerdeführer während Jahren verfeindeten Bundesrichter(Innen) der I. und II. Zivilabteilung und deren Gerichtssekretär(Innen) haben, im Sinne von Art. 24 OG, in den nicht strittigen Ausstand zu treten; allenfalls seien diese gemäss Art. 23 lit. b und c OG, im Sinne von Art. 25 OG, in den Ausstand zu setzen.
4. Dem Nebenintervenienten seien auch auf Bundesebene in diesem formellen und materiellen Enteignungsverfahren keine Gerichtskosten oder irgendwelche andere Prozessentschädigungskosten aufzuerlegen.
5. Es sei die Öffentlichkeit des Verfahrens im Sinne von Art. 6 Ziffer 1 der EMRK herzustellen.
6. Das Rubrum dieses Schätzungsverfahren sei zwecks Richtigstellung der Parteirechte und Parteipflichten wie vorstehend aufgeführt richtig zu stellen.
7. Es sei der vom Nebenintervenient mit Nebenintervention vom 03. April 1998, Ziffer 9.2., Seite 9/14 an die Schätzungskommission II des Kt. Zürich mit öffentlichen Urkunden im Sinne von <ref-law> erbrachte Beweis über die absolute und gemäss Art. 2 der Ueb. Bst.BV derogatorische nachträgliche Nichtigkeit mit Wirkung ex tunc der Verfügung (Konkursdekret) des Konkursrichters des Bezirkes Meilen vom 14. März 1995 durch den Instruktionsrichter selbst, oder aber in seinem Auftrag durch die zuständigen Kantonsbehörden gemäss Art. 95 OG abzunehmen.
8. Der angefochtene vorinstanzliche Entscheid mitsamt dem damit angefochtenen Zwischenentscheid der Schätzungskommission II des Kantons Zürich vom 26. August 1998 (SchK II.-Nrn. 7/86 und 14/86), sowie das gesamte übrige Schätzungsverfahren seien wegen schweren unheilbaren begangenen Verfahrensfehlern kosten- und ersatzpflichtig zu kassieren.
9. Das Verfahren sei an die Vorinstanz zurückzuweisen mit der positiven Anweisung zu gewährleisten, das bisherige gesetz- und verfahrenswidrige Schätzungsverfahren durch eine neue und abhängige Schätzungskammer neu zu beginnen.
10. Der vorinstanzliche Entscheid sei auch wegen vorsätzlicher Rechtsverzögerung und formeller Rechtsverweigerung im Sinne von <ref-law> und von Art. 6 Ziffer 1 der EMRK zu kassieren.
11. Der vorinstanzliche Beschluss sei auch wegen Verletzung übergeordneten Völkerrechts auf kantonalzürcherischer Ebene zu kassieren.
12. Es sei ein unabhängiger Experte zur Abklärung des vorliegenden Amtsmissbrauchs bei der Schätzungskommission II des Kt. Zürich, sowie beim Konkursamt Küsnacht ZH zu bestellen.
13. Der Präsident habe vor Urteilsfällung noch eine mündliche Parteiverhandlung anzuordnen.
14. Sämtliche Kosten des vorinstanzlichen Verfahrens wie auch dieses Verfahrens seien den Enteignern aufzuerlegen.
15. Dem Nebenintervenient sei für dieses und die vorinstanzlichen Verfahren kostendeckende Prozessentschädigungen zuzusprechen. "
2.- Mit dem Entscheid über die Verwaltungsgerichtsbeschwerde selbst wird das Gesuch um aufschiebende Wirkung gegenstandslos (Antrag 1).
3.- Der Beschwerdeführer rügt zunächst, das Verwaltungsgericht habe die Ausstandsregeln nach dem massgeblichen kantonalen Verfahrensrecht verletzt, weil Verwaltungsrichter S._ am angefochtenen Entscheid mitgewirkt hat. S._ sei in einem obergerichtlichen Verfahren "wegen beruflicher Unfähigkeit und einseitiger Parteinahme ... aus dem Verkehr gezogen" worden. Der Beschwerdeführer führt mit keinem Wort aus, um welches obergerichtliche Verfahren es sich gehandelt haben soll. Die Rüge ist nicht überprüfbar, weshalb die Verwaltungsgerichtsbeschwerde soweit offensichtlich unbegründet ist (Antrag 2).
4.- Das gegen die Richter und Gerichtsschreiber der beiden Zivilabteilungen des Bundesgerichts gestellte Ausstandsbegehren ist gegenstandslos, weil der vorliegende Fall von der I. öffentlichrechtlichen Abteilung behandelt wird (Antrag 3).
5.- Das Verfahren im Kanton Zürich ist bisher nicht abgeschlossen worden, und es gibt keinen Hinweis dafür, dass die Öffentlichkeit ausgeschlossen würde. Der Beschwerdeführer nennt in dieser Hinsicht auch gar keine Anhaltspunkte. Die Rüge einer diesbezüglichen Verletzung von Art. 6 Ziff. 1 EMRK ist offensichtlich unbegründet (Antrag 5).
6.- Entgegen der Behauptung des Beschwerdeführers hat das Verwaltungsgericht die Rüge behandelt, der Staat Zürich hätte nicht beigeladen werden dürfen. Indessen ist das Verwaltungsgericht mit ausführlicher Begründung auf die Rüge nicht eingetreten. Ein Grund, weshalb diese Art der Erledigung Bundesrecht verletzen soll, ist nicht zu sehen. Die in der beim Bundesgericht eingereichten Verwaltungsgerichtsbeschwerde wiederholte Rüge ist offensichtlich unbegründet. Insbesondere ist das Rubrum des angefochtenen Entscheids nicht zu korrigieren (Antrag 6).
7.- Der Beschwerdeführer verlangt, das Bundesgericht habe einen vom Beschwerdeführer bezeichneten Beweis über die nachträgliche Nichtigkeit mit Wirkung ex tunc des Konkursdekretes des Konkursrichters des Bezirkes Meilen vom 14. März 1995 abzunehmen. Das Verwaltungsgericht hat dieses Begehren indessen als unzulässig beurteilt und den Beschwerdeführer an die Zivilgerichte sowie an die betreibungs- und konkursrechtlichen Aufsichtsbehörden verwiesen. Diese Auffassung verletzt kein Bundesrecht. Die entsprechende Rüge des Beschwerdeführers ist offensichtlich unbegründet. Das gilt auch insoweit, als mit der Rüge eine angebliche Verweigerung des rechtlichen Gehörs behauptet werden soll (Antrag 7).
8.- Eine mündliche Parteiverhandlung ist im Verfahren der Verwaltungsgerichtsbeschwerde nicht vorgesehen. Das entsprechende Begehren des Beschwerdeführers ist offensichtlich unbegründet (Antrag 13).
9.- a) Der Beschwerdeführer rügt, Eigentumsrechte und Entschädigungsforderungen seien widerrechtlich zur Konkursmasse genommen worden. Diese Rüge hätte der Beschwerdeführer im Konkursverfahren vorbringen müssen. Im verwaltungsgerichtlichen Beschwerdeverfahren ist die Rüge unzulässig.
b) Weiter rügt der Beschwerdeführer, die kantonalen Behörden hätten ihn zu Unrecht als "Beklagten", "Mitbeteiligten", "Rekurrenten" und ähnlich bezeichnet. Durch diese Bezeichnungen, seien sie zu Recht oder zu Unrecht vorgenommen worden, hat der Beschwerdeführer keinen Nachteil erlitten. Dasselbe gilt für seine Behauptung, der angefochtene
Entscheid sei weder zu seinen Gunsten noch zu seinen Lasten rechtskräftig. Er ist daher mangels Beschwer nicht legitimiert, diese Rügen zu erheben.
c) Der Beschwerdeführer macht geltend, das gesamte Konkursverfahren falle mit Wirkung ex tunc dahin. Die entsprechenden Urkunden seien unrichtig. Diese Rüge hätte er mit Rechtsmitteln des Betreibungs- und Konkursrechtes erheben müssen. Im verwaltungsgerichtlichen Beschwerdeverfahren ist sie unzulässig.
d) Die übrigen weitschweifigen Ausführungen des Beschwerdeführers lassen keine Verletzung von Bundesrecht erkennen. Eine solche ist auch bei einer rechtlichen Überprüfung des angefochtenen Entscheids von Amtes wegen nicht zu erkennen. Die durch das Verwaltungsgericht des Kantons Zürich getroffenen Feststellungen tatsächlicher Natur sind ohnehin nicht zu überprüfen (Art. 105 Abs. 1 OG). Die Anträge des Beschwerdeführers in der Sache selbst sind daher abzuweisen, soweit darauf einzutreten ist (Anträge 8, 9, 10, 11 und 12).
10.- Weil die Beschwerde von Anfang an aussichtslos war, ist das Gesuch um unentgeltliche Rechtspflege abzuweisen (Antrag 4). Die Kosten sind gemäss Art. 156 Abs. 1 OG dem unterliegenden Beschwerdeführer aufzuerlegen (Abweisung des Antrags 14). Nach Art. 159 Abs. 2 OG ist dem unterliegenden Beschwerdeführer keine Parteientschädigung zuzusprechen (Abweisung des Antrags 15).

Demnach erkennt das Bundesgericht
im Verfahren nach Art. 36a OG:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen, soweit darauf einzutreten ist (Beschwerdeanträge 2, 5, 6, 7, 8, 9, 10, 11, 12, 13).
2.- Auf das Ablehnungsbegehren wird nicht eingetreten (Beschwerdeantrag 3).
3.- Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen (Beschwerdeanträge 4, 14, 15).
4.- Das Gesuch um Gewährung der aufschiebenden Wirkung ist gegenstandslos (Beschwerdeantrag 1).
5.- Die Gerichtsgebühr von Fr. 3'000. -- wird dem Beschwerdeführer auferlegt.
6.- Eine Parteientschädigung wird nicht zugesprochen.
7.- Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Zürich, 3. Abteilung, 3. Kammer schriftlich mitgeteilt.
_
Lausanne, 5. Januar 2000
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: