wird festgestellt und in Erwägung gezogen:
1.-Mit rechtskräftigem Beschluss vom 28. Oktober 1997 ernannte der Gemeinderat Hergiswil Z._ in Anwendung von <ref-law> zum gesetzlichen Vertreter von S._ mit der Aufgabe, dessen Vermögen sicherzustellen.
Ziff. 4 der Verfügung bestimmt, dass der gesetzliche Vertreter mit den branchenüblichen Honorar-Ansätzen gemäss Aufwand zu entschädigen sei, wobei die Entschädigung durch Rechnungsstellung erfolgen soll und direkt dem Vermögen des gesetzlich Vertretenen zu belasten ist.
Der gesetzliche Vertreter stellte am 13. November 1998 für seine Aufwendungen vom 21. August bis 11. November 1998 Rechnung in der Höhe von Fr. 5'271. 75, die der Gemeinderat Hergiswil mit Entscheid vom 24. November 1998 genehmigte. Eine gegen diesen Entscheid eingereichte Verwaltungsbeschwerde S._'s wies die Justiz- und Sicherheitsdirektion des Kantons Nidwalden (Direktion) am 20. Mai 1999, das Verwaltungsgericht des Kantons Nidwalden die hiergegen erhobene Verwaltungsgerichtsbeschwerde S._'s mit Urteil vom 29. Mai 2000 ab.
Dagegen führt S._ staatsrechtliche Beschwerde, eventuell zivilrechtliche Nichtigkeitsbeschwerde an das Bundesgericht mit den Begehren, das angefochtene Urteil aufzuheben, die Angelegenheit zur Gutheissung der Verwaltungsgerichtsbeschwerde an das Verwaltungsgericht zurückzuweisen und der Beschwerde aufschiebende Wirkung zu erteilen.
Der Gemeinderat Hergiswil schliesst auf Abweisung der Beschwerde; das Verwaltungsgericht sowie der gesetzliche Vertreter haben auf Vernehmlassung verzichtet. Der staatsrechtlichen Beschwerde ist mit Verfügung vom 28. September 2000 aufschiebende Wirkung zuerkannt worden.
2.-a) Der Beschwerdeführer hat "eventuell zivilrechtliche Nichtigkeitsbeschwerde" erhoben. Im vorliegenden Fall geht es um die Entschädigung des gestützt auf <ref-law> ernannten gesetzlichen Vertreters, die im Gesetz nicht eigens geregelt ist. In Bezug auf die Entschädigung des Vormunds (<ref-law>) hat das Bundesgericht indes erkannt, dass es sich dabei um keine Zivilsache, sondern um einen Verwaltungsakt handle (BGE 41 II 296/297). Es besteht kein Anlass, die mit dem Fall von <ref-law> vergleichbare Entschädigung des gesetzlichen Vertreters in rechtlicher Hinsicht anders denn als Verwaltungshandlung zu qualifizieren, wird doch diese Entschädigung von der Vormundschaftsbehörde genehmigt und damit letztlich wie die Entschädigung des Vormunds durch diese Behörde festgesetzt. Liegt somit keine Zivilsache vor, so ist die zivilrechtliche Nichtigkeitsbeschwerde (Art. 68 ff. OG) ausgeschlossen. Da überdies auch die Verwaltungsgerichtsbeschwerde nicht offen steht (Art. 100 Abs. 1 lit. g OG), erweist sich die staatsrechtliche Beschwerde gegen den letztinstanzlichen kantonalen Endentscheid als ausschliesslich zulässiger Rechtsbehelf (Art. 86 Abs. 1 OG).
b) Zulässig, aber überflüssig ist der Antrag auf Rückweisung der Sache zu neuer Entscheidung, zumal die kantonale Instanz auch ohne ihn den Weisungen des bundesgerichtlichen Entscheids gemäss neu über die Sache zu befinden hätte (<ref-ruling> E. 3c/bb; Messmer/Imboden, Die eidgenössischen Rechtsmittel in Zivilsachen, Zürich 1992, S. 226 Fn. 10).
c) Nicht einzutreten ist auf die staatsrechtliche Beschwerde hingegen insoweit, als darin auf die Rechtsschriften des kantonalen Verfahrens verwiesen wird, hat doch die Begründung in der Beschwerde selbst enthalten zu sein (<ref-ruling> E. 4a S. 30).
3.-a) Die Berechtigung, dem gesetzlichen Vertreter ein Honorar zuzusprechen, ergibt sich aus dem rechtskräftigen Entscheid des Beschwerdegegners vom 28. Oktober 1997. Soweit der Beschwerdeführer als Verletzung von Art. 5 und 9 BV beanstandet, das Verwaltungsgericht habe dem gesetzlichen Vertreter in Missachtung der "gesetzlichen Regeln" ein Honorar zugesprochen, dessen Berechtigung nicht überprüft worden sei, ist demnach auf die staatsrechtliche Beschwerde nicht einzutreten.
b) Der Beschwerdeführer kritisiert, die direkte und einseitige Vollstreckung in sein Vermögen widerspreche den Vorschriften des SchKG. Damit richtet er sich aber im Ergebnis ebenso gegen den rechtskräftigen Entscheid des Beschwerdegegners vom 28. Oktober 1997, der die Modalitäten der Bezahlung des gesetzlichen Vertreters regelt und insbesondere vorsieht, dass die Vergütung aus dem Vermögen des Vertretenen zu entrichten ist. Insoweit kann demnach auf die staatsrechtliche Beschwerde ebenfalls nicht eingetreten werden.
4.-Der Beschwerdeführer rügt eine Verletzung des rechtlichen Gehörs, der Begründungspflicht (Art. 29 Abs. 2 OG) bzw. eine Verletzung des Willkürverbotes und des Grundsatzes von Treu und Glauben (<ref-law>) und macht geltend, das Verwaltungsgericht habe sich nicht mit den in der Verwaltungsgerichtsbeschwerde dargelegten Argumenten auseinandergesetzt, sondern einfach auf den Entscheid der Direktion verwiesen und die Verwaltungsgerichtsbeschwerde auf diese Weise "abgeschmettert".
Aus dem rechtlichen Gehör folgt die grundsätzliche Pflicht der Behörden, ihren Entscheid zu begründen. Aufgrund dieses allgemeinen verfassungsrechtlichen Anspruchs lassen sich allerdings keine generellen Regeln aufstellen, denen eine Begründung zu genügen hätte. Sie muss immerhin so abgefasst sein, dass der Betroffene den Entscheid gegebenenfalls sachgerecht anfechten kann. Dies ist nur dann möglich, wenn sowohl er als auch die Rechtsmittelinstanz sich über die Tragweite des Entscheides ein Bild machen können. In diesem Sinne müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde leiten liess und auf welche sich ihr Entscheid stützt. Das bedeutet indessen nicht, dass sie sich ausdrücklich mit jeder tatbeständlichen Behauptung und jedem rechtlichen Einwand auseinander setzen muss. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Gesichtspunkte beschränken (<ref-ruling> E. 2b S. 109; <ref-ruling> E. 3a S. 112; <ref-ruling> E. 2 S. 242). Sodann schliesst <ref-law> nicht aus, dass die Rechtsmittelinstanz auf das angefochtene Urteil verweist, soweit sie dieses bestätigt und auch mit dessen Begründung einig geht. Anders verhält es sich lediglich dann, wenn der Beschwerdeführer vor der Rechtsmittelinstanz neue wesentliche Elemente vorbringt, zu denen die erste Instanz noch nicht Stellung bezogen hat (<ref-ruling> E. 3a S. 409 mit Hinweisen und 108 Ia 264 E. 7). Der Beschwerdeführer hat im vorliegenden Fall keine neuen Vorbringen der beschriebenen Art vorgetragen, geschweige denn diese durch substanziierten Hinweis auf die Akten belegt. Eine Verletzung des rechtlichen Gehörs durch den Verweis auf das Urteil der Direktion ist demnach nicht auszumachen. Ebenso wenig kann demzufolge von einer Verletzung des Willkürverbotes bzw. des Grundsatzes von Treu und Glauben die Rede sein. Im Folgenden ist demnach aufgrund der vom Verwaltungsgericht übernommenen Begründung zu prüfen, inwieweit der Vorwurf der Verletzung des rechtlichen Gehörs begründet ist.
a) Als neu und damit unzulässig gilt von vornherein die Rüge des Beschwerdeführers, er sei im Rahmen der Festsetzung der Entschädigung nicht angehört worden (<ref-ruling> E. 2a S. 39 mit Hinweisen). Der Beschwerdeführer belegt nicht durch einschlägigen Hinweis auf die Akten, dass er den entsprechenden Vorwurf bereits vor der Direktion erhoben und ihn überdies auch vor dem Verwaltungsgericht noch aufrecht erhalten hat. Insoweit ist demnach auf die staatsrechtliche Beschwerde nicht einzutreten.
b) Entgegen der Behauptung des Beschwerdeführers hat sich die Direktion mit der Kritik befasst, der gesetzliche Vertreter habe nicht die Interessen des Beschwerdeführers wahrgenommen. Dieser Vorwurf wurde allerdings als zu pauschal erhoben betrachtet, weshalb die Direktion und das Verwaltungsgericht denn auch nicht näher darauf eingegangen sind.
c) Im Entscheid der Direktion wurde alsdann erläutert, weshalb die Entschädigung sowie die Prüfung der Rechnung des gesetzlichen Vertreters vom öffentlichen und nicht vom privaten Recht beherrscht wird. Mit der entsprechenden Begründung setzt sich der Beschwerdeführer nicht auseinander.
d) Soweit der Beschwerdeführer vorbringt, das Verwaltungsgericht habe die Verrechnungseinrede nicht beachtet, erschöpft sich die Rüge in einer Behauptung und einem unzulässigen Verweis auf die kantonalen Rechtsschriften, was den Anforderungen von Art. 90 Abs. 1 lit. b OG nicht entspricht, zumal damit der Vorwurf der Verletzung des rechtlichen Gehörs nicht rechtsgenüglich substanziiert ist (Art. 90 Abs. 1 lit. b OG; <ref-ruling> E. 4a S. 30; <ref-ruling> E. 1d S. 201; <ref-ruling> E. 3a; <ref-ruling> E. 4a, mit Hinweisen).
5.-Als unbegründet erweist sich sodann die Rüge, das Verwaltungsgericht habe die Rechnung des gesetzlichen Vertreters nicht auf ihre Angemessenheit überprüft. Der Entscheid der Direktion, auf den das Verwaltungsgericht verweist, besagt eindeutig, es hätten offensichtlich keine Gründe vorgelegen, die vom gesetzlichen Vertreter detailliert aufgeführte Kostenzusammenstellung zu beanstanden.
Dass überhaupt keine Prüfung der Kostenliste stattgefunden habe, lässt sich demnach nicht vertreten.
6.-Es wurde bereits erläutert, dass die Entschädigung des gesetzlichen Vertreters nicht als zum Privatrecht gehörend zu betrachten ist. Darauf kann verwiesen werden.
Die Ausführungen des Beschwerdeführers zu diesem Punkt erschöpfen sich einmal mehr in einer einfachen Behauptung, ohne dass dargelegt wird, inwiefern die implizite vertretene Auffassung des Verwaltungsgerichts, es liege ein öffentlichrechtliches Verhältnis vor, das vom Verwaltungsgericht zu beurteilen sei, <ref-law> verletzen könnte.
7.-Damit ist die staatsrechtliche Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (Art. 156 Abs. 1 OG). Dem Beschwerdegegner als verfügender Behörde ist bei diesem Verfahrensausgang antragsgemäss eine Parteientschädigung zuzusprechen, da er offensichtlich über keinen eigenen Rechtsdienst verfügt und sich der Beizug eines Anwaltes gerechtfertigt hat (vgl. Poudret/SandozMonod, Commentaire de la loi d'organisation judiciaire, V, N. 3 zu Art. 159 OG, S. 162). Dem gesetzlichen Vertreter hingegen ist keine Entschädigung zu gewähren, da er sich nicht hat vernehmen lassen.

Demnach erkennt das Bundesgericht:
1.-Die staatsrechtliche Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.-Die Gerichtsgebühr von Fr. 2'500.-- wird dem Beschwerdeführer auferlegt.
3.-Der Beschwerdeführer hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4.-Dieses Urteil wird den Parteien, Z._ sowie dem Verwaltungsgericht des Kantons Nidwalden schriftlich mitgeteilt.
_
Lausanne, 20. November 2000
Im Namen der II. Zivilabteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: