A.- Der 1953 geborene Z._ ersuchte im Mai 1995 die Invalidenversicherung um berufliche Massnahmen, insbesondere Umschulung zum Naturarzt. Mit Verfügung vom 26. April 1996 lehnte die IV-Stelle Nidwalden das Leistungsbegehren ab, was das Verwaltungsgericht des Kantons Nidwalden mit Entscheid vom 23. September 1996 bestätigte.
Auf Verwaltungsgerichtsbeschwerde hob das Eidgenössische Versicherungsgericht mit Urteil vom 2. Februar 1998 Entscheid und Verfügung auf und wies die Sache zur Neubeurteilung, nach ergänzenden Abklärungen im Sinne der Erwägungen, an die Verwaltung zurück.
Gestützt auf den Arztbericht des Dr. med M._, FMH Innere Medizin speziell Rheumaerkrankungen, vom 8. April 1998 sowie den Schlussbericht des Berufsberaters vom 25. Juni 1998 lehnte die IV-Stelle mit Verfügung vom 2. Oktober 1998 den Anspruch auf Umschulung zum Naturarzt erneut ab.
B.- Die von Z._ hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Nidwalden mit Entscheid vom 31. Mai 1999 ab.
C.- Z._ lässt Verwaltungsgerichtsbeschwerde führen mit den Rechtsbegehren, in Aufhebung von Entscheid und Verfügung sei die Sache zur ergänzenden medizinischen und berufsberaterischen Abklärung an die Verwaltung zurückzuweisen; im Weitern sei ihm die unentgeltliche Rechtspflege zu gewähren.
Die IV-Stelle beantragt die Abweisung der Verwaltungsgerichtsbeschwerde, im Eventualstandpunkt bei Gutheissung des Rechtsmittels das Absehen von der Auferlegung von Kosten.
Das Bundesamt für Sozialversicherung hat keine Vernehmlassung eingereicht.
D.- Mit Eingabe vom 12. Oktober 2000 hat Z._ das Gesuch um unentgeltliche Rechtspflege zurückziehen lassen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Im Streite liegt der Anspruch auf Umschulung zum Naturarzt unter dem Gesichtspunkt der Eingliederungswirksamkeit der beruflichen Massnahme (annähernde Gleichwertigkeit mit dem bisherigen Beruf als Polier, vgl. <ref-ruling> Erw. 2a). Die für die Beurteilung dieser Frage massgebenden Rechtsgrundlagen, insbesondere <ref-law>, werden im Urteil vom 2. Februar 1998 (I 448/96) dargelegt. Darauf wird verwiesen.
2.- Nach Auffassung des kantonalen Gerichts lässt sich die Einkommenssituation durch die beantragte Umschulung zum Naturarzt nicht entscheidend verbessern. Der mit diesem Beruf erzielbare mutmassliche Verdienst von Fr. 76'800.- (Angabe der Naturärzte-Vereinigung) sei sinngemäss nicht wesentlich höher als der als medizinischer Masseur erreichbare Lohn von Fr. 70'000.- bis Fr. 75'000.-. Der Beschwerdeführer sei somit aufgrund und im Rahmen seiner paramedizinischen Ausbildungen genügend wirksam eingegliedert, sodass kein Anspruch auf Umschulung zum Naturarzt bestehe.
3.- Gegen die im Grundsatze nicht bestrittene Argumentation der Vorinstanz wird in der Verwaltungsgerichtsbeschwerde vorgebracht, der Beschwerdeführer sei im Verfügungszeitpunkt als medizinischer Masseur nicht zu 100 % arbeitsfähig gewesen. Dr. med. M._ habe sich zwar in seinem Bericht vom 8. April 1998 in diesem Sinne geäussert.
Darauf könne indessen entgegen dem kantonalen Gericht nicht abgestellt werden. Dieser Einwand ist begründet.
Die Aussagen des Dr. med. M._ sind insofern nicht schlüssig, als er die Arbeitsfähigkeit als medizinischer Masseur auf 100 % beziffert, gleichzeitig aber medizinische Massnahmen zur Verbesserung der Arbeitsfähigkeit bejaht. Zu beachten ist sodann, dass der Versicherte gemäss Diagnose hauptsächlich an Rückenbeschwerden leidet. Daneben besteht auch eine auf einen Sturz mit dem Mountainbike im Sommer 1994 erlittene Schulterverletzung rechts, wofür er aufgrund einer Erwerbsunfähigkeit von 25 % eine Invalidenrente der Unfallversicherung bezieht. Aufgrund der Beeinträchtigungen im Rücken- und im Schulterbereich rechts erscheint fraglich, ob die Tätigkeit als medizinischer Masseur effektiv ohne wesentliche Einschränkung möglich und zumutbar ist, erfordert doch diese Arbeit häufig eine vornüber geneigte und abgedrehte Oberkörperhaltung, wobei gleichzeitig auch ein bestimmter Kraftaufwand notwendig ist. In diesem Zusammenhang stellt sich auch die Frage, inwiefern das Massieren als Folge einer gemäss Anamnese 1975 operativ behandelten sowie einer weiteren 1994 erlittenen Verletzung des Daumens rechts beeinträchtigt wird. Gemäss Dr. med. M._ war bei der Untersuchung vom 30. März 1998 ein leichter Endphasenschmerz im rechten Daumengrundgelenk bei forciertem Bandstress feststellbar.
Die in diesem Verfahren eingereichten ärztlichen Berichte, insbesondere derjenige des Dr. med. S._ vom 14. September 2000, soweit für dieses Verfahren beweisrechtlich von Bedeutung (<ref-ruling> Erw. 1b und <ref-ruling>), bestätigen die aus den bisherigen Akten sich ergebenden Zweifel an der Schlüssigkeit der vorinstanzlichen Annahme einer Arbeitsfähigkeit von 100 % als medizinischer Masseur.
Die Äusserungen des Hausarztes werfen anderseits die für die streitige Umschulung wichtige Frage auf, ob und gegebenenfalls in welchem Ausmass die angestrebte Tätigkeit als Naturarzt zumutbar ist oder wäre.
4.- Im Sinne der vorstehenden Erwägungen wird die IV-Stelle weitere (medizinische und berufsberaterische) Abklärungen vorzunehmen haben.
5.- Dem Ausgang des Verfahrens entsprechend steht dem Beschwerdeführer eine Parteientschädigung zu Lasten der unterliegenden IV-Stelle zu (Art. 159 Abs. 1 und 2 OG in Verbindung mit Art. 135 OG).
Die Verwaltung wehrt sich gegen die Auferlegung von Parteikosten. Der Versicherte habe in Verletzung seiner Meldepflicht nach <ref-law> den - im Bericht des Hausarztes Dr. med. S._ vom 14. September 2000 ebenfalls erwähnten - Autoauffahrunfall vom 30. Juli 1998 verschwiegen.
Sinngemäss erst wegen dieses Fehlverhaltens sei es zum Prozess gekommen. Sämtliche Parteikosten seien daher nach Art. 159 Abs. 5 in Verbindung mit Art. 156 Abs. 6 OG dem Beschwerdeführer zu überbinden. Diesem Antrag ist unter den gegebenen Umständen nicht stattzugeben. Dabei kann offen bleiben, ob der Versicherte durch das ihm vorgeworfene Verhalten die Auskunftspflicht gemäss <ref-law> - der von der IV-Stelle angerufene <ref-law> betrifft das Stadium des laufenden Leistungsbezuges (nicht veröffentlichtes Urteil R. vom 27. Oktober 1993 [I 178/92]) - verletzt hat. Selbst wenn es sich so verhielte, kann ihm dies entschädigungsrechtlich nicht zum Nachteil gereichen, nachdem die IV-Stelle laut Akten kein Vorbescheidverfahren durchgeführt hatte, was in der Regel einen nicht heilbaren Mangel darstellt (vgl. <ref-law> und <ref-ruling> sowie SVR 1996 IV Nr. 98 S. 297), und ihn so selber der Möglichkeit beraubte, vor Verfügungserlass den Autoauffahrunfall vom 30. Juli 1998 als (neues) tatsächliches Argument gegen die vorgesehene Ablehnung des Umschulungsgesuchs mitzuteilen.
Dass diese Tatsache auch nicht in der Beschwerde an die Vorinstanz erwähnt wurde, ist im Lichte des in Art. 156 Abs. 6 und Art. 159 Abs. 5 OG verankerten Verursacherprinzips schliesslich deshalb nicht von Bedeutung, weil nach den Darlegungen in Erw. 3 die Aktenlage in Bezug auf die Frage der Arbeitsfähigkeit als medizinischer Masseur auch ohne deren Berücksichtigung nicht spruchreif war.

Demnach erkennt das Eidg. Versicherungsgericht:
I.In Gutheissung der Verwaltungsgerichtsbeschwerde werden
der Entscheid des Verwaltungsgerichts des Kantons
Nidwalden vom 31. Mai 1999 und die Verfügung vom 2. Oktober 1998 aufgehoben und es wird die Sache an
die IV-Stelle Nidwalden zurückgewiesen, damit sie,
nach ergänzenden Abklärungen im Sinne der Erwägungen,
über den Umschulungsanspruch des Beschwerdeführers neu
verfüge.
II.Es werden keine Gerichtskosten erhoben.
III. Die IV-Stelle Nidwalden hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 2500.- (einschliesslich
Mehrwertsteuer) zu bezahlen.
IV.Das Verwaltungsgericht des Kantons Nidwalden wird über eine Parteientschädigung für das kantonale Verfahren entsprechend dem Ausgang des letztinstanzlichen Prozesses
zu befinden haben.
V.Dieses Urteil wird den Parteien, dem Verwaltungsgericht
des Kantons Nidwalden, der Ausgleichskasse
Nidwalden und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 23. Oktober 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Der Gerichtsschreiber: