Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Gemäss Art. 128 OG beurteilt das Eidgenössische Versicherungsgericht letztinstanzlich Verwaltungsgerichtsbeschwerden gegen Verfügungen im Sinne von Art. 97, 98 lit. b-h und 98a OG auf dem Gebiet der Sozialversicherung.
Im verwaltungsgerichtlichen Beschwerdeverfahren sind grundsätzlich nur Rechtsverhältnisse zu überprüfen bzw. zu beurteilen, zu denen die zuständige Verwaltungsbehörde vorgängig verbindlich - in Form einer Verfügung - Stellung genommen hat. Insoweit bestimmt die Verfügung den beschwerdeweise weiterziehbaren Anfechtungsgegenstand. Umgekehrt fehlt es an einem Anfechtungsgegenstand und somit an einer Sachurteilsvoraussetzung, wenn und insoweit keine Verfügung ergangen ist (<ref-ruling> Erw. 1a, 119 Ib 36 Erw. 1b, je mit Hinweisen).
Nach der Rechtsprechung des Eidgenössischen Versicherungsgerichts kann das verwaltungsgerichtliche Verfahren aus prozessökonomischen Gründen auf eine ausserhalb des Anfechtungsgegenstandes, d.h. ausserhalb des durch die Verfügung bestimmten Rechtsverhältnisses liegende spruchreife Frage ausgedehnt werden, wenn diese mit dem bisherigen Streitgegenstand derart eng zusammenhängt, dass von einer Tatbestandsgesamtheit gesprochen werden kann, und wenn sich die Verwaltung zu dieser Streitfrage mindestens in Form einer Prozesserklärung geäussert hat (<ref-ruling> Erw. 2a mit Hinweisen).
In der Verfügung der IV-Stelle vom 8. März 1999 wird der Anspruch auf eine Invalidenrente abgelehnt. Die Verfügung erging - ausdrücklich - im Rahmen der Behandlung des am 16. Juni 1998 gestellten Gesuchs. Darin werden folgende Versicherungsleistungen beansprucht: Berufsberatung, Umschulung auf eine neue Tätigkeit, Arbeitsvermittlung sowie besondere medizinische Eingliederungsmassnahmen (Ziff. 7.8 der Anmeldung zum Bezug von IV-Leistungen für Erwachsene vom 16. Juni 1998). Die Ausrichtung einer Rente wird nicht beantragt. In der ablehnenden Verfügung der IV-Stelle wird lediglich der Rentenanspruch abgelehnt, zu den ausdrücklich beantragten Leistungen, insbesondere zur verlangten Umschulung, wird nicht Stellung genommen. Der Beschwerdeführer verlangte bereits im Vorbescheidverfahren, dann im vorinstanzlichen Verfahren und schliesslich im Verwaltungsgerichtsverfahren vor dem Eidgenössischen Versicherungsgericht jeweils eventualiter die Durchführung notwendiger Eingliederungsmassnahmen. Es stellt sich somit die Frage, ob die Durchführung von Eingliederungsmassnahmen, insbesondere Massnahmen beruflicher Art (Umschulung), zu prüfen ist. Sie ist zu bejahen. Angesichts der unterschiedlichen Anspruchsvoraussetzungen für Eingliederungsmassnahmen und Invalidenrente kann zwar nicht davon ausgegangen werden, dass mit der Ablehnung der Rente implizit auch die Ablehnung von Eingliederungsmassnahmen verfügt worden sei; insofern ist die Frage der Eingliederungsmassnahmen nicht Anfechtungsgegenstand und somit auch nicht Streitgegenstand.
Mit Beschwerde und Verwaltungsgerichtsbeschwerde kann im Sozialversicherungsprozess aber gerügt werden, dass ein gestellter Antrag nicht behandelt wurde. Vorliegend hat der Beschwerdeführer diese Rüge erhoben, weshalb die Frage der Durchführung von Eingliederungsmassnahmen schon unter dem Aspekt der Verletzung des rechtlichen Gehörs zu prüfen ist.
Eine Verletzung des rechtlichen Gehörs führt in der Regel zwar zur Aufhebung der angefochtenen Verfügung. Unter gewissen Voraussetzungen, die vorliegend als gegeben erscheinen (vgl. <ref-ruling> Erw. 2, 126 V 132 Erw. 2b, je mit Hinweisen), kann die Verletzung des rechtlichen Gehörs jedoch als geheilt gelten. Die Annahme einer Heilung verlangt aber selbstverständlich, dass der ursprünglich nicht oder nicht richtig geprüfte Antrag im Beschwerdeverfahren tatsächlich beurteilt wird.
Im Übrigen kann mit der Vorinstanz davon ausgegangen werden, dass die Voraussetzungen zur Ausdehnung des Anfechtungs- bzw. Streitgegenstandes infolge Sachzusammenhangs gegeben sind. Diesbezüglich ist darauf hinzuweisen, dass sich sowohl die IV-Stelle in ihrer Vernehmlassung vom 17. Mai 1999 im Rahmen des vorinstanzlichen Verfahrens als auch die Vorinstanz im Entscheid vom 18. Januar 2001 zu den Eingliederungsmassnahmen geäussert haben. Im vorliegenden Verfahren ist deshalb die Durchführung von Eingliederungsmassnahmen zu prüfen.
2.- a) Nach <ref-law> gilt als Invalidität die durch einen körperlichen oder geistigen Gesundheitsschaden als Folge von Geburtsgebrechen, Krankheit oder Unfall verursachte, voraussichtlich bleibende oder längere Zeit dauernde Erwerbsunfähigkeit.
b) Nach <ref-law> gehen Eingliederungsmassnahmen den Rentenleistungen vor. Diese werden nur erbracht, wenn die versicherte Person nicht oder bloss in ungenügendem Masse eingegliedert werden kann. Sowohl bei der erstmaligen Prüfung des Leistungsgesuches wie auch im Revisionsfall hat die Verwaltung von Amtes wegen abzuklären, ob vorgängig der Gewährung oder Weiterausrichtung einer Rente Eingliederungsmassnahmen durchzuführen sind (<ref-ruling> f., 99 V 48).
c) Um den Invaliditätsgrad bemessen zu können, ist die Verwaltung (und im Beschwerdefall das Gericht) auf Unterlagen angewiesen, die ärztliche und gegebenenfalls auch andere Fachleute zur Verfügung zu stellen haben. Aufgabe des Arztes oder der Ärztin ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Im Weiteren sind die ärztlichen Auskünfte eine wichtige Grundlage für die Beurteilung der Frage, welche Arbeitsleistungen der Person noch zugemutet werden können (<ref-ruling> Erw. 4, 115 V 134 Erw. 2, 114 V 314 Erw. 3c, 105 V 158 Erw. 1).
d) Das Bundesrecht schreibt nicht vor, wie die einzelnen Beweismittel zu würdigen sind. Für das gesamte Verwaltungs- und Verwaltungsgerichtsbeschwerdeverfahren gilt der Grundsatz der freien Beweiswürdigung (<ref-law> in Verbindung mit <ref-law>; Art. 95 Abs. 2 OG in Verbindung mit Art. 113 und 132 OG). Danach haben Versicherungsträger und Sozialversicherungsgericht die Beweise frei, d.h. ohne Bindung an förmliche Beweisregeln, sowie umfassend und pflichtgemäss zu würdigen. Für das Beschwerdeverfahren bedeutet dies, dass das Sozialversicherungsgericht alle Beweismittel, unabhängig davon, von wem sie stammen, objektiv zu prüfen und danach zu entscheiden hat, ob die verfügbaren Unterlagen eine zuverlässige Beurteilung des streitigen Rechtsanspruches gestatten. Insbesondere darf es bei einander widersprechenden medizinischen Berichten den Prozess nicht erledigen, ohne das gesamte Beweismaterial zu würdigen und die Gründe anzugeben, warum es auf die eine und nicht auf die andere medizinische These abstellt. Hinsichtlich des Beweiswertes eines Arztberichtes ist entscheidend, ob der Bericht für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt, in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, in der Beurteilung der medizinischen Zusammenhänge und in der Beurteilung der medizinischen Situation einleuchtet und ob die Schlussfolgerungen der Expertin oder des Experten begründet sind. Ausschlaggebend für den Beweiswert ist somit grundsätzlich weder die Herkunft eines Beweismittels noch die Bezeichnung der eingereichten oder in Auftrag gegebenen Stellungnahme als Bericht oder Gutachten (<ref-ruling> Erw. 1c mit Hinweisen).
Die Rechtsprechung hat es mit dem Grundsatz der freien Beweiswürdigung als vereinbar erachtet, in Bezug auf bestimmte Formen medizinischer Berichte und Gutachten Richtlinien für die Beweiswürdigung aufzustellen. Diese Rechtsprechung wurde - soweit hier von Interesse - in <ref-ruling> Erw. 3b wie folgt zusammengefasst:
-Bei Gerichtsgutachten weicht das Gericht nicht ohne zwingende
Gründe von der Einschätzung der medizinischen
Expertinnen und Experten ab, deren Aufgabe es ist, ihre
Fachkenntnisse der Gerichtsbarkeit zur Verfügung zu
stellen, um einen bestimmten Sachverhalt medizinisch zu
erfassen. Ein Grund zum Abweichen kann vorliegen, wenn
die Gerichtsexpertise widersprüchlich ist oder wenn ein
vom Gericht eingeholtes Obergutachten in überzeugender
Weise zu anderen Schlussfolgerungen gelangt. Abweichende
Beurteilung kann ferner gerechtfertigt sein, wenn gegensätzliche
Meinungsäusserungen anderer Fachleute dem Gericht
als triftig genug erscheinen, die Schlüssigkeit des
Gerichtsgutachtens in Frage zu stellen, sei es, dass es
die Überprüfung durch eine Oberexpertise für angezeigt
hält, sei es, dass es ohne eine solche vom Ergebnis des
Gerichtsgutachtens abweichende Schlussfolgerungen zieht
(<ref-ruling> Erw. 1b, 112 V 32 f. mit Hinweisen).
-In Bezug auf Berichte von Hausärzten darf und soll das
Gericht der Erfahrungstatsache Rechnung tragen, dass
Hausärzte mitunter im Hinblick auf ihre auftragsrechtliche
Vertrauensstellung in Zweifelsfällen eher zu Gunsten
ihrer Patienten aussagen (unveröffentlichte Urteile
B. vom 11. Juni 1997, B. vom 22. Februar 1994 und P. vom 22. Oktober 1984; Plädoyer 6/94 S. 67; Meyer-Blaser, Die
Rechtspflege in der Sozialversicherung, in: BJM 1989
S. 31).
-Was Parteigutachten anbelangt, rechtfertigt der Umstand
allein, dass eine ärztliche Stellungnahme von einer Partei
eingeholt und in das Verfahren eingebracht wird,
nicht Zweifel an ihrem Beweiswert (ZAK 1986 S. 189
Erw. 2a). Auch den Berichten und Gutachten versicherungsinterner
Ärztinnen und Ärzte kommt schliesslich Beweiswert
zu, sofern sie als schlüssig erscheinen, nachvollziehbar
begründet sowie in sich widerspruchsfrei sind und
keine Indizien gegen ihre Zuverlässigkeit bestehen. Die
Tatsache allein, dass die befragte Fachperson in einem
Anstellungsverhältnis zum Versicherungsträger steht,
lässt nicht schon auf mangelnde Objektivität und auf
Befangenheit schliessen. Es bedarf vielmehr besonderer
Umstände, welche das Misstrauen in die Unparteilichkeit
der Beurteilung objektiv als begründet erscheinen lassen.
Im Hinblick auf die erhebliche Bedeutung, welche den
Arztberichten im Sozialversicherungsrecht zukommt, ist an
die Unparteilichkeit von Gutachterinnen und Gutachtern
allerdings ein strenger Massstab anzulegen (<ref-ruling>
f. Erw. 1c).
3.- Zunächst ist auf Grund der ärztlichen Gutachten und Berichte zu prüfen, ob eine Invalidität vorliegt.
a) Zum Gesundheitszustand und zur Erwerbs- bzw. Arbeitsfähigkeit des Beschwerdeführers äusserte sich der zuhanden des Hausarztes Dr. med. M._ verfasste ärztliche Bericht der Rheuma- und Rehabilitationsklinik Y._ vom 13. Mai 1998, erstellt von den Dres. med.
A._ und B._. In diesem Bericht wurde die Diagnose eines chronischen lumbospondylogenen Syndroms links mehr als rechts bei anlagebedingt engem Spinalkanal, Wirbelsäulen-Fehlform und -haltung und Status nach Morbus Scheuermann im thorako-lumbalen Übergang gestellt. Klinisch wurden eine stark eingeschränkte Beweglichkeit der LWS und ausgeprägte Druckdolenzen gluteal beidseits und im Bereich der HWS erhoben. In einem so genannten "PACT-Selbsteinschätzungstest" zeigte sich, dass der Beschwerdeführer seine Arbeitskraft tiefer einschätzte, als sie seinen objektiven, ergonomisch festgestellten Möglichkeiten entsprach.
Im Rahmen dieser ergonomischen Abklärungen ergab sich, dass die Verrichtung von leichten Arbeiten mit wechselnder Position während einer Stunde problemlos möglich war. Die untersuchenden Ärzte kamen zum Schluss, der Beschwerdeführer sei aus rheumatologischer Sicht für leichte bis mittelschwere Tätigkeiten vollumfänglich arbeitsfähig.
Für schwere Arbeiten, wie die bisherige Tätigkeit als Gärtner, wurde eine 50 %ige Arbeitsfähigkeit angenommen.
Die Wahrscheinlichkeit einer erfolgreichen Wiedereingliederung wurde allerdings als gering eingeschätzt. Auf entsprechende Anfrage der IV-Stelle bestätigten die beiden Ärzte die vorstehend dargestellten Diagnosen und Befunde sowie die Angaben zur Arbeitsfähigkeit auf dem Formular "Arztbericht" bzw. in einer Ergänzung zu demselben, datierend vom 17. Juli 1998. Zu letzterem Bericht ist zu erwähnen, dass der Gesundheitszustand des Beschwerdeführers als "besserungsfähig" bezeichnet wurde, medizinische Massnahmen als nicht nötig, hingegen berufliche Massnahmen insofern als angezeigt erachtet wurden, als eine Arbeit mit weniger schwerer Hebetätigkeit zu finden sei.
Im psychiatrischen Gutachten von Dr. med. S._ vom 18. November 1998, welches von der IV-Stelle in Auftrag gegeben worden war, wurde das Vorliegen einer psychischen Störung mit Krankheitswert und Auswirkungen auf die Arbeitsfähigkeit verneint. Der Gutachter führte die wesentlichen medizinischen Vorakten auf, hielt fest, dass der Beschwerdeführer seine Rückenschmerzen mit Ausstrahlungen in beide Beine "ohne jegliche Tendenz zur Aggravation oder demonstrativem Verhalten" schildere und schloss mit der Aussage, die grosse Diskrepanz zwischen der Befindlichkeit des Beschwerdeführers und der zumutbaren Arbeitsfähigkeit lasse sich nicht mit der psychischen Situation erklären.
Bei den Akten der IV-Stelle finden sich weiter ein Bericht von Dr. med. P._, Klinik Z._ vom 31. Oktober 1997 an den Hausarzt Dr. med. M._, Allg.
Medizin FMH, sowie verschiedene Schreiben und Berichte dieses Hausarztes, insbesondere dessen Arztbericht an die IV-Stelle vom 30. Juni 1998. Der Bericht der Klinik Z._ enthält im Wesentlichen die gleiche Diagnose wie sie ein halbes Jahr später im Bericht der Dres. med.
A._ und B._ gestellt wird. Allerdings nahm Dr. med. P._ für eine leichte, die Wirbelsäule nicht belastende Tätigkeit nicht eine 100 %ige, sondern eine mindestens 75 %ige Arbeitsfähigkeit an. Der Hausarzt Dr.
med. M._ bestätigte die schubweise auftretenden starken Schmerzen und verwies auf die gescheiterten Therapieversuche; bezüglich der Reintegration in den Arbeitsprozess stellte er eine schlechte Prognose, entsprechend bestätigte er jeweils in den Arbeitszeugnissen eine "dauernde" Arbeitsunfähigkeit.
In etwa im gleichen Zeitpunkt, in welchem die angefochtene Verfügung erlassen wurde - nämlich am 16. März 1999 - erstellte das Zentrum für Wirbelsäulenleiden, Spital C._ offenbar auf Verlangen des Anwaltes des Beschwerdeführers einen weiteren Arztbericht. Dieser wurde wiederum von Dr. med. P._ verfasst, welcher zwischenzeitlich von der Klinik Z._ zum Zentrum für Wirbelsäulenleiden gewechselt hatte. Dieser Arztbericht wurde erst im vorinstanzlichen Beschwerdeverfahren ins Recht gelegt, er stand also der IV-Stelle bei ihrem Entscheid nicht zur Verfügung; allerdings hat der Beschwerdeführer durch seinen Vertreter im Beschwerdeverfahren weitere medizinische Abklärungen beantragt bzw. die Einreichung eines Arztberichtes von sich aus in Aussicht gestellt. Weil sich dieser Arztbericht auf die Verhältnisse im Zeitpunkt des Erlasses der angefochtenen Verfügung bezieht, ist er - wie auch die Vorinstanz zu Recht festhält - zu beachten.
Dr. med. P._ nahm in seinem zweiten Bericht lediglich noch eine Arbeitsfähigkeit von 50 % für leichte Tätigkeiten an, für die Tätigkeit als Gärtner verneinte er jegliche Arbeitsfähigkeit. Vor Erlass der angefochtenen Verfügung wurde auch der Bericht von Dr. med. M._ vom 25. Oktober 1998 zuhanden des Vertrauensarztes der Berner Versicherung verfasst, welcher ebenfalls im vorinstanzlichen Verfahren eingereicht wurde und insofern von Interesse ist, als der Hausarzt die Einschätzung, der Beschwerdeführer könne in einer leichten Arbeit zu 100 % tätig sein, "als schlicht unrealistisch" bezeichnete. Zudem wies Dr. med. M._ darauf hin, dass sich die Schmerzen bei geringer Belastung verstärkten.
Im Verfahren vor dem Eidgenössischen Versicherungsgericht wurden - wie bereits erwähnt - drei weitere ärztliche Berichte, zwei des Hausarztes Dr. med. M._ und einer von Dr. med. P._, eingereicht. Soweit in diesen Berichten eine Verschlechterung des Gesundheitszustandes nach dem 8. März 1999 festgestellt wird, sind sie für das vorliegende Verfahren nicht von Belang; nicht beachtlich ist demnach die zwischenzeitlich diagnostizierte depressive Überlagerung. Eine Verschlechterung des Gesundheitszustandes nach Erlass der abweisenden Verfügung ist allenfalls im Rahmen des Erlasses einer neuen Verfügung zu prüfen. Soweit sich die nachgereichten Arztberichte allerdings zum Gesundheitszustand im Zeitpunkt des Verfügungserlasses äussern bzw. bereits bei den Akten liegende Berichte erläutern und ergänzen, sind auch diese Berichte in die Beurteilung einzubeziehen.
b) Die vorgestellten ärztlichen Berichte und Gutachten sind nach den vorstehend (vgl. Erw. 2d) dargestellten Grundsätzen zu würdigen. Die Vorinstanz stellt weitgehend auf den Bericht der Dres. med. A._ und B._ vom 13. Mai 1998 ab. Dieser dreiseitige Bericht ist allerdings kein Gutachten. Er setzt sich mit abweichenden Meinungen, insbesondere der Auffassung des Hausarztes, nicht auseinander. Es wird darin auch nicht auf die Berichte vom 21. November 1996 und Juli 1997 (von dem sich bei den Akten nur ein unvollständiges Exemplar findet) über frühere Hospitalisationen in der Klinik für Rheumatologie und Rehabilitation des Spitals X._ oder den Bericht der Klinik Z._ vom 31. Oktober 1997 eingegangen; es ist unklar, ob den beiden Ärzten diese Berichte und die sonstigen medizinischen Akten überhaupt zur Verfügung standen. Anzumerken ist dazu, dass der erste Bericht der Dres. med. A._ und B._ nicht im Auftrage der IV-Stelle verfasst wurde, die Zuweisung erfolgte vielmehr durch den Hausarzt.
Beweismässig auf die gleiche Stufe wie der Bericht der Dres. med. A._ und B._ ist der Bericht der Klinik Z._ von Dr. med. P._ zu stellen. Auch dieser Bericht erfüllt die Anforderungen an ein Gutachten nicht, auch er ist nicht als solches konzipiert. Inhaltlich stimmen die beiden Berichte hinsichtlich der Diagnose weitgehend überein, eine Divergenz besteht aber beim angenommen Grad der Arbeitsfähigkeit. Während Dr. med. P._ schon in Herbst 1997 eine gewisse Beeinträchtigung der Arbeitsfähigkeit auch bei leichten Tätigkeiten annimmt, bejahen die Dres. med. A._ und B._ im Sommer 1998 eine vollumfängliche Arbeitsfähigkeit für leichte Tätigkeiten.
Die Divergenz kann für den Grad der Invalidität von Belang sein. Es kommt hinzu, dass Dr. med. P._ in seinem zweiten Bericht, welcher vom 16. März 1999 datiert und also in etwa im Zeitpunkt des Verfügungserlasses (8. März 1999) verfasst wurde, auch für leichte Tätigkeiten eine 50 %ige Arbeitsunfähigkeit postulierte. Entgegen der Auffassung der Vorinstanz ist die veränderte Einschätzung der Arbeitsfähigkeit durch den gleichen Arzt durch eine mittlerweile eingetretene Verschlechterung erklärbar. Die Berichte des Hausarztes bestärken den Eindruck, dass eine beträchtliche Arbeitsunfähigkeit in Frage kommt. Der Hausarzt liefert auch eine Erklärung für die Einschränkung der Arbeitsfähigkeit des Beschwerdeführers, indem er auf die Belastung durch die chronischen Schmerzen hinweist. Auch wenn die Berichte eines Hausarztes gemäss der Rechtsprechung (vgl. Erw. 2d) mit einer gewissen Zurückhaltung zu würdigen sind, sind sie im vorliegenden Fall doch in die Beurteilung einzubeziehen, weil sie einen fundierten Eindruck vermitteln und zeigen, dass der Hausarzt nicht einfach eine Arbeitsunfähigkeit bescheinigte, sondern sich intensiv um Abklärung und Therapie - bis anhin leider ohne Erfolg - bemühte. Im Bericht der Dres. med. A._ und B._ wird umgekehrt der vom Hausarzt angesprochenen Schmerzproblematik kaum Raum eingeräumt; aus der Tatsache, dass der Beschwerdeführer während einer Stunde anscheinend ohne Probleme leichte Arbeiten ausführen konnte, wird einfach abgeleitet, er könne vollschichtig tätig sein; eine mögliche Beeinträchtigung der Leistungsfähigkeit wegen der unterschiedlichen, manchmal sehr starken Schmerzen wird gar nicht diskutiert. Weil die Einschätzung der Arbeitsfähigkeit im letztgenannten Bericht nicht überzeugend begründet ist, insbesondere die Auswirkungen der geklagten Beschwerden (Schmerzen) nicht untersucht wurden, und weil zudem bezüglich der Einschätzung der Arbeitsfähigkeit ein Widerspruch zum Bericht Dr. med. P._ besteht, ist als Zwischenergebnis festzuhalten, dass lediglich gestützt auf den Bericht der Dres. med. A._ und B._ die Annahme einer Arbeitsfähigkeit von 100 % für leichte Tätigkeiten nicht angängig ist.
Das psychiatrische Gutachten von Dr. med. S._ ist zwar umfassend und gibt die wesentlichen medizinischen Vorakten wieder, kann aber zur Klärung der Frage nach dem Grad der Arbeitsunfähigkeit wenig beitragen, da dieser Arzt das Vorliegen einer psychischen Krankheit und dementsprechend eine psychisch bedingte Arbeitsunfähigkeit klar verneint und sich zur somatisch bedingten Arbeitsunfähigkeit richtigerweise nicht äussert. Festzuhalten ist immerhin, dass jede Demonstrations- oder Aggravationstendenz entschieden verneint wird und dass gemäss diesem Bericht die Diskrepanz zwischen der subjektiven Befindlichkeit des Patienten und der ihm zugeschriebenen Arbeitsunfähigkeit nicht mit der psychischen Situation des Versicherten erklärt werden kann.
Angesichts dieser sich teilweise widersprechenden und auch nicht durchwegs nachvollziehbaren Arztberichte kann der Invaliditätsgrad mangels zuverlässiger Aussagen über den Umfang der verbleibenden Arbeitsfähigkeit nicht abschliessend bestimmt werden. Immerhin ist davon auszugehen, dass mindestens ein Invaliditätsgrad von 26 % vorliegt, wie dies die IV-Stelle unter Annahme einer 100 %igen Arbeitsfähigkeit für leichte Tätigkeiten berechnet hat. Wie sich aus den nachstehenden Erwägungen (Erw. 4) ergibt, kann vorläufig offen gelassen werden, ob ein rentenbegründender Invaliditätsgrad vorliegt.
4.- a) Nach dem Grundsatz "Eingliederung vor Rente" (vgl. Erw. 2b) ist vor der Prüfung der Rentenfrage die Möglichkeit einer Eingliederung zu prüfen. Im Folgenden ist also zu untersuchen, ob Eingliederungsmassnahmen in Frage kommen. Im Vordergrund stehen Massnahmen beruflicher Art.
Medizinische Massnahmen stehen gemäss den Arztberichten nicht zur Diskussion. Bei den beruflichen Massnahmen geht es in erster Linie um eine Umschulung gemäss <ref-law>, denn für die übrigen beruflichen Massnahmen fehlen entweder die Voraussetzungen (erstmalige berufliche Ausbildung bei <ref-law>), oder sie erweisen sich angesichts der Schwere der Eingliederungsproblematik als ungenügend (Berufsberatung, Arbeitsvermittlung; Art. 15 bzw. <ref-law>). Es ist deshalb zu prüfen, ob der Beschwerdeführer Anspruch auf Umschulung hat, wie er dies im Eventualstandpunkt beantragt.
b) Die Ärzte empfehlen - in diesem Punkt übereinstimmend - die Durchführung einer Umschulung; nach Auffassung aller Ärzte kommt die bisherige Tätigkeit als Gärtner nicht mehr oder höchstens - so die Dres. med. A._ und B._ ohne Begründung - im Umfang einer Teilerwerbstätigkeit in Frage. Angesichts der belastungsabhängigen, vor allem in gebückter Haltung auftretenden Rückenbeschwerden ist tatsächlich davon auszugehen, dass der Beschwerdeführer eine allenfalls noch vorhandene Erwerbsfähigkeit nicht mehr in seinem angestammten Beruf verwerten kann.
c) Bei einem Invaliditätsgrad von mindestens 26 % (vgl. Erw. 3b in fine) ist die von der Rechtsprechung verlangte Erheblichkeitsschwelle für die Durchführung einer Umschulung erreicht (AHI 2000 S. 62 Erw. 1 mit Hinweisen).
d) Die Vorinstanz lehnte Massnahmen beruflicher Art mit der kurzen Begründung ab, der Beschwerdeführer zeige keine Motivation zur Aufnahme einer Berufstätigkeit. Damit fehle es an der für berufliche Massnahmen notwendigen Voraussetzung der Eingliederungsbereitschaft. Den Akten der IV-Stelle ist zu entnehmen, dass diese berufliche Massnahmen lediglich im Rahmen des ersten, am 4. Dezember 1996 gestellten Gesuches prüfte. Weil sich der Beschwerdeführer anlässlich des Erstgespräches vom 3. März 1997 "zur Zeit aus für uns unerklärlichen Gründen noch nicht motiviert" zeigte, wurde die Frage der beruflichen Massnahmen nicht weiterverfolgt. Obwohl gleichzeitig festgehalten wurde, der Beschwerdeführer könne sich vorstellen, in Zukunft wieder berufstätig zu sein, wurden Massnahmen beruflicher Art im Rahmen des zweiten vom Beschwerdeführer am 16. Juni 1998 gestellten Gesuches nicht mehr neu geprüft; dies, obgleich das vorstehend erwähnte Erstgespräch im Zeitpunkt der zweiten Ablehnung bereits zwei Jahre zurücklag.
Im Entscheid der Vorinstanz wird zum Beweis der fehlenden Motivation auf die Berichte der Dres. med.
A._ und B._ sowie M._ verwiesen. Im erstgenannten Bericht vom 13. Mai 1998 wird tatsächlich von fehlender Motivation gesprochen, allerdings bezieht sich diese auf weitere Abklärungsmassnahmen im Rahmen des Klinikaufenthaltes.
Im Fragebogen vom 17. Juli 1998 bejahen dieselben Ärzte die Frage nach der Indikation für berufliche Massnahmen. Dr. med. M._ bejaht nicht nur im Formular "Arztbericht" vom 28. Dezember 1996 die Frage, ob berufliche Massnahmen angezeigt seien, er regt solche in seinem Schreiben vom 25. Februar 2001 ausdrücklich noch einmal an. Indem die Ärzte eine Umschulung empfehlen, scheinen sie immerhin davon auszugehen, dass eine entsprechende Motivation besteht oder zumindest geschaffen werden kann. Einzuräumen ist, dass aus ärztlicher Sicht der Erfolg einer Umschulung als unsicher erscheint. Anderseits ist darauf hinzuweisen, dass sich die IV-Stelle ihre Meinung zur Frage der Umschulung zu einem Zeitpunkt gebildet hat, in welchem die vorerwähnten medizinischen Berichte und insbesondere auch das Gutachten von Dr. med. S._ vom 18. November 1998 noch nicht vorlagen. Die IV-Stelle fällte ihren Entscheid also ohne Kenntnis der sich auf Grund der medizinischen Berichte ergebenden eigenartigen Diskrepanz zwischen subjektiver Befindlichkeit und objektiven Befunden, welche sich offenbar nicht psychiatrisch erklären lässt. Bei einer solchen besonderen Problematik bedarf die Frage der Umschulung einer vertieften Abklärung.
Es trifft zu, dass Eingliederungsmassnahmen eine entsprechende Motivation der einzugliedernden Person verlangen.
Ohne Eingliederungsbereitschaft ist eine Eingliederungsmassnahme ungeeignet (vgl. dazu Meyer-Blaser, Rechtsprechung des Bundesgerichts zum IVG, S. 56 f.). Die Mitwirkung an Eingliederungsmassnahmen ist allerdings auch eine Form der jeder versicherten Person obliegenden Schadenminderungspflicht (Meyer-Blaser, Die Tragweite des Grundsatzes "Eingliederung vor Rente", in: Rechtsfragen der Eingliederung Behinderter, St. Gallen 2000, S. 13 f.). Die versicherte Person ist im Rahmen des Zumutbaren verpflichtet, sich Eingliederungsmassnahmen zu unterziehen.
Nach <ref-law> kann die Versicherung ihre Leistungen einstellen, wenn der Anspruchsberechtigte die Eingliederung erschwert oder verunmöglicht. Bevor eine solche Einstellung der Leistung erfolgt, muss die versicherte Person auf diese Folge hingewiesen werden. <ref-law> sieht vor, dass eine Rente vorübergehend oder dauernd verweigert oder entzogen werden kann, wenn sich eine versicherte Person einer angeordneten, zumutbaren Eingliederungsmassnahme, die eine wesentliche Verbesserung der Erwerbsfähigkeit erwarten lässt, entzieht. Bevor diese Sanktion Platz greift, muss die versicherte Person "unter Ansetzung einer angemessenen Frist und unter Androhung der Säumnisfolgen zur Mitwirkung bei der Eingliederung" aufgefordert werden. Der in <ref-law> vorgesehene Sanktionsmechanismus hat in analoger Weise auch vor Erlöschen eines anderen invalidenversicherungsrechtlichen Anspruches Platz zu greifen. Bevor ein Gesuch betreffend Umschulung abgelehnt wird, ist der Gesuchssteller - vorliegend der Beschwerdeführer - auf konkrete, zumutbare Umschulungsmöglichkeiten hinzuweisen und es ist ihm anzudrohen, dass das Gesuch abgelehnt wird, wenn er an der Umschulung nicht in zumutbarer Weise mitwirkt. Mit einem solchen Vorgehen wird sichergestellt, dass sich ein Gesuchssteller der sozialversicherungsrechtlichen Folgen der Verletzung der Mitwirkungspflicht bewusst wird. Auf diese Weise kann die Motivation zur Teilnahme an Eingliederungsmassnahmen, insbesondere einer Umschulung, von der Verwaltung in einem gewissen Masse herbeigeführt bzw. gefördert werden; zumindest ist ein entsprechender Versuch zu unternehmen. Es geht nicht an, auf Grund einer einmaligen Meinungsäusserung eines Versicherten, er fühle sich nicht arbeitsfähig, die Prüfung der Umschulung ergebnislos abzuschliessen.
Gerade im vorliegenden Fall wäre es besonders angebracht gewesen, dem Beschwerdeführer konkrete Umschulungsmöglichkeiten aufzuzeigen und ihn zur Mitwirkung zu motivieren.
Der Beschwerdeführer wird als arbeitswillig und grundsätzlich kooperationsbereit bezeichnet; die festgestellte Diskrepanz zwischen subjektiver Einschätzung des Leistungsvermögens und dem anscheinend gegebenen Leistungspotenzial bleibt auf Grund der ärztlichen Berichte ungeklärt.
Bei dieser Ausgangslage müsste zumindest ein ernsthafter, konkreter Versuch zu einer Umschulung unternommen werden.
Insgesamt erweist sich, dass die Möglichkeit der Umschulung zu wenig abgeklärt ist, eine aktuelle Beurteilung - auch auf Grund der zwischenzeitlich ergangenen ärztlichen Berichte - nicht erfolgte und schliesslich der Beschwerdeführer nicht in genügender Form auf seine Mitwirkungspflicht sowie die Folgen der Verletzung derselben hingewiesen worden ist. Die Sache ist deshalb an die IV-Stelle zurückzuweisen, damit diese die Umschulung nach diesen Massgaben neu prüft und gegebenenfalls in die Wege leitet.
5.- Sollte sich die Umschulung als nicht möglich erweisen, wäre die Rentenfrage neu zu prüfen. Auf Grund der vorstehenden Erwägungen (vgl. Erw. 3) müsste in diesem Fall eine umfassende medizinische Begutachtung stattfinden und die IV-Stelle hätte anschliessend über den Rentenanspruch neu zu verfügen.
6.- Das Verfahren ist kostenlos (Art. 134 OG). Dem Ausgang des letztinstanzlichen Verfahrens entsprechend steht dem Versicherten eine Parteientschädigung zu (Art. 135 in Verbindung mit Art. 159 Abs. 1 OG); damit erweist sich sein Antrag auf Gewährung der unentgeltlichen Verbeiständung als gegenstandslos.

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird in dem Sinne
gutgeheissen, dass der Entscheid des Sozialversicherungsgerichts
des Kantons Zürich vom 18. Januar 2001
und die Verfügung vom 8. März 1999 aufgehoben werden
und die Sache an die IV-Stelle des Kantons Zürich zurückgewiesen
wird, damit diese im Sinne der Erwägungen
eine Umschulung prüfe und darüber neu verfüge.
II.Es werden keine Gerichtskosten erhoben.
III. Die IV-Stelle des Kantons Zürich hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von
Fr. 2500.- (einschliesslich Mehrwertsteuer) zu bezahlen.
IV.Das Sozialversicherungsgericht des Kantons Zürich wird über eine Parteientschädigung für das kantonale Verfahren entsprechend dem Ausgang des letztinstanzlichen
Prozesses zu befinden haben.
V.Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht
des Kantons Zürich, der Ausgleichskasse
Gärtner und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 7. November 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Der Gerichtsschreiber: