Sachverhalt: Sachverhalt: A. H._, geb. 1964, hat den Beruf eines Sanitärmonteurs erlernt und arbeitete ab August 1986 als Gärtner bei der Firma R._. Wegen Rückenbeschwerden meldete er sich am 4. Februar 1996 bei der IV-Stelle des Kantons St. Gallen zum Leistungsbezug an und ersuchte um Berufsberatung, Umschulung auf eine neue Tätigkeit, Arbeitsvermittlung und eine Rente. Aufgrund der ärztlichen Diagnose eines lumboradiculären Reizsyndroms S1 links mit Diskushernie, Spondylarthrose und Osteochondrose im Bereich L5/S1 versuchte die IV-Stelle vorerst schwergewichtig, H._ wieder in den Gärtnerberuf einzugliedern. Als dies nicht zum Erfolg führte, ordnete sie am 5. November 1997 eine berufliche Abklärung in der Eingliederungsstätte X._ an. Am 19. Februar 1998 verfügte sie die Zusprechung einer halben Invalidenrente für die Zeit ab 1. Oktober 1996 bis 30. November 1997 und am 19. März 1998 eine berufliche Massnahme im Sinne einer Umschulung im Bereich der Metallbearbeitung und der Montage, die ebenfalls in der Eingliederungsstätte X._ durchgeführt wurde. Am 19. Oktober 1999 beauftragte die IV-Stelle das Rheuma- und Rehabilitationszentrum Y._ mit einer nochmaligen medizinischen Abklärung und einer Evaluation der funktionellen Leistungsfähigkeit von H._. Am 31. Januar 2000 erstattete die Klinik Y._ ein multidisziplinäres Gutachten, welchem ein psychiatrisches Teilgutachten und ein Bericht über die funktionelle Leistungsfähigkeit von H._ beigelegt waren. Mit Vorbescheiden vom 22. und 23. Juni 2000 eröffnete die IV-Stelle dem Versicherten, dass die Leistungsbegehren sowohl bezüglich weiterer beruflicher Massnahmen als auch bezüglich einer Rente abgewiesen werden müssten. Nachdem der Rechtsvertreter von H._ am 9. August 2000 Einwendungen erhoben hatte, ersuchte die IV-Stelle den Chefarzt des Rheuma- und Rehabilitationszentrums Y._ um die Beantwortung von zwei Zusatzfragen, welchem Begehren Dr. med. K._ mit Schreiben vom 6. September 2000 nachkam. Mit Verfügung vom 2. Oktober 2000 stellte die Verwaltung fest, dass H._ aufgrund der fachmedizinischen Beurteilung für sämtliche körperlich leichten bis mittelschweren, wechselbelastenden Tätigkeiten zu 100 % arbeitsfähig ist, mit der Umschulung zum Metallbearbeiter beruflich hinreichend ausgebildet wurde und dass weitere berufliche Massnahmen invaliditätsbedingt nicht mehr erforderlich sind. Mit Verfügung vom 3. Oktober 2000 verneinte die IV-Stelle auch den Anspruch von H._ auf eine Invalidenrente (dies bei einem Invaliditätsgrad von 28 %). Mit Verfügung vom 2. Oktober 2000 stellte die Verwaltung fest, dass H._ aufgrund der fachmedizinischen Beurteilung für sämtliche körperlich leichten bis mittelschweren, wechselbelastenden Tätigkeiten zu 100 % arbeitsfähig ist, mit der Umschulung zum Metallbearbeiter beruflich hinreichend ausgebildet wurde und dass weitere berufliche Massnahmen invaliditätsbedingt nicht mehr erforderlich sind. Mit Verfügung vom 3. Oktober 2000 verneinte die IV-Stelle auch den Anspruch von H._ auf eine Invalidenrente (dies bei einem Invaliditätsgrad von 28 %). B. Am 2. November bzw. 4. Dezember 2000 liess H._ gegen beide Verfügungen Beschwerde führen und deren Aufhebung sowie die Gewährung der Fortsetzung der beruflichen Umschulung in der Eingliederungsstätte X._ samt zugehörigen Taggeldleistungen beantragen. In einem Eventualantrag verlangte er die Zusprechung einer 50 %igen Invalidenrente. Mit Entscheid vom 24. April 2001 wies das Versicherungsgericht des Kantons St. Gallen die Beschwerde gegen die Verfügung vom 3. Oktober 2000 betreffend einer Invalidenrente ab. Dagegen hiess es die Beschwerde gegen die Verfügung vom 2. Oktober 2000 betreffend berufliche Massnahmen teilweise gut und wies die Sache zur Weiterführung der beruflichen Eingliederung im Sinne der Erwägungen an die Verwaltung zurück. B. Am 2. November bzw. 4. Dezember 2000 liess H._ gegen beide Verfügungen Beschwerde führen und deren Aufhebung sowie die Gewährung der Fortsetzung der beruflichen Umschulung in der Eingliederungsstätte X._ samt zugehörigen Taggeldleistungen beantragen. In einem Eventualantrag verlangte er die Zusprechung einer 50 %igen Invalidenrente. Mit Entscheid vom 24. April 2001 wies das Versicherungsgericht des Kantons St. Gallen die Beschwerde gegen die Verfügung vom 3. Oktober 2000 betreffend einer Invalidenrente ab. Dagegen hiess es die Beschwerde gegen die Verfügung vom 2. Oktober 2000 betreffend berufliche Massnahmen teilweise gut und wies die Sache zur Weiterführung der beruflichen Eingliederung im Sinne der Erwägungen an die Verwaltung zurück. C. Mit Verwaltungsgerichtsbeschwerde lässt H._ beantragen, der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 24. April 2001 sei aufzuheben, soweit er die Rentenverfügung betreffe, und es sei ihm eine mindestens 50 %ige Invalidenrente zuzusprechen. Eventualiter sei die Sache zur Neubeurteilung der Rentenfrage an die Vorinstanz zurückzuweisen. Die Sozialversicherungsanstalt des Kantons St. Gallen schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung