Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Nach ständiger Rechtsprechung beurteilt das Sozialversicherungsgericht die Gesetzmässigkeit der angefochtenen Verfügungen in der Regel nach dem Sachverhalt, der zur Zeit des Verfügungserlasses gegeben war (<ref-ruling> Erw. 1b mit Hinweisen). Tatsachen, die jenen Sachverhalt seither verändert haben, sollen im Normalfall Gegenstand einer neuen Verwaltungsverfügung sein (<ref-ruling> Erw. 1b mit Hinweis). Eine allenfalls nach dem Erlass der Verfügung vom 27. Mai 1998 eingetretene Verschlechterung des Gesundheitszustandes des Beschwerdeführers wäre somit durch eine Neuanmeldung bei der IV-Stelle geltend zu machen.
Sie kann im vorliegenden Verfahren nicht berücksichtigt werden.
2.- a) Das kantonale Gericht hat die gesetzlichen Bestimmungen über den Invaliditätsbegriff (<ref-law>) und die Ermittlung des Invaliditätsgrads nach der Einkommensvergleichsmethode (<ref-law>) zutreffend dargelegt.
Darauf kann verwiesen werden.
b) Um den Invaliditätsgrad bemessen zu können, ist die Verwaltung (und im Beschwerdefall das Gericht) auf Unterlagen angewiesen, die ärztliche und gegebenenfalls auch andere Fachleute zur Verfügung zu stellen haben. Aufgabe des Arztes oder der Ärztin ist es, den Gesundheitszustand zu beurteilen und dazu Stellung zu nehmen, in welchem Umfang und bezüglich welcher Tätigkeiten die versicherte Person arbeitsunfähig ist. Im Weiteren sind die ärztlichen Auskünfte eine wichtige Grundlage für die Beurteilung der Frage, welche Arbeitsleistungen der Person noch zugemutet werden können (<ref-ruling> Erw. 4, 115 V 134 Erw. 2, 114 V 314 Erw. 3c, 105 V 158 Erw. 1).
3.- a) Die Vorinstanz hat in Würdigung der medizinischen Unterlagen, insbesondere gestützt auf das Gutachten der Medizinischen Abklärungsstelle (MEDAS) vom 3. März 1998, zu Recht festgehalten, dass der Beschwerdeführer seine angestammte Tätigkeit als Eisenbieger nicht mehr ausüben kann, dass er aber in einer leichten bis mittelschweren Tätigkeit, bei der er die Körperposition wechseln kann und keine Lasten über 15 kg heben muss, uneingeschränkt arbeitsfähig ist. Das Gutachten der MEDAS beruht auf einer umfassenden Analyse der Vorakten und auf spezialärztlichen Untersuchungen, welche sämtliche vom Versicherten geklagten Beschwerden umfassten. Daraus werden ausführlich begründete, nachvollziehbare Schlussfolgerungen gezogen. Die von der Rechtsprechung (<ref-ruling> Erw. 3a mit Hinweis) entwickelten Anforderungen an ein beweiskräftiges ärztliches Gutachten sind somit erfüllt.
b) In der Verwaltungsgerichtsbeschwerde wird nichts vorgebracht, was zu einer abweichenden Beurteilung zu führen vermöchte. Soweit sich der Versicherte auf den Arztbericht des Dr. med. S._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 11. Mai 1993 beruft, welcher ihm eine psychisch begründete Arbeitsunfähigkeit von 40 % bis 50 % bescheinigt, übersieht er, dass Dr. med.
S._ in seinem Bericht zuhanden der IV-Stelle vom 23. Januar 1997 ausführt, eine Arbeitsunfähigkeit liege nicht vor, was mit dem Befund des durch die MEDAS beigezogenen Dr. med. K._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 16. Februar 1998 übereinstimmt.
Angesichts der durch die MEDAS veranlassten umfassenden spezialärztlichen Untersuchungen und der daraus resultierenden schlüssigen Erkenntnisse kann nicht auf die Aussage des Hausarztes Dr. med. W._, Facharzt für Allgemeinmedizin, vom 19. Januar 1997, wonach die Arbeitsfähigkeit infolge körperlicher und psychischer Erkrankung auf ungefähr 50 % reduziert sei, abgestellt werden. Schliesslich lässt der im Abschlussbericht vom 20. März 1996 über die Umschulung erwähnte längere Ausfall des Versicherten nach dem ungünstigen Verlauf des ersten Berufspraktikums keine Rückschlüsse auf die allgemeine Arbeitsfähigkeit zu.
4.- a) Die IV-Stelle ermittelte ein mutmassliches Einkommen ohne Behinderung (Valideneinkommen) von Fr. 51'300.-. Sie stützte sich dabei auf Auskünfte, welche die zuständige Ausgleichskasse bei der ursprünglichen Arbeitgeberin X._ AG eingeholt hatte, um das Taggeld für den im Juli 1995 begonnenen zweiten Teil der Umschulung festsetzen zu können. Wird dieser Betrag der Nominallohnerhöhung bis 1998 (Verfügungszeitpunkt) im Bereich "verarbeitendes Gewerbe; Industrie" angepasst (1996 1,2 %; 1997 0,2 %; 1998 0,8 %; vgl. Die Volkswirtschaft 2000 Heft 12, Anhang S. 28 Tabelle B10. 2), ergibt sich ein Valideneinkommen von Fr. 52'436.-.
b) Falls die versicherte Person nach Eintritt des Gesundheitsschadens keine ihr an sich zumutbare Erwerbstätigkeit aufgenommen hat, kann das nach der Behinderung bei ausgeglichener Arbeitsmarktlage zumutbarerweise noch realisierbare Erwerbseinkommen (Invalideneinkommen) gestützt auf die vom Bundesamt für Statistik herausgegebene Schweizerische Lohnstrukturerhebung (LSE) bestimmt werden (<ref-ruling> Erw. 3b/bb mit Hinweisen). Nachdem der Beschwerdeführer auf seinem umgeschulten Beruf keine Stelle gefunden hat und deshalb seine diesbezügliche Erwerbsfähigkeit nicht verwertet, ist das Abstellen auf die Tabellenlöhne gemäss LSE zulässig.
Gemäss LSE 1998, Tabelle A1, S. 25, betrug der Zentralwert des monatlichen Bruttolohns der im privaten Sektor mit einfachen und repetitiven Tätigkeiten (Anforderungsniveau 4) beschäftigten Männer Fr. 4268.- pro Monat resp.
Fr. 51'216.- pro Jahr. Wird dieser auf 40 Arbeitsstunden pro Woche basierende Betrag auf die durchschnittliche betriebsübliche Wochenarbeitszeit von 41,9 Stunden hochgerechnet (vgl. <ref-ruling>), resultiert ein Betrag von Fr. 53'649.- pro Jahr. Aus der Tabelle A13, S. 42, geht hervor, dass der Zentralwert des standardisierten Bruttolohns der im Anforderungsniveau 4 tätigen Männer (privater und öffentlicher Sektor [Bund] zusammen) in der Grossregion Ostschweiz (Fr. 4356.-) fast auf den Franken genau mit dem gesamtschweizerischen Wert (Fr. 4359.-) übereinstimmt.
Unter diesen Umständen kann offen gelassen werden, unter welchen Voraussetzungen ein Abweichen vom gesamtschweizerischen Medianwert angebracht ist. Bei einem Valideneinkommen von Fr. 52'436.- resultiert auch dann kein rentenbegründender Invaliditätsgrad, wenn der Betrag von Fr. 53'649.- um 10 % reduziert wird, um der Lohneinbusse Rechnung zu tragen, die sich aus Einschränkungen und Rücksichtnahmen wegen der Rückenbeschwerden sowie aus vermehrten Krankheitsabsenzen ergeben kann.
5.- Da sich die Verwaltungsgerichtsbeschwerde als offensichtlich unbegründet erweist, wird sie im Verfahren nach Art. 36a OG erledigt.
Dem Gesuch um unentgeltliche Verbeiständung kann nicht stattgegeben werden, da die Verwaltungsgerichtsbeschwerde als aussichtslos bezeichnet werden muss (Art. 135 in Verbindung mit Art. 152 OG; <ref-ruling> Erw. 4b, 124 I 306 Erw. 2c mit Hinweis).

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Das Gesuch um unentgeltliche Verbeiständung wird abgewiesen.
IV.Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 9. Februar 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Der Gerichtsschreiber: