Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Im vorinstanzlichen Entscheid werden die gesetzlichen Bestimmungen und Grundsätze über den Begriff der Invalidität, die Voraussetzungen und den Umfang des Rentenanspruchs, die Ermittlung des Invaliditätsgrades bei Erwerbstätigen nach der allgemeinen Methode des Einkommensvergleiches zutreffend dargelegt. Darauf wird verwiesen.
2.- Streitig ist, ob der Beschwerdeführer eine halbe oder eine ganze Invalidenrente beanspruchen kann.
a) Die Vorinstanz legte ihrem Entscheid die Gutachten des Spitals X._, Dr. med. B._, vom 23. November 1993 und des Spitals Y._, Dr. med.
Z._, vom 22. Januar 1998 zu Grunde, wobei sie in Würdigung der ärztlichen Stellungnahmen zum Ergebnis gelangte, dass dem Versicherten eine leidensangepasste Erwerbstätigkeit im Ausmass von 50 % einer Vollzeitbeschäftigung zumutbar wäre.
Die hiegegen erhobenen Einwendungen sind nicht stichhaltig.
Der Bericht des Hausarztes Dr. med. W._, Arzt für Allgemeine Medizin FMH, vom 24. April 1996 ist nicht geeignet, die Schlussfolgerungen des von der IV-Stelle beauftragten Gutachters Dr. Z._ zu entkräften:
Zum einen stimmt er mit der Diagnose des Gutachters überein, zum anderen beurteilt er die verbleibende Arbeitsfähigkeit nur summarisch als "massivst eingeschränkt". Entgegen den Ausführungen in der Verwaltungsgerichtsbeschwerde findet sich bei den Akten kein Arztzeugnis, das eine vollständige Arbeitsunfähigkeit sowohl in der angestammten als auch in einer angepassten Tätigkeit bescheinigen würde. Im Gegenteil weist Dr. W._ im Zeugnis vom 9. November 2001 darauf hin, dass der Beschwerdeführer während der bescheinigten vollen Arbeitsunfähigkeit dazwischen zeitweise gestempelt habe. Zum anderen ist sodann der Tatsache Rechnung zu tragen, dass Dr. W._ Hausarzt ist und dass Hausärzte mitunter im Hinblick auf ihre auftragsrechtliche Vertrauensstellung in Zweifelsfällen eher zu Gunsten ihrer Patienten aussagen (<ref-ruling> Erw. 3b/cc mit Hinweisen).
Nach dem Gesagten ist mit der Vorinstanz davon auszugehen, dass dem Versicherten eine seinem Rückenleiden angepasste Tätigkeit halbtags zumutbar ist. Zu prüfen bleibt, wie sich diese gesundheitliche Einschränkung in erwerblicher Hinsicht auswirkt.
3.- a) Für die Bezifferung des hypothetischen Valideneinkommens kann in der Regel vom letzten Lohn, welchen der Versicherte vor Eintritt der Gesundheitsschädigung erzielt hat, ausgegangen werden. Dieses Einkommen ist der Lohnentwicklung anzupassen, welche bis zum in tatbeständlicher Hinsicht massgebenden Zeitpunkt des Verfügungserlasses (<ref-ruling> Erw. 1b) eingetreten ist (ZAK 1991 S. 320 Erw. 3a). Abzustellen ist damit auf die hypothetischen Einkommensverhältnisse des Jahres 1998.
Der Beschwerdeführer arbeitete als Saisonnier bei der Bauunternehmung D._ AG und verdiente im Jahre 1991 (Unfall) als Hilfsarbeiter einen Stundenlohn von Fr. 17.75, der sich im folgenden Jahr auf Fr. 18.50 erhöht hätte (vgl.
Fragebogen für den Arbeitgeber vom 25. Juni 1992). Davon ist im Folgenden auszugehen. Im Bauhauptgewerbe nahmen die Nominallöhne im folgenden Jahr um 1,6 % zu (Die Volkswirtschaft 1995, Heft 6, S. 41, Nominallohnentwicklung, 1985-1994 nach Wirtschaftszweigen), was für den Versicherten einen neuen Stundenlohn von Fr. 18.80 bedeutet hätte. Der Nominallohnindex erhöhte sich für das Bauhauptgewerbe von 1993 (= 100) bis ins Jahr 1998 auf 105, 1 (Die Volkswirtschaft 1999, Heft 4, Aktuelle Wirtschaftsdaten S. 29, Tabelle B10. 4). Im Zeitpunkt des Verfügungserlasses hätte der Beschwerdeführer mit einem Stundenlohn von Fr. 19.76 rechnen können. Dies ergibt bei einer (statistisch durchschnittlichen) Wochenarbeitszeit im Baugewerbe von 42,3 Stunden (Die Volkswirtschaft 1999, Heft 6, Aktuelle Wirtschaftsdaten S. 27, Tabelle B9.2) und 4,33 Arbeitswochen einen Monatsverdienst von Fr. 3619. 25 und mit Einschluss eines 13. Monatsgehalts einen Jahresverdienst von Fr. 47 050.-.
b) Für die Bestimmung des Invalideneinkommens (hypothetisches Einkommen nach Eintritt der Invalidität) können, wenn die versicherte Person nach Eintritt des Gesundheitsschadens keine neue Erwerbstätigkeit mehr aufgenommen hat, rechtsprechungsgemäss Tabellenlöhne beigezogen werden (<ref-ruling> f. Erw. 3b/aa und bb mit Hinweisen). Auszugehen ist wiederum von den Tabellenwerten für das Jahr 1998. Die Löhne betragen (bei einer wöchentlichen Arbeitszeit von 40 Stunden und mit Pro-Rata-Anteil des 13. Monatsgehaltes) für Männer bei einfachen und repetitiven Tätigkeiten (Anforderungsprofil 4) gemäss der Lohnstrukturerhebung (LSE) 1998 (Tabelle TA1) im privaten Sektor insgesamt pro Monat Fr. 4268.-, beschränkt auf den Sektor "Produktion" Fr. 4433.- bzw. auf den Sektor "Dienstleistungen" Fr. 3943.-. Auf der Basis einer Arbeitszeit von 41,9 Wochenstunden (Die Volkswirtschaft 1999, Heft 6, Aktuelle Wirtschaftsdaten S. 27, Tabelle B9.2) ergibt sich ein Monatsgehalt von Fr. 4471.-, Fr. 4644.- oder Fr. 4130.- bzw. ein Jahresgehalt von Fr. 53 652.-, Fr. 55 728.- oder Fr. 49 560.-. Ausgehend von dem für den Versicherten günstigsten, indessen wohl kaum zutreffenden Fall - eine zumutbare Tätigkeit liesse sich nur im Teilsektor "Dienstleistungen" finden - ergäbe sich damit in Anbetracht der 50 %igen Arbeitsfähigkeit ein Invalideneinkommen von Fr. 24 780.-. Bei einer Einkommenseinbusse von maximal Fr. 22 270.- resultierte ein Invaliditätsgrad von 47,3 %.
Im kantonalen Entscheid wurde in Berücksichtigung aller einkommensbeeinflussenden Merkmale ein behinderungsbedingter Abzug vom statistischen Tabellenlohn von 10 % vorgenommen. In der Verwaltungsgerichtsbeschwerde wird dessen Erhöhung auf 25 % verlangt. Wie es sich damit verhält, kann offen bleiben. Denn selbst wenn ein Abzug in dieser Höhe veranschlagt würde, was zu einem Invalideneinkommen von Fr. 18 585.- führte, ergäbe sich bei einem Valideneinkommen von Fr. 47 050.- eine Erwerbsunfähigkeit von 60,5 %.
Damit hätte der Beschwerdeführer keinen Anspruch auf eine ganze Invalidenrente.
4.- Die unentgeltliche Verbeiständung kann gewährt werden (Art. 152 in Verbindung mit Art. 135 OG), da die Bedürftigkeit aktenkundig ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung geboten war (<ref-ruling> Erw. 4a und 372 Erw. 5b, je mit Hinweisen).
Es wird indessen ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwalt Dr. Roland Ilg, Zürich, für das Verfahren vor dem Eidgenössischen Versicherungsgericht
aus der Gerichtskasse eine Entschädigung (einschliesslich
Mehrwertsteuer) von Fr. 1500.- ausgerichtet.
IV. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen, der Ausgleichskasse des Kantons St. Gallen und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 24. April 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer:
Der Gerichtsschreiber: