A.- M._, geboren 1966 und bis 1995 für verschiedene Temporärarbeitsfirmen als Bauschlosser und anschliessend als Sportartikelverkäufer tätig, meldete sich im Februar 1997 bei der Invalidenversicherung zum Leistungsbezug an, nachdem er am 2. November 1991 einen Unfall beim Snowboardfahren erlitten hatte. Die IV-Stelle Luzern holte die Akten des Unfallversicherers und je einen Bericht des (ehemaligen) Arbeitgebers vom 10. April 1997 sowie des Hausarztes Dr. med. S._, FMH Allgemeine Medizin, vom 15. Mai 1997 ein. Nach Beizug des Gutachtens des Dr. med.
A._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 9. Januar 1998 und durchgeführtem Vorbescheidverfahren sprach die IV-Stelle M._ mit Verfügung vom 26. Mai 1999 mit Wirkung ab dem 1. Juni 1999 bei einem Invaliditätsgrad von 86 % eine ganze Rente der Invalidenversicherung zu. Mit Verfügung vom 5. Oktober 1999 wurde M._ im Weiteren vom 1. Juni 1996 bis zum
31. Mai 1997 eine Viertelsrente und vom 1. Juni 1997 bis zum 31. Mai 1999 eine ganze Rente der Invalidenversicherung zugesprochen.
B.- Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 12. September 2001 ab, soweit es darauf eintrat.
C.- M._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, unter Aufhebung des vorinstanzlichen Entscheides und unter teilweiser Aufhebung der Verwaltungsverfügung von Oktober 1999 sei ihm für die Zeit vom 1. Juni 1996 bis zum 31. Mai 1997 eine höhere als die verfügte Viertelsrente zuzusprechen. Im Weiteren beantragt er die Gewährung der unentgeltlichen Prozessführung und Verbeiständung.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Vernehmlassung verzichtet.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Nach Art. 4 Abs. 1 IVG gilt als Invalidität die durch einen körperlichen oder geistigen Gesundheitsschaden als Folge von Geburtsgebrechen, Krankheit oder Unfall verursachte, voraussichtlich bleibende oder längere Zeit dauernde Erwerbsunfähigkeit.
b) Nach Art. 28 Abs. 1 IVG hat der Versicherte Anspruch auf eine ganze Rente, wenn er mindestens zu 66 2/3 %, auf eine halbe Rente, wenn er mindestens zu 50 % oder auf eine Viertelsrente, wenn er mindestens zu 40 % invalid ist; in Härtefällen hat der Versicherte nach Art. 28 Abs. 1bis IVG bereits bei einem Invaliditätsgrad von mindestens 40 % Anspruch auf eine halbe Rente.
Für die Bemessung der Invalidität wird gemäss Art. 28 Abs. 2 IVG das Erwerbseinkommen, das der Versicherte nach Eintritt der Invalidität und nach Durchführung allfälliger Eingliederungsmassnahmen durch eine ihm zumutbare Tätigkeit bei ausgeglichener Arbeitsmarktlage erzielen könnte, in Beziehung gesetzt zum Erwerbseinkommen, das er erzielen könnte, wenn er nicht invalid geworden wäre.
c) Bei einer rückwirkenden Zusprechung einer abgestuften Invalidenrente sind die für die Rentenrevision geltenden Bestimmungen analog anzuwenden (Art. 41 IVG, Art. 88a IVV; BGE 125 V 417 Erw. 2d, AHI 1998 S. 121 Erw. 1b mit Hinweisen).
2.- Streitig ist der Invaliditätsgrad während der Zeit von Juni 1996 bis Mai 1997.
a) Die Vorinstanz hat auf den im Jahr 1991 zuletzt erzielten und der Teuerung angepassten Lohn abgestellt und ein Valideneinkommen von Fr. 63'956. 90 angenommen, welches in etwa mit dem statistischen Einkommen gemäss der vom Bundesamt für Statistik herausgegebenen Lohnstrukturerhebung übereinstimme. Der Beschwerdeführer ist demgegenüber der Ansicht, dass das kantonale Gericht den 13. Monatslohn und seine beruflichen Aufstiegsmöglichkeiten nicht berücksichtigt habe.
b) Bei der Ermittlung des Valideneinkommens ist entscheidend, was der Versicherte im massgebenden Zeitpunkt nach dem Beweisgrad der überwiegenden Wahrscheinlichkeit als Gesunder tatsächlich verdienen würde (RKUV 1993 Nr.
U 168 S. 100 f. Erw. 3b mit Hinweis). Die Einkommensermittlung hat so konkret wie möglich zu erfolgen; daher ist in der Regel vom letzten Lohn, den der Versicherte vor Eintritt der Gesundheitsschädigung erzielt hat, auszugehen (Urteil H. vom 4. April 2002, I 446/01). Dabei sind nach der Rechtsprechung theoretisch vorhandene berufliche Entwicklungs- oder Aufstiegsmöglichkeiten nur dann zu beachten, wenn sie mit hoher Wahrscheinlichkeit eingetreten wären. Für die Annahme einer mutmasslichen beruflichen Weiterentwicklung wird daher der Nachweis konkreter Anhaltspunkte dafür verlangt, dass der Versicherte einen beruflichen Aufstieg und ein entsprechend höheres Einkommen auch tatsächlich realisiert hätte, wenn er nicht invalid geworden wäre. Es müssen bereits im Zeitpunkt des Unfalles konkrete Hinweise für das behauptete berufliche Fortkommen bestehen, so z.B. wenn der Arbeitgeber dies konkret in Aussicht gestellt oder gar zugesichert hat. Sodann genügen blosse Absichtserklärungen des Versicherten nicht. Vielmehr muss die Absicht, beruflich weiterzukommen, bereits durch konkrete Schritte wie Kursbesuche, Aufnahme eines Studiums, Ablegung von Prüfungen etc. kundgetan worden sein (AHI 1998 S. 171 Erw. 5a mit Hinweisen). Dies ist hier klarerweise nicht der Fall, da der Beschwerdeführer betreffend Weiterbildung nur allgemein gehaltene und somit rein spekulative Angaben gemacht hat.
Es ist deshalb davon auszugehen, dass der Versicherte weiterhin als Schlosser tätig gewesen wäre, weshalb auf den in dieser Branche im Jahr 1991 zuletzt erzielten Lohn von Fr. 28.- (inkl. Ferien- und Feiertagsentschädigung) abzustellen ist. Dieser Betrag ist der Lohnentwicklung bis ins Jahr 1996 (Beginn des Rentenlaufes) anzupassen (1992:
4,7 %, 1993: 2,6 %, 1994: 1,5 %, 1995: 1,3 %, 1996: 1,3 %; Die Volkswirtschaft 12/97 S. 28 Tabelle B10. 2), was einen Lohn von Fr. 31.30 pro Stunde ergibt. Das Valideneinkommen ist nun anhand dieses Entgelts und der zu leistenden Arbeitszeit zu bestimmen (Urteil H. vom 4. April 2002, I 446/01; vgl. das analoge Vorgehen in RKUV 1998 Nr. U 314 S. 574 unten). Gemäss Ziff. 34.1 des Landes-Gesamtarbeitsvertrages für das Metallgewerbe vom 3. September 1992 (mit Bundesratsbeschluss vom 8. Januar 1993 über die Allgemeinverbindlicherklärung des Landes-Gesamtarbeitsvertrages für das Metallgewerbe teilweise allgemeinverbindlich erklärt; BBl 1993 I 105) betrug die jährliche Arbeitszeit im Jahr 1996 unverändert 2138 Stunden. Dabei handelt es sich um die Bruttoarbeitszeit vor Abzug von Ferien und Feiertagen (vgl.
Urteil H. vom 4. April 2002, I 446/01, für die analoge Regelung im Landesmantelvertrag für das Bauhauptgewerbe).
Damit - und weil im Stundenansatz Ferien- und Feiertagsentschädigung enthalten sind - sind von der Jahresarbeitszeit (2138 Stunden) die Ferien (20 Arbeitstage = 4 Wochen à 41 Stunden = 164 Stunden; vgl. Ziffer 64.1 in Verbindung mit Ziff. 34.1 Gesamtarbeitsvertrag) und die acht Feiertage (entsprechend 41 Stunden pro Woche/5 Tage x 8 Tage = 65,6 Stunden; Ziff. 68.2 in Verbindung mit Ziff. 34.1 Gesamtarbeitsvertrag) abzuziehen. Der Versicherte hätte also effektiv 1908, 4 Jahresstunden zu leisten, für die er pro Stunde Fr. 31.30 erhielte, was für das Jahr 1996 ein Valideneinkommen von Fr. 59'732. 90 ergibt. Nach Ziff. 49.1 Gesamtarbeitsvertrag ist ab dem Jahr 1994 eine Jahresendzulage von 100 % des durchschnittlichen Monatslohnes zu bezahlen, womit das massgebende Valideneinkommen Fr. 64'710. 65 (Fr. 59'732. 90 + [Fr. 59'732. 90 : 12]) beträgt.
c) Da der Beschwerdeführer seine Restarbeitskraft nicht in zumutbarer Weise verwertet hat, sondern 1996/97 einer sehr schlecht bezahlten Verkäufertätigkeit nachgegangen ist, die er schlussendlich aus Kostengründen aufgeben musste, ist für das Einkommen nach Eintritt des Gesundheitsschadens auf die Tabellenlöhne der vom Bundesamt für Statistik herausgegebenen Schweizerischen Lohnstrukturerhebung abzustellen (vgl. BGE 126 V 76 f. Erw. 3b/bb mit Hinweisen). Wie schon für das Validen-, sind auch für das Invalideneinkommen die Zahlen des Jahres 1996 massgebend, sodass von der Lohnstrukturerhebung 1996 auszugehen ist.
Gemäss Tabelle A1 beträgt der Zentralwert für die mit einfachen und repetitiven Tätigkeiten (Anforderungsniveau 4) im privaten Sektor bei einer wöchentlichen Arbeitszeit von 40 Stunden beschäftigten Männer monatlich Fr. 4294.- brutto. Dieser Betrag ist auf die betriebsübliche Wochenarbeitszeit von 41,9 Stunden im Jahre 1996 (Die Volkswirtschaft 12/2001 S. 80 Tabelle B9.2) aufzurechnen, was zum Betrag von monatlich Fr. 4497. 95 resp. jährlich Fr. 53'975. 40 führt. Ein behinderungsbedingter Abzug (vgl.
dazu BGE 126 V 78 Erw. 5) ist nicht gerechtfertigt, da den beschränkten Möglichkeiten des Versicherten schon durch Annahme von Anforderungsstufe 4 statt 3 (oder gar 2) Rechnung getragen worden ist, obwohl der Beschwerdeführer eine Ausbildung und mehrere Jahre Berufserfahrung aufweist. Bei einer gemäss den Akten des Unfallversicherungsverfahrens ausgewiesenen Arbeitsunfähigkeit von 35 % ab dem 1. Juli 1996 ist dieser Betrag mindestens (da sich die Arbeitsunfähigkeit auf den angestammten Beruf als Schlosser bezieht, während die Arbeitsfähigkeit in einer leidensangepassten Tätigkeit offen ist) zu 65 % anzurechnen, sodass das massgebende Invalideneinkommen Fr. 35'084.- ausmacht.
Damit resultiert ein Invaliditätsgrad von 45,78 %, der zum Bezug einer Viertelsrente der Invalidenversicherung berechtigt.
3.- Da es im vorliegenden Verfahren um Versicherungsleistungen geht, sind gemäss Art. 134 OG keine Gerichtskosten zu erheben. Das Gesuch um unentgeltliche Rechtspflege im Sinne der Befreiung von den Gerichtskosten erweist sich daher als gegenstandslos.
Die unentgeltliche Verbeiständung kann hingegen gewährt werden (Art. 152 in Verbindung mit Art. 135 OG), da die Bedürftigkeit aktenkundig ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung geboten war (BGE 125 V 202 Erw. 4a und 372 Erw. 5b, je mit Hinweisen).
Es wird indessen ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwältin Dr. Barbara Wyler, Frauenfeld, für das Verfahren vor dem Eidgenössischen Versicherungsgericht
aus der Gerichtskasse eine Entschädigung (einschliesslich
Mehrwertsteuer) von Fr. 1500.- ausgerichtet.
IV.Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, der Ausgleichskasse Luzern und dem
Bundesamt für Sozialversicherung zugestellt.
Luzern, 23. Juli 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Der Gerichtsschreiber: