A.- Der 1961 geborene L._ war als Gipser tätig und zuletzt vom 1. November 1992 bis 28. Februar 1994 bei der X._ AG sowie ab 1. März 1994 bei der Firma Y._ angestellt. Ab 18. April 1994 setzte er die Arbeit krankheitshalber aus.
Am 12. Januar 1995 meldete sich L._ unter Hinweis auf ein Rückenleiden bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle Luzern nahm Abklärungen in medizinischer und erwerblicher Hinsicht vor und bewilligte im Sinne einer beruflichen Eingliederungsmassnahme einen weiterführenden Deutschkurs (Verfügungen vom 18. April und 5. November 1996). Schliesslich sprach sie dem Versicherten - nach Durchführung des Vorbescheidverfahrens - mit Verfügung vom 3. Februar 2000 für die Zeit ab
1. Mai 1999 eine halbe Invalidenrente als Härtefallrente bei einem Invaliditätsgrad von 40 % und ab 1. August 1999 eine halbe Rente auf Grund eines Invaliditätsgrades von 61 % zu.
B.- Nachdem der Versicherte fristgerecht Beschwerde erhoben und die Ausrichtung einer ganzen Rente ab 1. April 1995 beantragt hatte, sprach ihm die IV-Stelle mit Verfügung vom 7. Juni 2000 - nach Erstattung ihrer Vernehmlassung - wiederum für die Zeit vom 1. Mai bis 31. Juli 1999 eine halbe Rente als Härtefallrente und ab 1. August 1999 eine ordentliche halbe Rente zu. Gegenüber der Verfügung vom 3. Februar 2000 wurde (auf Grund einer Neuberechnung) der Rentenbetrag erhöht. Der Versicherte erhob auch gegen diese Verfügung Beschwerde, worauf das Verwaltungsgericht des Kantons Luzern die beiden Verfahren vereinigte. Mit Entscheid vom 17. August 2001 hiess das Verwaltungsgericht die Beschwerde teilweise gut und hob die Verfügungen vom 3. Februar und 7. Juni 2000 insofern auf, als es die IV-Stelle verpflichtete, dem Versicherten für die Zeit ab 1. März 1999 eine "Viertels- bzw. Härtefallrente" und ab 1. Juni 1999 eine ordentliche halbe Rente auszurichten. Im Verlauf des Verfahrens hatte das kantonale Gericht ein Gutachten des Spitals Z._ in Auftrag gegeben, welches am 2. April 2001 erstattet wurde.
C.- L._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Rechtsbegehren, es sei ihm ab 1. März 1999 eine halbe und ab 1. Juni 1999 eine ganze Invalidenrente zuzusprechen.
Vorinstanz und IV-Stelle schliessen auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Vernehmlassung verzichtet.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Im Beschwerdeverfahren um die Bewilligung oder Verweigerung von Versicherungsleistungen ist die Überprüfungsbefugnis des Eidgenössischen Versicherungsgerichts nicht auf die Verletzung von Bundesrecht einschliesslich Überschreitung oder Missbrauch des Ermessens beschränkt, sondern sie erstreckt sich auch auf die Angemessenheit der angefochtenen Verfügung; das Gericht ist dabei nicht an die vorinstanzliche Feststellung des rechtserheblichen Sachverhalts gebunden und kann über die Begehren der Parteien zu deren Gunsten oder Ungunsten hinausgehen (Art. 132 OG).
2.- a) aa) Der gegen eine Verfügung der IV-Stelle gerichteten Beschwerde gemäss <ref-law> in Verbindung mit <ref-law> kommt - als einem ordentlichen Rechtsmittel - von Bundesrechts wegen Devolutiveffekt zu, was bedeutet, dass die Verwaltung die Verfügungskompetenz in Bezug auf den streitigen Anspruch verliert, sobald das Verfahren beim kantonalen Gericht rechtshängig geworden ist. Dieses Prinzip erleidet insofern eine Durchbrechung, als gestützt auf kantonales Recht die IV-Stelle analog zu <ref-law> die angefochtene Verfügung bis zu ihrer Vernehmlassung in Wiedererwägung ziehen kann (<ref-ruling> Erw. 2; SVR 1996 IV Nr. 92 S. 283 Erw. 4b/aa; AHI 1994 S. 271 Erw. 4a; ZAK 1992 S. 117 Erw. 5a mit Hinweisen). Damit wird im Ergebnis der Eintritt der Devolutivwirkung der Beschwerde bis zur Einreichung der vorinstanzlichen Vernehmlassung aufgeschoben (Gygi, Bundesverwaltungsrechtspflege, 2. Auflage, S. 189 f.). Erlässt die Verwaltung erst zu einem späteren Zeitpunkt während der Hängigkeit des Beschwerdeverfahrens eine neue, denselben Gegenstand betreffende Verfügung, ist diese nichtig. Ihr kommt bloss der Stellenwert eines Antrags an das Gericht zu (RKUV 1989 Nr. U 80 S. 379 Erw. 1; vgl. auch <ref-ruling> Erw. 2).
bb) Durch die Einreichung der Beschwerde gegen die Verfügung vom 3. Februar 2000 wurde der durch diese geregelte Rentenanspruch des Beschwerdeführers bei der Vorinstanz rechtshängig. Mit der Erstattung der Vernehmlassung der IV-Stelle vom 1. Mai 2000 erlangte die Beschwerde volle Devolutivwirkung. Die später erlassene Verfügung vom 7. Juni 2000 ist daher als solche nichtig und stellt lediglich einen Antrag an das kantonale Gericht dar. Das Dispositiv des vorinstanzlichen Entscheides ist dementsprechend in dem Sinne zu präzisieren, dass die Vorinstanz dem Antrag der IV-Stelle auf Korrektur der der Verfügung vom 3. Februar 2000 zu Grunde liegenden Rentenberechnung gemäss der (als solche nichtigen) Verfügung vom 7. Juni 2000 entsprochen hat.
b) In formellrechtlicher Hinsicht beanstandet der Beschwerdeführer die Einholung einer telefonischen Auskunft des Präsidenten des Stukkateur- und Gipsermeisterverbandes durch die IV-Stelle im Verwaltungsverfahren und das Abstellen auf diese bei Erlass der Verfügung vom 3. Februar 2000 sowie die Berücksichtigung einer der Vernehmlassung der IV-Stelle beigelegten schriftlichen Auskunft derselben Person vom 19. April 2000 im Rahmen des vorinstanzlichen Beschwerdeverfahrens. Richtig ist, dass die telefonische Auskunft unter den gegebenen Umständen nicht verwertbar war (vgl. <ref-ruling>). Der entsprechende Verfahrensmangel konnte jedoch im Rahmen des Beschwerdeverfahrens vor der über volle Kognition verfügenden Vorinstanz geheilt werden (<ref-ruling> Erw. 2b). Im Zusammenhang mit der schriftlichen Auskunft vom 19. April 2000 wurde dem Beschwerdeführer durch die Vorinstanz das rechtliche Gehör gewährt.
Das Vorgehen des kantonalen Gerichts ist daher nicht zu beanstanden.
3.- Verwaltung und Vorinstanz haben die Bestimmungen und Grundsätze über den Begriff der Invalidität (<ref-law>), die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG), die Ermittlung des Invaliditätsgrades bei Erwerbstätigen nach der Einkommensvergleichsmethode (<ref-law>; <ref-ruling> Erw. 2a und b) sowie den Rentenbeginn (Art. 29 Abs. 1 und 2 IVG; AHI 1998 S. 214) zutreffend dargelegt. Darauf wird verwiesen.
4.- Streitig ist der Anspruch des Beschwerdeführers auf eine Rente der Invalidenversicherung und in diesem Rahmen der Invaliditätsgrad sowie der Rentenbeginn.
5.- In medizinischer Hinsicht hat die Vorinstanz gestützt auf die Akten, namentlich das Gutachten der Medizinischen Abklärungsstelle (MEDAS) vom 28. Januar 1999 und das gerichtlich eingeholte Gutachten des Spitals Z._ vom 2. April 2001, zu Recht festgestellt, dass der Beschwerdeführer den Beruf als Gipser ebenso wie jede andere körperlich schwere Arbeit wegen seiner Rückenbeschwerden nicht mehr ausüben kann. Eine körperlich leichte bis mittelschwere Arbeit wäre ihm aus rein rheumatologischer Sicht zu 100 % zumutbar; insoweit besteht jedoch auf Grund psychischer Auffälligkeiten mit Krankheitswert eine Arbeitsunfähigkeit von 50 %. Diese medizinische Ausgangslage ist unbestritten. Die vollständige Arbeitsunfähigkeit als Gipser besteht laut dem MEDAS-Gutachten seit April 1994, die psychisch begründete 50 %ige Arbeitsunfähigkeit in Bezug auf jede Tätigkeit gemäss der entsprechenden Auskunft des durch die MEDAS beigezogenen Spezialarztes Dr. med.
B._, Psychiatrie FMH, vom 29. Juni 1999 seit
4. Dezember 1998.
6.- a) aa) Im Rahmen des für die Bestimmung des Invaliditätsgrades vorzunehmenden Einkommensvergleichs setzte die Vorinstanz den ohne Behinderung erzielbaren Verdienst gestützt auf die schriftliche Auskunft des Präsidenten des Stukkateur- und Gipsermeisterverbandes vom 19. April 2000 auf Fr. 58'500.- (13 x Fr. 4500.-) fest. Der Beschwerdeführer verlangt, es sei von einem höheren Valideneinkommen auszugehen.
bb) Bei der Ermittlung des ohne invalidisierenden Gesundheitsschaden erzielbaren Einkommens (Valideneinkommen) ist entscheidend, was die versicherte Person im Zeitpunkt des Rentenbeginns auf Grund ihrer beruflichen Fähigkeiten und persönlichen Umstände mit überwiegender Wahrscheinlichkeit ohne den Gesundheitsschaden, aber bei sonst unveränderten Verhältnissen verdienen würde (RKUV 1993 Nr. U 168 S. 100 Erw. 3b mit Hinweis). Die Einkommensermittlung hat so konkret wie möglich zu erfolgen. Es ist daher in der Regel vom letzten Lohn vor Eintritt der Gesundheitsschädigung auszugehen (ZAK 1980 S. 593 mit Hinweisen).
cc) Gemäss der Auskunft des Arbeitgebers vom 1. März 1995 hätte der Beschwerdeführer damals ohne Gesundheitsschaden Fr. 5000.- pro Monat verdient. Angesichts der Angaben über die 1994 ausbezahlten Beträge ist von einem
13. Monatslohn auszugehen, sodass ein Jahreslohn von Fr. 65'000.- resultiert. Diese Auskunft ist angesichts des im Jahr 1993 (Anstellung bei der X._ AG) erzielten Verdienstes von Fr. 4900.- pro Monat bzw. Fr. 63'700.- pro Jahr ohne weiteres glaubwürdig. Unter diesen Umständen besteht entgegen der Auffassung von Verwaltung und Vorinstanz kein Anlass, das Valideneinkommen auf Grund von Angaben über Erfahrungs- oder Durchschnittswerte zu bestimmen. Zur mutmasslichen weiteren Lohnentwicklung ohne Invalidität liegen seitens des letzten Arbeitgebers Y._ keine, seitens der X._ AG jedenfalls keine verwertbaren Angaben vor. Deshalb ist von einer der allgemeinen Entwicklung entsprechenden Veränderung auszugehen.
Wird der Jahreslohn 1995 von Fr. 65'000.- an die Nominallohnentwicklung der Folgejahre im Baugewerbe angepasst (1996: + 1,2 %; 1997: + 0,2 %; 1998: + 0,4 %; 1999:
- 0,5 %; 2000: + 1,9 %; Die Volkswirtschaft 3/2002 S. 93 Tabelle B10. 2), ergibt sich ein Valideneinkommen von Fr. 66'175.- für das Jahr 1998, Fr. 65'844.- für das Jahr 1999 und Fr. 67'095.- für das Jahr 2000.
b) aa) Das Invalideneinkommen hat die Vorinstanz ausgehend von den Ergebnissen der vom Bundesamt für Statistik herausgegebenen Schweizerischen Lohnstrukturerhebung (LSE) 1996 festgesetzt, wobei sie zu Recht vom Zentralwert des standardisierten Monatslohns der im privaten Sektor mit einfachen und repetitiven Tätigkeiten (Anforderungsniveau 4) beschäftigten Männer ausging. Wird auf die LSE 1998 abgestellt, belief sich dieser Wert auf Fr. 4268.-. Nach Aufrechnung auf die betriebsübliche Arbeitszeit im Jahr 1998 von 41,9 Stunden (Die Volkswirtschaft 3/2002 S. 92 Tabelle B9.2) resultiert ein Betrag von Fr. 4471.- pro Monat oder Fr. 53'649.- pro Jahr. Einer zu erwartenden behinderungsbedingten Lohneinbusse sowie allfälligen weiteren verdienstmindernden Faktoren kann durch einen prozentualen Abzug vom Tabellenwert Rechnung getragen werden (<ref-ruling> Erw. 5 mit Hinweisen). Vorliegend erscheint in Bezug auf den Zeitraum bis 4. Dezember 1998, für welchen in einer leichten bis mittelschweren Tätigkeit von voller Arbeitsfähigkeit auszugehen ist (Erw. 5 hievor), der durch die Vorinstanz vorgenommene Abzug von 25 % angesichts der konkreten Verhältnisse (Niederlassungsbewilligung seit 1988; nur geringfügige somatisch begründete Einschränkungen in Bezug auf eine leichte bis mittelschwere Tätigkeit; keine Teilzeitarbeit) als zu hoch (vgl. zur Überprüfbarkeit der Bemessung des Abzugs <ref-ruling> Erw. 6 mit Hinweis). Die vorhandenen lohnmindernden Faktoren lassen gesamthaft lediglich einen Abzug von 10 % als angemessen erscheinen. Das damit für die Zeit bis 4. Dezember 1998 resultierende Invalideneinkommen von Fr. 48'284.- ergibt in Gegenüberstellung zum Valideneinkommen (1998) von Fr. 66'175.- einen Invaliditätsgrad von 27 %, der keinen Anspruch auf eine Rente begründet.
bb) Für die Zeit ab 4. Dezember 1998 ist der Beschwerdeführer auch in Bezug auf eine körperlich leichte Tätigkeit als zu 50 % arbeitsunfähig anzusehen. Damit ergeben sich, wiederum ausgehend vom genannten Betrag von Fr. 4268.- (bzw. bei 50 % Fr. 2134.-) gemäss LSE 1998, unter Berücksichtigung der durchschnittlichen betriebsüblichen Arbeitszeiten von 41,9 Stunden im Jahr 1998 bzw.
41,8 Stunden in den Jahren 1999 und 2000 (Die Volkswirtschaft 3/2002 S. 92 Tabelle B9.2) sowie nach Anpassung an die allgemeine Lohnentwicklung (1999: + 0,3 %; 2000: + 1,3 %; a.a.O., S. 93 Tabelle B10. 2) und Vornahme des Abzugs von 10 % (ein höherer Abzug rechtfertigt sich weiterhin nicht, ist doch nicht ersichtlich, weshalb die psychische Beeinträchtigung über die teilweise Arbeitsunfähigkeit hinaus weitere lohnmindernde Auswirkungen haben sollte) Invalideneinkommen von Fr. 24'151.- für das Jahr 1998, Fr. 24'157.- für das Jahr 1999 und Fr. 24'471.- für das Jahr 2000. Der Invaliditätsgrad beläuft sich somit auf 63,5 % für den Rest des Jahres 1998 (Valideneinkommen Fr. 66'175.-; Invalideneinkommen Fr. 24'151.-), 63,3 % für das Jahr 1999 (Valideneinkommen Fr. 65'844.-; Invalideneinkommen Fr. 24'157.-) und 63,5 % im Jahr 2000 (Valideneinkommen Fr. 67'095.-; Invalideneinkommen Fr. 24'471.-).
c) aa) Der Rentenanspruch nach <ref-law> entsteht gemäss <ref-law> frühestens in dem Zeitpunkt, in dem die versicherte Person während eines Jahres ohne wesentlichen Unterbruch durchschnittlich mindestens zu 40 % arbeitsunfähig gewesen ist. Die einjährige Wartezeit gilt in dem Zeitpunkt als eröffnet, ab welchem eine Arbeitsunfähigkeit von mindestens 20 % vorliegt (AHI 1998 S. 124 Erw. 3c). Die Arbeitsunfähigkeit im Sinne von <ref-law> bezieht sich auf den bisherigen Beruf und ist nicht mit der für den Rentenanspruch erforderlichen Erwerbsunfähigkeit gleichzusetzen, zu deren Beurteilung auf den gesamten in Betracht fallenden ausgeglichenen Arbeitsmarkt abzustellen ist. Damit eine Rente zugesprochen werden kann, müssen sowohl die durchschnittliche Arbeitsunfähigkeit während eines Jahres als auch die nach Ablauf der Wartezeit bestehende Erwerbsunfähigkeit die für die betreffende Rentenabstufung erforderliche Mindesthöhe erreichen (<ref-ruling> Erw. 6b/cc).
bb) Der Beschwerdeführer war vor dem Eintritt des Gesundheitsschadens seit Jahren als Gipser tätig. In Bezug auf diese Arbeit ist er gemäss dem MEDAS-Gutachten vom 28. Januar 1999 seit April 1994 durchgehend zu 100 % arbeitsunfähig.
Die Wartezeit gemäss <ref-law>, für welche einzig die Arbeitsunfähigkeit im bisherigen bzw. angestammten Beruf massgebend ist, ist somit seit April 1995 für sämtliche Rentenabstufungen abgelaufen. Der Rentenanspruch konnte ab April 1995 entstehen, sofern die dafür vorausgesetzte - ihrerseits auf Grund des gesamten in Frage kommenden Arbeitsmarkts zu bestimmende - Erwerbsunfähigkeit gegeben war.
cc) Nach dem Gesagten ist für die Zeit bis 3. Dezember 1998 in Bezug auf eine körperlich leichte bis mittelschwere Tätigkeit von voller Arbeitsfähigkeit auszugehen. Die Erwerbsunfähigkeit erreichte bis zu diesem Zeitpunkt das Ausmass von 40 % nicht (vgl. Erw. 6b/aa hievor), sodass der Rentenanspruch nicht entstehen konnte. Seit 4. Dezember 1998 ist auf Grund des MEDAS-Gutachtens und der Auskunft des Dr. med. B._ vom 29. Juni 1999 eine Arbeitsunfähigkeit von 50 % in Bezug auf eine leichte oder mittelschwere Tätigkeit ausgewiesen. Der seither bestehende Invaliditätsgrad (Erw. 6b/bb hievor) begründet einen Anspruch auf eine halbe Rente. Diese ist dem Beschwerdeführer für die Zeit ab 1. Dezember 1998 auszurichten (<ref-law>). Die Verwaltungsgerichtsbeschwerde ist in diesem Sinne teilweise gutzuheissen.
7.- Das Verfahren ist kostenlos (Art. 134 OG). Dem Prozessausgang entsprechend hat der Beschwerdeführer Anspruch auf eine reduzierte Parteientschädigung (Art. 135 in Verbindung mit Art. 159 OG). Das kantonale Gericht wird bei seinem Entscheid über eine Neuverlegung der Parteikosten für das vorinstanzliche Verfahren neben der teilweisen Gutheissung der Verwaltungsgerichtsbeschwerde in Bezug auf den Rentenbeginn auch den Umstand berücksichtigen, dass die Verfügung vom 7. Juni 2000 als nichtig zu betrachten ist (Erw. 2a hievor).

Demnach erkennt das Eidg. Versicherungsgericht:
I.In teilweiser Gutheissung der Verwaltungsgerichtsbeschwerde
werden der Entscheid des Verwaltungsgerichts
des Kantons Luzern vom 17. August 2001 und die Verfügung
der IV-Stelle Luzern vom 3. Februar 2000 dahin
abgeändert, dass dem Beschwerdeführer für die Zeit ab
1. Dezember 1998 eine halbe Rente zugesprochen wird.
Im Übrigen wird die Verwaltungsgerichtsbeschwerde im
Sinne der Erwägungen abgewiesen.
II.Es werden keine Gerichtskosten erhoben.
III. Die IV-Stelle Luzern hat dem Beschwerdeführer für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 1500.- (einschliesslich
Mehrwertsteuer) zu bezahlen.
IV.Das Verwaltungsgericht des Kantons Luzern wird über eine Neuverlegung der Parteikosten für das kantonale Verfahren entsprechend dem Ausgang des letztinstanzlichen
Prozesses zu befinden haben.
V. Dieses Urteil wird den Parteien, dem Verwaltungsgericht
des Kantons Luzern, Sozialversicherungsrechtliche
Abteilung, der Ausgleichskasse Luzern und dem
Bundesamt für Sozialversicherung zugestellt.
Luzern, 3. Juli 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Der Gerichtsschreiber: