A.- Der 1939 geborene W._ arbeitet als selbstständiger Servicemonteur für Geschirr- und Waschautomaten.
Am 18. Juni 1998 meldete er sich mit Hinweis auf Wirbelleiden und Lähmungserscheinungen bei der IV-Stelle Luzern (nachfolgend: IV-Stelle) zum Leistungsbezug an. Die IV-Stelle holte einen Bericht des Hausarztes Dr. med.
Z._, Arzt für Allgemeine Medizin FMH, vom 9. Juli 1998 ein und liess W._ einen Fragenkatalog für Selbstständigerwerbende ausfüllen. Mit Verfügung vom 4. Juni 1999 sprach sie W._ gestützt auf einen Invaliditätsgrad von 41 % ab 1. Juli 1997 eine Viertelsrente der Invalidenversicherung samt Zusatzrente für die Ehegattin zu.
B.- Hiegegen erhob W._ Beschwerde und beantragte sinngemäss, es sei ihm eine höhere Rente zuzusprechen oder ein neues Arztzeugnis einzufordern. Das Verwaltungsgericht des Kantons Luzern holte einen Bericht des Dr. med.
A._, Spezialarzt FMH für Orthopädische Chirurgie, ein (Bericht vom 16. März 2000) und hiess mit Entscheid vom 24. Juli 2000 die Beschwerde in dem Sinne gut, dass die Verfügung vom 4. Juni 1999 aufgehoben und die Sache an die IV-Stelle zurückgewiesen wurde zur Prüfung der Frage, ob ein wirtschaftlicher Härtefall vorliege.
C.- Mit Verwaltungsgerichtsbeschwerde beantragt die IV-Stelle, es sei Ziff. 1 des Dispositivs des Vorinstanzlichen Entscheids, womit die Sache an die IV-Stelle zurückgewiesen wurde, aufzuheben und es sei die Verfügung vom 4. Juni 1999 zu bestätigen.
Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Das kantonale Gericht hat die massgeblichen Bestimmungen und Grundsätze über die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG), die Voraussetzungen für eine Härtefallrente (Art. 28 1bis IVG und Art. 28bis IVV), die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (Art. 28 Abs. 2 IVG; BGE 104 V 136 Erw. 2a und b) sowie die Bedeutung, die den ärztlichen Stellungnahmen bei der Ermittlung des Invaliditätsgrades zukommt (BGE 125 V 261 Erw. 4 mit Hinweisen), zutreffend dargelegt. Darauf wird verwiesen.
2.- Das kantonale Gericht hat die Verwaltungsverfügung vom 4. Juni 1999 aufgehoben und die Sache an die IV-Stelle zurückgewiesen, damit sie im Sinne der Erwägung 4c verfahre und neu verfüge. In der Erwägung, auf welche das Dispositiv verweist (zur Anfechtbarkeit der Motive eines Rückweisungsentscheides:
BGE 120 V 237 Erw. 1a mit Hinweis), hat die Vorinstanz ausgeführt, nachdem ein Invaliditätsgrad von 41 % festgestellt worden sei, könne auf Grund der Akten nicht ausgeschlossen werden, dass auch die übrigen Voraussetzungen für eine Härtefallrente gegeben seien. Die IV-Stelle führe selbst aus, es bestehe die Möglichkeit, dass der Beschwerdeführer Anspruch auf eine solche Rente haben könnte. Eine abschliessende Beurteilung dieser Frage sei nicht möglich, der rechtserhebliche Sachverhalt sei nicht genügend abgeklärt. Nachdem gemäss bundesgerichtlicher Rechtsprechung die Frage des Härtefalls von Amtes wegen zu prüfen sei, werde die Sache zur diesbezüglichen Prüfung an die IV-Stelle zurückgewiesen. Es werde dabei Sache der Verwaltung sein, darüber zu befinden, ob dem Versicherten eine halbe Rente als Härtefallrente oder eine Viertelsrente zu gewähren sei.
Die IV-Stelle bringt in ihrer Verwaltungsgerichtsbeschwerde demgegenüber vor, der Härtefall sei bereits verneint worden. In ihrer Verfügung stehe, dass die Voraussetzungen für eine Härtefallrente gemäss Art. 28 Abs. 1bis IVG nicht erfüllt seien. Eine Rückweisung erweise sich daher als unnötig.
3.- Zunächst ist zu prüfen, ob Vorinstanz und IV-Stelle zu Recht von einem Invaliditätsgrad von 41 % ausgehen, da sich nur bei einem Invaliditätsgrad zwischen 40 % und weniger als 50 % überhaupt die Frage des Vorliegens eines Härtefalles stellt.
a) In medizinischer Hinsicht lagen der Verfügung vom 4. Juni 1999 der Bericht des Hausarztes Dr. med.
Z._, Arzt für Allgemeine Medizin FMH, vom 9. Juli 1998 und des Dr. med. A._, Spezialarzt FMH für Orthopädische Chirurgie, vom 16. März 2000 zugrunde, wobei die Vorinstanz Letzteren eingeholt hatte. Dr. med.
Z._ diagnostizierte eine spondylodiskäre Einengung der Foramina intervertebralia C5/C6 beidseits, weniger ausgeprägt C6/7, sowie Status nach ventraler Diskektomie und Interpositionsspondylodese am 17. April 1997 und gab eine Arbeitsunfähigkeit von 50 % vom 20. Juli 1996 bis
15. April 1997 und von 100 % vom 16. April bis 20. Juli 1997 an. Die ab 21. Juli 1997 bis auf weiteres, mindestens zwei Jahre dauernde Arbeitsfähigkeit als Waschmaschinenmonteur schätzte er auf Grund der eingeschränkten Funktion im Nacken-Schulterbereich auf 50 %; der Versicherte habe einen deutlichen Verlust der Rohkraft und könne in seinem Beruf Lasten über 20 kg nicht mehr heben. Zudem gab er an, 1994 habe sich der Patient einer Lungenoperation unterziehen müssen; von diesem Eingriff sei dieser indes vollständig geheilt.
Dr. med. A._, der den Versicherten am 17. April 1997 operiert hatte, führte aus, der aktuelle Zustand des Versicherten sei ihm nicht bekannt, die Kontrolle der Arbeitsunfähigkeit ab 28. Mai 1997 sei durch den Hausarzt erfolgt.
Er erwähnte die damaligen Feststellungen: Als selbstständig erwerbender Servicemonteur sei dieser für drei Monate postoperativ voll arbeitsunfähig, nachher wieder weitere drei Monate Arbeitssteigerung. Vorauszusehen sei dauerhafte Mühe für Überkopfarbeiten, jegliche Arbeiten mit rückgeneigtem Kopf, Heben von Lasten über 20 kg, Heben von vom Körper weggehaltenen und von sperrigen Lasten (= Fernseher !) und Verpflichtung für häufiges und grenzberührendes Kopfwenden. Die Prognose sei grundsätzlich günstig, gewisse Einschränkungen bestünden bezüglich der Spondylodese; es werde schonenderes Arbeiten empfohlen.
b) Die Vorinstanz ist in Würdigung dieser Aktenlage mit der IV-Stelle von einer Arbeitsfähigkeit als Waschmaschinenmonteur von 50 % ausgegangen. Der Beschwerdegegner rügte zwar vor Vorinstanz, seine Beschwerden seien so stark, dass er weniger als 50 % arbeitsfähig sei, und verwies auf seinen neuen Hausarzt Dr. med. L._ als Nachfolger von Dr. med. Z._. Er reichte indes kein weiteres Arztzeugnis oder ein Attest betreffend eine weitergehende Arbeitsunfähigkeit ein und machte so auch im jetzigen Verfahren insbesondere nicht glaubhaft, dass eine Verschlechterung zwischen dem letzten Arztbericht und dem Verfügungserlass eingetreten wäre. Dann stimmen die von ihm aufgelisteten Arbeitsunfähigkeiten ab 29. Juli 1996 teilweise nicht mit den von Dr. med. Z._ angegebenen Arbeitsunfähigkeiten überein (50 % vom 29. Juli bis 29. November 1996 und vom 31. Januar bis 14. April 1997, 100 % vom 16. April bis 20. Juli 1997, 50 % vom 21. Juli bis 24.
August 1997, 100 % vom 25. August bis 16. November 1997, 50 % vom 17. November 1997 bis auf weiteres). Auch sonst sind keine Anhaltspunkte ersichtlich, weshalb für den massgeblichen Zeitraum bis zur Verfügung vom 4. Juni 1999 (BGE 116 V 248 Erw. 1a mit Hinweisen) nicht auf die vorliegenden medizinischen Berichte abgestellt werden könnte.
Vorinstanz und IV-Stelle sind deshalb zu Recht von einer Arbeitsunfähigkeit von 50 % als Waschmaschinenmonteur ausgegangen.
Zu prüfen bleibt daher, wie sich die fachärztlich bescheinigte Einschränkung der Arbeitsfähigkeit in erwerblicher Hinsicht auswirkt.
c) Aus den Jahresabschlüssen der Einzelfirma des Versicherten geht hervor, dass sich der Betriebsgewinn 1991/1992 zusammen auf Fr. 34'237. 10, 1993/1994 zusammen auf Fr. 38'737. 50, 1995 auf Fr. 27'576. 90 und 1996 auf Fr. 28'634. 67 belief. Die Vorinstanz hat mit der IV-Stelle auf den Durchschnitt der dem Eintritt des Gesundheitsschadens vorangegangenen fünf Jahre (1991 bis 1995) abgestellt (vgl. ZAK 1985 S. 464), was einem Jahreseinkommen von Fr. 20'110.- entspricht. Angepasst an die bis zum massgebenden Zeitpunkt des Verfügungserlasses (4. Juni 1999; BGE 121 V 366 Erw. 1b mit Hinweisen) eingetretene Nominallohnerhöhung (1996: 1,3 %; 1997: 0,5 %; 1998: 0,7 %, 1999:
0,3 %; Die Volkswirtschaft, Heft 2/2002, S. 89, Tabelle B 10.2) beläuft sich das hypothetische Valideneinkommen auf Fr. 20'679.-. Im Vergleich zum Invalideneinkommen von Fr. 12'312.-, mithin dem Betriebsgewinn, den der Versicherte nach Eintritt des Gesundheitsschadens 1997 erzielt hat, resultiert ein Invaliditätsgrad von 40,5 %.
Unter diesen Umständen ist der Einkommensvergleich von IV-Stelle und Vorinstanz nicht zu beanstanden. Insbesondere wurde auf Grund der Schwankungen der Betriebsgewinne zu Recht auf den Durchschnitt der Jahre 1991 bis 1995 abgestellt und das Jahr 1996 unberücksichtigt gelassen, da in diesem Jahr der Gesundheitsschaden mit der länger dauernden Arbeitsunfähigkeit eingetreten ist, auch wenn in diesem Jahr der höchste Betriebsgewinn erzielt wurde. Abgesehen davon würde die Berücksichtigung der Einkommen von 1996 bei der Durchschnittsberechnung insofern nichts ändern, als sich sowohl bei einem Durchschnitt der Jahre 1991 bis 1996 wie bei einem von 1992 bis 1996 jeweils ein Einkommen ergäbe, das im Vergleich zum Invalideneinkommen zu einem Invaliditätsgrad von unter 50 % führte. Schliesslich besteht auch kein Grund, bereits für 1994 davon auszugehen, das Einkommen sei wegen der Lungenoperation krankheitsbedingt unterdurchschnittlich ausgefallen, wie das der Versicherte mit seinem Hinweis auf die 1994 gesundheitsbedingt tieferen Einkommen offenbar geltend machen wollte, nachdem sich die Einkommen der vorangehenden Jahre sogar als tiefer erweisen.
Damit hat der Versicherte gestützt auf einen Invaliditätsgrad von rund 40,5 % Anspruch auf eine Viertelsrente oder im Härtefall auf eine halbe Rente der Invalidenversicherung (Erw. 1a hievor).
4.- a) Bei einem Invaliditätsgrad von mindestens 40 %, aber weniger als 50 % hat die Verwaltung von Amtes wegen zu prüfen, ob ein Härtefall gemäss Art. 28 Abs. 1bis IVG in Verbindung mit Art. 28bis IVV gegeben ist. Auf eine nähere Abklärung darf sie nur verzichten, wenn die wirtschaftlichen Voraussetzungen des Härtefalles offensichtlich fehlen.
Sie darf den Anspruch auf eine Härtefallrente nicht von einem spezifischen Antrag der versicherten Person abhängig machen (BGE 116 V 23; ZAK 1991 S. 317 Erw. 4).
Das kantonale Gericht ist davon ausgegangen, die IV-Stelle habe den Härtefall nicht geprüft. Dem widerspricht die IV-Stelle und legt das Berechnungsblatt für den Härtefall vom 5. Mai 1999 ins Recht.
b) Die dem Eidgenössischen Versicherungsgericht in Streitigkeiten um Versicherungsleistungen zustehende umfassende Kognition (Art. 132 OG) hat unter anderem zur Folge, dass grundsätzlich auch neue, erstmals im letztinstanzlichen Rechtsmittelverfahren vorgebrachte Tatsachenbehauptungen und Beweismittel (sog. Noven) zu berücksichtigen sind (RKUV 1999 Nr. U 333 S. 197 Erw. 1 mit Hinweisen).
Das erst mit der Verwaltungsgerichtsbeschwerde eingereichte Berechnungsblatt ist deshalb zu berücksichtigen, womit gleichzeitig feststeht, dass der Härtefall von der IV-Stelle entgegen der Auffassung der Vorinstanz geprüft wurde. Aus dem Berechnungsblatt geht hervor, dass auf Grund der Differenz von Fr. 17'712.- zwischen den Einnahmen des Beschwerdegegners von Fr. 59'781.- und dessen Ausgaben von Fr. 42'064.- ein Härtefall nicht vorliegt. Dies ist nicht zu beanstanden, zumal auch der Beschwerdegegner keine konkreten Einwendungen zur Härtefallberechnung vorgebracht oder Ausführungen zu einzelnen für die Berechnung massgebenden, seine finanzielle Situation beeinflussenden Einnahmen und Ausgaben wie Mietzins oder Erwerbseinkommen gemacht hat. Es besteht deshalb kein Anlass zu weiteren Abklärungen betreffend den Härtefall, sodass sich der vorinstanzliche Entscheid in diesem Punkt als unzutreffend erweist und Dispositivziffer 1 des vorinstanzlichen Urteils aufzuheben ist.
c) Zu berücksichtigen ist schliesslich, dass die Beschwerdeführerin den vorinstanzlichen Rückweisungsentscheid selbst verursacht hat. Sie führte in ihrer Vernehmlassung vom 10. September 1999 an die Vorinstanz aus, es bestehe immerhin die Möglichkeit, dass der Härtefall erfüllt wäre und der Versicherte Anspruch auf eine halbe Rente hätte; in Anbetracht der bekannten Einkommenssituation könne es durchaus sein, dass die Voraussetzungen des Härtefalles gegeben seien. In welchem Stadium die Härtefallprüfung sei, lasse sich den für die Beschwerdebearbeitung vorliegenden Akten leider nicht entnehmen; dies, obwohl in diesem Zeitpunkt die Härtefallberechnung bereits durchgeführt worden war. Erst mit Verwaltungsgerichtsbeschwerde hat die IV-Stelle das am 5. Mai 1999 erstellte Berechnungsblatt für den Härtefall eingereicht.
Auf Grund dieser Ausführungen bestand für die Vorinstanz mit Blick auf den Untersuchungsgrundsatz kein Anlass, eine weitere Abklärung bezüglich des Härtefalles zu treffen.
Vielmehr konnte sie davon ausgehen, der Härtefall sei bisher gar nicht geprüft worden. Denn mit Blick auf die Abklärung des Härtefalles von Amtes wegen (vgl. Erw. 4a) haben die Akten klar darüber Aufschluss zu geben, ob eine solche Prüfung erfolgt ist und welches Ergebnis sie gezeitigt hat. Es ist auch nicht Sache der Verwaltung, auf Grund der in der vorinstanzlichen Beschwerde vorgetragenen Einwendungen zu bestimmen, was sie dem kantonalen Gericht vorlegen will. Vielmehr hat sie alle sachbezüglichen Akten einzureichen, ohne eine Wertung ihrer Notwendigkeit für den Prozess vorzunehmen (Urteil R. vom 19. Mai 2000, H 276/99).
Hätte die Beschwerdeführerin diesem allgemeinen Verfahrensgrundsatz entsprechend gehandelt und das Berechnungsblatt zum Härtefall eingereicht, hätte sich der Prozess vor dem Eidgenössischen Versicherungsgericht ohne weiteres vermeiden lassen. Insofern hat die Ausgleichskasse unnötige Kosten im Sinne von Art. 156 Abs. 6 OG verursacht. Unter diesen Umständen rechtfertigt es sich ausnahmsweise, vom Grundsatz der Kostenlosigkeit in Verfahren um Bewilligung oder Verweigerung von Versicherungsleistungen gemäss Art. 134 OG abzuweichen und der Beschwerdeführerin die unnötigerweise verursachten Kosten für das letztinstanzliche Verfahren aufzuerlegen (Art. 156 Abs. 6 OG; Urteil R.
vom 23. Oktober 2000, H 235/00).
Demnach erkennt das Eidg. Versicherungsgericht:
I. In Gutheissung der Verwaltungsgerichtsbeschwerde wird
Dispositiv-Ziffer 1 des Entscheids des Verwaltungsgerichts
des Kantons Luzern vom 24. Juli 2000
aufgehoben.
II. Die Gerichtskosten von Fr. 1'000.- werden der IV- Stelle Luzern auferlegt.
III. Dieses Urteil wird den Parteien, dem Verwaltungsgericht
des Kantons Luzern, Sozialversicherungsrechtliche
Abteilung, der Ausgleichskasse Luzern und dem
Bundesamt für Sozialversicherung zugestellt.
Luzern, 24. Juli 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: