Nichteintreten auf ein Wiedererwägungsgesuch, hat sich ergeben:
A.- A._, aus der Bundesrepublik Jugoslawien stammend, reiste 1984 in die Schweiz ein. Seine Ehefrau folgte ihm 1986 nach; die Kinder B._ (geboren 1985) und C._ (geboren 1981) blieben bei den Grosseltern in Jugoslawien zurück. Im Jahre 1991 erhielt A._ die Niederlassungsbewilligung. Am 26. April 1999 reisten C._ und B._ (im Besitz eines Touristenvisums) zu ihren Eltern in die Schweiz.
Einige Wochen vorher, am 17. März 1999, hatte A._ bei der Fremdenpolizei des Kantons Luzern ein Familiennachzugsgesuch für seine beiden Söhne gestellt und dieses auf Aufforderung der Fremdenpolizei mit Eingaben vom 23. April 1999 bzw. 31. Mai 1999 ergänzt. Am 17. Juni 1999 wies die Fremdenpolizei dieses Gesuch mit begründeter Verfügung ab. Auf die dagegen erhobene Beschwerde trat das Verwaltungsgericht des Kantons Luzern wegen Nichtleistung des Kostenvorschusses am 20. September 1999 nicht ein. Die Verfügung der Fremdenpolizei vom 17. Juni 1999 erwuchs damit in Rechtskraft.
B.- Mit einem kurz darauf durch einen anderen Rechtsvertreter gestellten neuen Gesuch vom 4. Oktober 1999 verlangte A._ wiederum die Bewilligung des Familiennachzugs.
Er berief sich auf eine "neue Tatsache" und machte geltend, dass die Grossmutter aus gesundheitlichen Gründen nicht mehr in der Lage sei, die beiden Kinder zu betreuen.
Mit Schreiben vom 23. November 1999 beantwortete die Fremdenpolizei das Gesuch dahingehend, es werde auf das Wiedererwägungsgesuch nicht eingetreten. A._ mache keine neuen Gründe geltend, welche ein Zurückkommen auf den ablehnenden Entscheid vom 17. Juni 1999 rechtfertigen würden.
A._ ergriff gegen diesen Bescheid kein Rechtsmittel, sondern wandte sich mit Eingabe vom 22. Dezember 1999 erneut an die Fremdenpolizei mit dem Ersuchen, eine förmliche Verfügung zu erlassen. Kurz darauf bestellte er wiederum einen neuen Rechtsvertreter, der sich umgehend bei der Fremdenpolizei meldete und dem diese mit Schreiben vom 18. Januar 2000 mitteilte, dass sie auf das erneute Wiedererwägungsgesuch vom 22. Dezember 1999 mangels neuer Gründe nicht eintreten könne.
C.- Hiergegen erhoben A._, B._ und C._ Beschwerde beim Verwaltungsgericht, mit dem sie die Weigerung der Fremdenpolizei rügten, auf das Wiedererwägungsgesuch einzutreten und dieses durch eine anfechtbare Verfügung zu beantworten. Das Verwaltungsgericht betrachtete diese Eingabe als Aufsichtsbeschwerde gemäss §§ 180 ff.
des Gesetzes vom 3. Juli 1972 über die Verwaltungsrechtspflege (VRG), mit der das ungerechtfertigte Verweigern oder Verzögern einer Amtshandlung (§ 180 Abs. 2 lit. b VRG) gerügt werde, und überwies sie zuständigkeitshalber zur Behandlung an das Militär-, Polizei- und Umweltschutzdepartement (heute Sicherheitsdepartement) in dessen Eigenschaft als vorgesetzte Behörde der Fremdenpolizei. Dieser Entscheid vom 15. Mai 2000 blieb unangefochten.
Das Militär-, Polizei- und Umweltschutzdepartement wies die Aufsichtsbeschwerde ab, soweit es darauf eintrat.
Es verneinte in seinem Entscheid vom 9. Oktober 2000 das Vorliegen einer Rechtsverweigerung. Zur Begründung führte das Departement im Wesentlichen aus, die Fremdenpolizei sei mangels Geltendmachung neuer Gründe zu Recht nicht auf das Wiedererwägungsgesuch eingetreten, und zur Fällung eines förmlichen Entscheides sei sie nicht verpflichtet gewesen.
Auf eine gegen diesen Entscheid gerichtete Beschwerde trat das Verwaltungsgericht mit Urteil vom 3. Juli 2001 nicht ein (Ziff. 1 des Urteilsdispositivs) und auferlegte den Beschwerdeführern amtliche Kosten von Fr. 1'000.-- (Ziff. 2 des Urteilsdispositivs).
D.- A._, B._ und C._ führen mit Eingabe vom 10. September 2001 "Verwaltungsgerichtsbeschwerde (eventuell staatsrechtliche Beschwerde)" beim Bundesgericht mit den Anträgen, Ziff. 1 und 2 des verwaltungsgerichtlichen Entscheides aufzuheben und die Sache zu neuem Entscheid an die Vorinstanz (eventuell an den Regierungsrat oder an das beteiligte Departement bzw. Amt) zurückzuweisen.
Gleichzeitig beantragen sie, der Beschwerde aufschiebende Wirkung zuzuerkennen.
Das Sicherheitsdepartement des Kantons Luzern beantragt, die Verwaltungsgerichtsbeschwerde (eventuell staatsrechtliche Beschwerde) abzuweisen, soweit darauf einzutreten sei. Das Verwaltungsgericht des Kantons Luzern schliesst auf Abweisung der Beschwerde. Das Bundesamt für Ausländerfragen beantragt, die Beschwerde abzuweisen, soweit darauf eingetreten werden könne.
E.- Mit Verfügung vom 27. September 2001 hat der Abteilungspräsident das gestellte Gesuch um aufschiebende Wirkung in ein Begehren um Anordnung einer vorsorglichen Massnahme umgedeutet und dieses gutgeheissen. B._ und C._ wurde gestattet, den Ausgang des vorliegenden Verfahrens bei ihren Eltern in der Schweiz abzuwarten.

Das Bundesgericht zieht in Erwägung:
1.- Das Bundesgericht prüft die Zulässigkeit der bei ihm eingereichten Beschwerden von Amtes wegen und mit freier Kognition (<ref-ruling> E. 1 S. 13, mit Hinweis).
a) Nach Art. 100 Abs. 1 lit. b Ziff. 3 OG ist die Verwaltungsgerichtsbeschwerde auf dem Gebiet der Fremdenpolizei unzulässig gegen die Erteilung oder Verweigerung von Bewilligungen, auf die das Bundesrecht keinen Anspruch einräumt.
Gemäss Art. 4 ANAG entscheidet die zuständige Behörde, im Rahmen der gesetzlichen Vorschriften und der Verträge mit dem Ausland, nach freiem Ermessen über die Bewilligung von Aufenthalt oder Niederlassung. Damit besteht grundsätzlich kein Anspruch auf Erteilung einer Bewilligung, es sei denn, der Ausländer könne sich auf eine Sondernorm des Bundesrechts oder eines Staatsvertrags berufen (<ref-ruling> E. 2 S. 381; <ref-ruling> E. 1a S. 363 f., je mit Hinweisen).
b) Gemäss Art. 17 Abs. 2 Satz 3 ANAG haben ledige Kinder unter 18 Jahren einen Anspruch auf Einbezug in die Niederlassungsbewilligung ihrer Eltern, wenn sie mit diesen zusammen wohnen.
aa) Ausgangspunkt des vorliegenden bundesgerichtlichen Verfahrens bildet die Behandlung des (zweiten) Gesuches um Familiennachzug vom 4. Oktober 1999. Zu diesem Zeitpunkt, auf den es hier ankommt (vgl. <ref-ruling> E. 1f S. 262), waren B._ und C._ noch nicht 18 Jahre alt, weshalb sie, weil der Vater seit 1991 die Niederlassungsbewilligung besitzt, grundsätzlich Anspruch auf Einbezug in diese Bewilligung hatten. Es geht insofern um eine Angelegenheit des Bundesverwaltungsrechts, welche gemäss Art. 97 ff. OG Gegenstand einer eidgenössischen Verwaltungsgerichtsbeschwerde bilden kann; insbesondere der Ausschlussgrund von Art. 100 Abs. 1 lit. b Ziff. 3 OG kommt nicht zum Tragen.
bb) Tritt eine kantonale Rechtsmittelinstanz in einer bundesrechtlichen Materie gestützt auf kantonales Verfahrensrecht auf ein Rechtsmittel nicht ein, ist ihr Nichteintretensentscheid geeignet, die richtige Anwendung des Bundesrechts zu vereiteln. Die Rüge, das kantonale Verfahrensrecht sei in bundesverfassungswidriger oder bundesrechtswidriger Weise angewendet worden, kann daher in einem solchen Falle mit Verwaltungsgerichtsbeschwerde vorgebracht werden, unabhängig davon, ob zugleich eine Verletzung von materiellem Bundesverwaltungsrecht behauptet wird oder nicht (<ref-ruling> E. 1a S. 267, mit Hinweis).
c) Die vorliegende Beschwerde ist daher als Verwaltungsgerichtsbeschwerde anhand zu nehmen; für eine staatsrechtliche Beschwerde besteht kein Raum (Art. 84 Abs. 2 OG).
d) Ein zweiter Schriftenwechsel - wie von den Beschwerdeführern verlangt - findet nur ausnahmsweise statt (Art. 110 Abs. 4 OG). Hierfür besteht vorliegend kein Anlass.
Soweit die Beschwerdeführer behaupten, sie hätten gestützt auf Art. 6 Ziff. 1 EMRK einen Anspruch, zu den vom Bundesgericht eingeholten Vernehmlassungen Stellung zu nehmen, ist ihnen entgegenzuhalten, dass die angerufene Konventionsnorm auf fremdenpolizeiliche Streitigkeiten keine Anwendung findet (vgl. <ref-ruling>).
2.-Gegenstand des vorliegenden Verfahrens bildet nach dem Gesagten nicht der materielle Entscheid über den Familiennachzug, sondern die verfahrensrechtliche Frage, ob das Verwaltungsgericht auf die Eingabe der Beschwerdeführer zu Unrecht nicht eingetreten ist.
a) Das Verwaltungsgericht erachtete die Regelung von § 148 lit. a VRG, wonach Entscheide, die mit Verwaltungsgerichtsbeschwerde an das Bundesgericht weitergezogen werden können, beim kantonalen Verwaltungsgericht anfechtbar sind, vorliegend nicht als anwendbar. Es erwog, nach § 150 Abs. 1 lit. i VRG sei die kantonale Verwaltungsgerichtsbeschwerde gegen Entscheide über die Erledigung von Aufsichtsbeschwerden unzulässig. Zu prüfen bleibe, ob auf Grund von Art. 98a OG auf die Beschwerde einzutreten sei: Da die beiden Söhne gemäss Art. 17 ANAG grundsätzlich einen Anspruch auf Bewilligung des Familiennachzugs hätten, sei gegen eine Wiedererwägungsverfügung bzw. gegen einen nachfolgenden kantonalen Rechtsmittelentscheid die Verwaltungsgerichtsbeschwerde an das Bundesgericht gegeben. Ob im konkreten Fall die Voraussetzungen zur Verwirklichung des Anspruchs erfüllt seien, bilde eine Frage der materiellen Prüfung.
Sodann erwog das Verwaltungsgericht, der Entscheid einer Aufsichtsbehörde, einer Anzeige keine Folge zu leisten, stelle keine anfechtbare Verfügung im Sinne von <ref-law> dar. Das gelte auch für den angefochtenen Departementsentscheid.
Die Vorinstanz habe zwar beiläufig festgehalten, die Fremdenpolizei sei mangels Geltendmachung neuer Tatsachen zu Recht nicht auf das Wiedererwägungsgesuch eingetreten.
Sie habe sich im Übrigen aber nicht mit der Frage auseinander gesetzt, ob sich die Beschwerdeführer auf einen Anspruch auf Wiedererwägung berufen könnten. Damit habe das Departement nicht in verbindlicher Weise festgestellt, ob ein Anspruch auf Wiedererwägung bestehe, sondern den Beschwerdeführern lediglich Bescheid gegeben, dass keine Anhaltspunkte für ein aufsichtsrechtliches Einschreiten ersichtlich seien. Eine Verwaltungsgerichtsbeschwerde an das Bundesgericht sei daher schon mangels eines tauglichen Anfechtungsobjektes unzulässig (S. 6 des angefochtenen Entscheides).
Im Weiteren hielt das Verwaltungsgericht fest, eine Verfügung im Sinne von <ref-law> liege nur vor, wenn sie ein im öffentlichen Recht des Bundes geregeltes Rechtsverhältnis beschlage, wobei allenfalls auch die irrtümliche Anwendung von kantonalem Recht (anstelle von Bundesverwaltungsrecht) mit Verwaltungsgerichtsbeschwerde gerügt werden könne. Ob das von den Beschwerdeführern angerufene Übereinkommen der Vereinten Nationen über die Rechte der Kinder vom 20. November 1989 (UN-Kinderrechtskonvention) direkt anwendbar sei, könne offen bleiben, da sich daraus weder ein Anspruch auf Wiedererwägung noch ein solcher auf Erledigung eines Wiedererwägungsgesuches durch Entscheid herleiten lasse. Die Voraussetzungen, unter denen auf einen formell rechtskräftigen Entscheid zurückgekommen werden könne, ergäben sich teils aus dem kantonalen Verfahrensrecht, teils aus der Bundesverfassung, nicht aber aus dem Bundesverwaltungsrecht und auch nicht aus der genannten Kinderrechtskonvention.
Die Verwaltungsgerichtsbeschwerde wäre daher auch mangels eines auf Bundesverwaltungsrecht abgestützten Rechtsverhältnisses unzulässig.
b) Soweit sich der angefochtene Nichteintretensentscheid des Verwaltungsgerichts auf kantonales Recht stützt, prüft das Bundesgericht dessen Handhabung im Rahmen einer Verwaltungsgerichtsbeschwerde nur unter dem Gesichtswinkel der Verletzung von Bundesrecht (einschliesslich Bundesverfassungsrecht), wobei als Schranke vorab das Willkürverbot in Betracht fällt (<ref-ruling> E. 6b/bb S. 369; <ref-ruling> E. 1c S. 199; <ref-ruling> E. 1b S. 10).
c) Die Regel von Art. 98a OG, wonach in Angelegenheiten, in denen die Verwaltungsgerichtsbeschwerde an das Bundesgericht zulässig ist, als letzte kantonale Instanz eine richterliche Behörde entscheiden muss, ist auf den Weiterzug von auf Bundesverwaltungsrecht beruhenden Sachentscheiden zugeschnitten. Sie ist nicht ohne weiteres auch dann anwendbar, wenn - wie hier - mit eidgenössischer Verwaltungsgerichtsbeschwerde der auf kantonales Verfahrensrecht gestützte Nichteintretensentscheid einer kantonalen Rechtsmittelinstanz wegen Vereitelung von Bundesrecht angefochten wird. Hier ist vorab zu prüfen, ob sich der Rechtsuchende an die - bundesrechtskonform ausgestalteten - Anforderungen des kantonalen Verfahrensrechts gehalten hat, ohne dass der angefochtene Entscheid notwendigerweise von einer kantonalen Gerichtsinstanz ausgehen müsste.
d) Die Erwägungen, mit denen das kantonale Verwaltungsgericht vorliegend sein Nichteintreten auf die bei ihm erhobene Beschwerde begründet, sind nicht in allen Teilen nachvollziehbar. Das Gericht lässt zunächst ausser Acht, dass die in §§ 180 ff. VRG geregelte Aufsichtsbeschwerde, soweit es um die Rüge der Rechtsverweigerung geht, ein eigentliches Rechtsmittel mit Erledigungsanspruch darstellt (unveröffentlichte Urteile vom 18. Dezember 1996 i.S. K., vom 4. Dezember 1996 i.S. D., und vom 25. August 1988 i.S. S.), womit der Einwand, der Entscheid des Departements stelle kein taugliches Anfechtungsobjekt dar, nicht stichhaltig erscheint. Folgt man dem Standpunkt des Verwaltungsgerichts, so stellt sich die weitere Frage, ob es angängig war, die gegen die abschlägige Behandlung des Wiedererwägungsgesuches (vgl. Schreiben der Fremdenpolizei vom 23. November 1999 bzw. vom 18. Januar 2000) erhobene Beschwerde als Aufsichtsbeschwerde gemäss §§ 180 ff. VRG zu behandeln und sie in Anwendung von § 183 VRG an das Departement als hierarchisch vorgesetzte Behörde zu überweisen, was nach Auffassung des Verwaltungsgerichts gemäss § 150 Abs. 1 lit. i VRG einen Weiterzug des diesbezüglichen Entscheides an das Gericht ausschloss. Wenn davon auszugehen ist, dass der abschlägige Wiedererwägungsentscheid wegen des im Grundsatz bestehenden Rechtsanspruches auf Familiennachzug (vgl.
E. 1b/aa) der eidgenössischen Verwaltungsgerichtsbeschwerde unterliegt, so wäre gemäss § 148 lit. a und § 181 VRP in Verbindung mit Art. 98a OG statt der verwaltungsinternen Aufsichtsbeschwerde wohl die direkte Beschwerde an das Verwaltungsgericht gegeben gewesen. Der Entscheid des Verwaltungsgerichts vom 15. Mai 2000, mit dem dieses die Eingabe der Beschwerdeführer zur Behandlung als Aufsichtsbeschwerde an das Departement überwiesen hatte, ist zwar unangefochten in Rechtskraft erwachsen. Dies schliesst jedoch nicht aus, den gesamten Verfahrensablauf nachträglich in Frage zu stellen.
e) Das Bundesgericht hebt einen kantonalen Entscheid indessen nur dann auf, wenn er sich auch im Ergebnis als willkürlich erweist und zu einer Vereitelung von Bundesrecht führt.
Vorliegend brachten die Beschwerdeführer gegenüber der ersten, rechtskräftigen Verfügung der Fremdenpolizei betreffend das Familiennachzugsgesuch offensichtlich nichts vor, was von Bundesrechts wegen Anspruch auf eine Wiedererwägung oder eine Revision dieses Entscheides geben würde (vgl. zum Anspruch auf Wiedererwägung eines Verwaltungs- bzw. Rechtsmittelentscheides ausführlich <ref-ruling> E. 2b S. 46/47; <ref-ruling> E. 3a S. 150 ff.; <ref-ruling> E. 4c S. 253; <ref-ruling> E. 3 S. 371 ff.). Weder wurden mit dem zweiten Gesuch neue erhebliche Tatsachen oder Beweismittel geltend gemacht, die im früheren Verfahren nicht bekannt waren oder die geltend zu machen damals unmöglich war oder keine Veranlassung bestand, noch hatten sich die Umstände seit dem ersten Entscheid wesentlich verändert. Die einzige von den Beschwerdeführern als neu bezeichnete Tatsache (gesundheitsbedingte Schwierigkeiten der Grossmutter, die Enkel weiter zu betreuen) war bereits im ersten Gesuch geltend gemacht und im Ablehnungsentscheid der Fremdenpolizei vom 17. Juni 1999 berücksichtigt worden. Wer die formgerechte Anfechtung eines fremdenpolizeilichen Bewilligungsentscheides unterlässt, hat keinen Anspruch darauf, dass die zuständige Behörde über die gleiche Angelegenheit ohne Vorliegen qualifizierter Gründe nochmals materiell befindet und den Rechtsmittelweg damit erneut eröffnet. Das Institut der Wiedererwägung dient nicht dazu, prozessuale Versäumnisse zu korrigieren.
f) Wenn die Fremdenpolizei auf das kurz nach dem Nichteintretensentscheid des Verwaltungsgerichts gestellte Wiedererwägungsgesuch der Beschwerdeführer nicht eintrat und die angegangenen kantonalen Rechtsmittelinstanzen das Vorliegen einer Rechtsverweigerung verneinten bzw. eine erneute Prüfung in der Sache ablehnten, so liegt hierin nach dem Gesagten im Ergebnis keine Verletzung bzw. keine unzulässige Vereitelung von Bundesrecht.
g) Klarzustellen bleibt, dass eine Änderung der Sachlage gegenüber einem früher beurteilten Gesuch um Bewilligung des Familiennachzuges, welche Anspruch auf eine neue materielle Prüfung gibt, unter Umständen auch schon im seitherigen Zeitablauf und damit verbundenen Entwicklungen liegen kann. Seit Einreichung des vorliegend streitigen Gesuches vom 4. Oktober 1999 sind über zwei Jahre verstrichen.
Es bleibt den Beschwerdeführern überlassen, ob und wieweit sie gestützt auf die seitherige Entwicklung der Dinge ein neues Gesuch um Familiennachzug stellen wollen.
Eine restriktive Handhabung des Anspruches auf neue Prüfung erscheint vorliegend umso weniger am Platz, als nach der Rechtsprechung des Bundesgerichtes (<ref-ruling> ff.) für den Nachzug von Kindern zusammenlebender Eltern weniger strenge Voraussetzungen gelten, als im Entscheid der Fremdenpolizei vom 17. Juni 1999 angenommen worden war; die Voraussetzungen für einen Nachzug des jüngeren, 1985 geborenen Sohnes könnten möglicherweise immer noch gegeben sein.
3.-Die Verwaltungsgerichtsbeschwerde erweist sich damit als unbegründet und ist abzuweisen.
Entsprechend diesem Verfahrensausgang haben die Beschwerdeführer - unter solidarischer Haftung - die bundesgerichtlichen Kosten zu tragen (Art. 156 Abs. 1 in Verbindung mit Art. 153 und 153a OG). Eine Parteientschädigung ist nicht geschuldet (Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.-Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.-Die Gerichtsgebühr von Fr. 2'000.-- wird den Beschwerdeführern auferlegt, unter solidarischer Haftung.
3.-Dieses Urteil wird den Beschwerdeführern, dem Sicherheitsdepartement und dem Verwaltungsgericht (verwaltungsrechtliche Abteilung) des Kantons Luzern sowie dem Bundesamt für Ausländerfragen schriftlich mitgeteilt.
_
Lausanne, 23. November 2001
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: