Familiennachzug, hat sich ergeben:
A.- Der aus Jugoslawien stammende, 1938 geborene A._ reiste am 25. Juni 1974 erstmals in die Schweiz ein und war hier bis 1981 sowie wiederum ab 1984 als Saisonnier tätig. Seit dem 30. April 1988 hat er eine Jahresaufenthaltsbewilligung.
Am 24. August 1989 bewilligte die Fremdenpolizei des Kantons Aargau den Nachzug der Ehefrau B._, geb. 1941, und des Sohnes C._, geb.
** März 1981. Am 31. Juli 1992 meldeten sich die Ehefrau und der Sohn wieder ins Ausland ab. Am 20. Mai 1998 erhielt A._ die Niederlassungsbewilligung. Am 3. Februar 1999 stellte A._ erneut ein Familiennachzugsgesuch für Ehefrau und Sohn. Mit Verfügung vom 11. Mai 1999 hiess die Fremdenpolizei das Gesuch insoweit gut, als sie den Nachzug der Ehefrau bewilligte; den Nachzug des Sohnes C._ verweigerte sie hingegen. Eine gegen diese Verfügung erhobene Einsprache wies die Fremdenpolizei am 16. Juni 1999 ab.
Gegen diesen Einspracheentscheid erhob A._ am 20. Juli 1999 Beschwerde beim Rekursgericht im Ausländerrecht des Kantons Aargau (im Folgenden: Rekursgericht). Mit Entscheid vom 20. April 2001 hiess das Rekursgericht die Beschwerde gut und bewilligte den Familiennachzug von C._.
B.- Gegen den Entscheid des Rekursgerichts hat das Bundesamt für Ausländerfragen beim Bundesgericht Verwaltungsgerichtsbeschwerde erhoben. Es beantragt, den Entscheid des Rekursgerichts aufzuheben und das Nachzugsgesuch für den Sohn C._ abzuweisen.
Der Beschwerdegegner beantragt, auf die Verwaltungsgerichtsbeschwerde nicht einzutreten, eventualiter sie abzuweisen. Die Fremdenpolizei des Kantons Aargau beantragt, die Beschwerde gutzuheissen. Das Rekursgericht beantragt die Abweisung der Beschwerde.

Das Bundesgericht zieht in Erwägung:
1.- a) Das beschwerdeführende Bundesamt ist ermächtigt, letztinstanzliche kantonale Entscheide in den Bereichen des Ausländer- und Bürgerrechts selbständig anzufechten (Art. 14 Abs. 2 der Organisationsverordnung vom 17. November 1999 für das Eidgenössische Justiz- und Polizeidepartement [OV-EJPD; SR 172. 213.1]). Es ist deshalb nach Art. 103 lit. b OG zur Verwaltungsgerichtsbeschwerde legitimiert.
b) Mit der Verwaltungsgerichtsbeschwerde kann die Verletzung von Bundesrecht, einschliesslich Überschreitung oder Missbrauch des Ermessens, sowie die unrichtige oder unvollständige Feststellung des rechtserheblichen Sachverhaltes gerügt werden (Art. 104 lit. a und b OG). Ausgeschlossen ist die Rüge, der angefochtene Entscheid sei unangemessen (Art. 104 lit. c OG). Hat - wie hier - eine richterliche Behörde als Vorinstanz entschieden, so ist das Bundesgericht an deren Sachverhaltsfeststellung gebunden, sofern diese nicht offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen ergangen ist (Art. 105 Abs. 2 OG). Damit können nachträgliche Veränderungen des Sachverhalts nicht berücksichtigt werden und sind neue tatsächliche Vorbringen im bundesgerichtlichen Verfahren ausgeschlossen, soweit sie nicht von der Vorinstanz von Amtes wegen hätten beachtet werden müssen und ihre Nichtberücksichtigung auf eine Verletzung wesentlicher Verfahrensbestimmungen hinausläuft (<ref-ruling> E. 5d S. 310, mit Hinweisen; <ref-ruling> S. 99 E. 1c, mit Hinweisen).
c) Das Bundesgericht wendet das Bundesrecht bei der Verwaltungsgerichtsbeschwerde von Amtes wegen an, ohne an die Begründung der Parteibegehren gebunden zu sein (Art. 114 Abs. 1 in fine OG). Es kann die Beschwerde daher auch aus andern als den geltend gemachten Gründen gutheissen oder den Entscheid mit einer Begründung bestätigen, die von jener der Vorinstanz abweicht (<ref-ruling> E. 1b S. 477, 117 Ib 114 E. 4a S. 117, mit Hinweis).
2.- a) Gemäss Art. 17 Abs. 2 Satz 3 ANAG haben ledige Kinder von Ausländern, die in der Schweiz niedergelassen sind, Anspruch auf Einbezug in die Niederlassungsbewilligung ihrer Eltern, wenn sie mit diesen zusammenwohnen und noch nicht 18 Jahre alt sind. Für die Altersfrage beim Familiennachzug gemäss Art. 17 Abs. 2 ANAG kommt es nach der Rechtsprechung auf den Zeitpunkt der Gesuchseinreichung an (<ref-ruling> E. 1f S. 262, mit Hinweis).
Der Beschwerdegegner verfügt seit dem Mai 1998 über die Niederlassungsbewilligung; das Nachzugsgesuch hat er am 3. Februar 1999 gestellt, d.h. knapp sieben Wochen vor dem
18. Geburtstag von C._. Dieser hat demzufolge einen Anspruch auf Einbezug in die Niederlassungsbewilligung seines Vaters.
b) Innerhalb der allgemeinen Schranken von Art. 17 Abs. 2 Satz 3 ANAG ist der Nachzug von gemeinsamen Kindern durch beide Elternteile zusammen grundsätzlich jederzeit zulässig; vorbehalten bleibt einzig das Rechtsmissbrauchsverbot.
Je länger mit der Ausübung des Nachzugsrechtes ohne sachlichen Grund zugewartet wird und je knapper die verbleibende Zeit bis zur Volljährigkeit ist, umso eher kann sich auch bei im Ausland verbliebenen gemeinsamen Kindern zusammenlebender Eltern die Frage stellen, ob wirklich die Herstellung der Familiengemeinschaft beabsichtigt ist oder ob die Ansprüche aus Art. 17 ANAG zweckwidrig für die blosse Verschaffung einer Niederlassungsbewilligung geltend gemacht werden (<ref-ruling> E. 3b S. 333).
Zu prüfen ist daher, ob die Berufung des Beschwerdegegners auf Art. 17 Abs. 2 ANAG als rechtsmissbräuchlich erscheint. Ein Rechtsmissbrauch liegt schon dann vor, wenn das Leben in der Familiengemeinschaft allenfalls eine gewisse Rolle spielen könnte, sich aber aus den Umständen ergibt, dass dieses als Motiv für die Gesuchstellung von verschwindend geringer Bedeutung ist (unveröffentlichtes Urteil vom 25. August 2000 i.S. Jenic, E. 3c).
3.- a) Der Beschwerdegegner begründet die Ausreise seiner Frau und des Sohnes C._ im Sommer 1992 damit, dass sein in Jugoslawien lebender Vater krank gewesen sei und seine Frau ihn habe unterstützen müssen. Sein Vater ist am 30. Oktober 1992 gestorben; damit fiel der ursprüngliche Grund für den Aufenthalt in Jugoslawien dahin. In der Zwischenzeit schloss C._ in seiner Heimat im September 1998 eine Lehre als Autospengler ab. Das erneute Nachzugsgesuch für seinen Sohn hat der Beschwerdegegner knapp sieben Wochen vor dessen 18. Geburtstag gestellt.
b) Das Rekursgericht führt aus, wenn ein Gesuch mehr als einen Monat vor dem 18. Geburtstag des Nachzuziehenden eingereicht werde, so könne im Sinne der Rechtsmissbrauchsvermutung nicht mehr von einem Gesuch gesprochen werden, welches kurz vor Erreichen der gesetzlichen Altersgrenze eingereicht worden sei. Diese Annahme trifft offensichtlich nicht zu:
Dass mit einem Gesuch vorrangig die Zusammenführung der Familie angestrebt wird, erscheint zwar umso weniger glaubwürdig, je länger mit der Ausübung des Nachzugsrechts zugewartet wurde und je näher das Alter des Kindes an der Grenze von 18 Jahren liegt (unveröffentlichtes Urteil vom 25. August 2000 i.S. Jenic, E. 3b/aa). Eine feste Alterslimite für die Vermutung eines Rechtsmissbrauchs gibt es indessen nicht; auch ein Gesuch, das zwei, drei oder sogar mehr Monate vor Erreichen des 18. Altersjahrs gestellt wurde, kann unter Umständen rechtsmissbräuchlich sein.
c) Der Hauptgrund für die Trennung der Fami-lie - die Pflegebedürftigkeit des Grossvaters von C._ - ist schon ein paar Monate nach der Ausreise von Ehefrau und Sohn des Beschwerdegegners dahingefallen.
Der Beschwerdegegner hätte daher schon Ende 1992 ein erneutes Nachzugsgesuch für Frau und Kind stellen können.
Es mag zwar zutreffen, dass es für den Beschwerdegegner als IV-Rentner nicht einfach gewesen wäre, eine entsprechende Wohnung zu finden; indessen ist kaum anzunehmen, dass er, hätte er sich genügend bemüht, während über sechs Jahren keine solche gefunden hätte. Es ist aus integrationspolitischer Sicht nicht erwünscht, dass Kinder (zumal solche, die bereits während einer längeren Zeit hier in die Schule gegangen sind), wesentliche Teile ihrer verbleibenden Schulzeit sowie die Lehre im Ausland absolvieren, um dann zwecks Ausübung ihres Berufes kurz vor der Altersgrenze in die Schweiz zurückzureisen. Ein solches Vorgehen entspricht nicht dem Sinn des Familiennachzugs, sofern die Möglichkeit einer früheren Einreise bestand. Dies trifft hier zu: Zwar verfügte der Beschwerdegegner vor 1998 noch nicht über die Niederlassungsbewilligung und damit nicht über einen eigentlichen Anspruch auf Familiennachzug; nachdem ihm aber der Kanton Aargau den Nachzug von Frau und Sohn schon einmal bewilligt hatte, ist doch wahrscheinlich, dass ein erneutes, bald nach dem Tod des Vaters gestelltes Gesuch bewilligt worden wäre.
Das Stellen des Nachzugsgesuchs sechs Jahre nach dem Tod des Vaters des Beschwerdegegners, nach erfolgter Ausbildung von C._ und nur ca. sieben Wochen vor dessen 18. Geburtstag lässt somit darauf schliessen, dass es dem Beschwerdegegner auch um das wirtschaftliche Fortkommen seines Sohnes gegangen ist.
d) Es fragt sich, ob die Zusammenführung der Gesamtfamilie für den Beschwerdegegner - neben den wirtschaftlichen Motiven - nur von verschwindend geringer Bedeutung gewesen ist.
Wäre C._ während der sechs Jahre seines Aufenthalts in Jugoslawien (bis zur Gesuchstellung) ohne seine Eltern, z.B. unter der Obhut einer seiner beiden in Jugoslawien verbliebenen Schwestern, aufgewachsen, so hätte das erneute Nachzugsgesuch wohl als rechtsmissbräuchlich gelten müssen (vgl. unveröffentlichtes Urteil vom 25. August 2000 i.S. Jenic, E. 3b/aa, wo der Beschwerdegegner seine Tochter fast bis zum Erreichen der Volljährigkeit durch die Grosseltern in Serbien hatte erziehen lassen). Der vorliegende Fall liegt jedoch anders: die Ehefrau des Beschwerdegegners nahm im Sommer 1992 den Sohn C._ mit in ihre Heimat, als sie die Betreuung ihres Schwiegervaters übernahm, und verzichtete in den folgenden Jahren auf einen wesentlichen Teil ihres Ehelebens, um sich der Erziehung von C._ zu widmen; der Beschwerdegegner seinerseits besuchte die Familie zwei- bis dreimal im Jahr. Damit zeigt sich, dass das Familienleben für den Beschwerdegegner eine wichtige Rolle spielte. Bezeichnenderweise hat er das Familiennachzugsgesuch gleichzeitig für die Ehefrau und den Sohn gestellt. Es kann daher aus dem Verhalten des Beschwerdegegners nicht der Schluss gezogen werden, das Familienleben sei für ihn nur von verschwindend geringer Bedeutung. Auch aus der ausführlichen Befragung des Ehepaares durch das Rekursgericht am 2. März 2001 kann kein solcher Schluss gezogen werden.
e) Es liegt damit kein Rechtsmissbrauch vor. Der angefochtene Entscheid hält daher - auch wenn die Begründung des Rekursgerichts nicht in allen Punkten überzeugt - im Ergebnis vor Bundesrecht stand.
4.- Die Verwaltungsgerichtsbeschwerde ist nach dem Gesagten abzuweisen. Bei diesem Verfahrensausgang sind keine Kosten zu erheben (Art. 156 Abs. 2 OG). Das Bundesamt für Ausländerfragen hat dem anwaltlich vertretenen Beschwerdegegner eine Parteientschädigung auszurichten (Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Es werden keine Kosten erhoben.
3.- Das Bundesamt für Ausländerfragen hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 1'800.-- zu entschädigen.
4.- Dieses Urteil wird den Parteien sowie der Fremdenpolizei und dem Rekursgericht im Ausländerrecht des Kantons Aargau schriftlich mitgeteilt.
_
Lausanne, 30. August 2001
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Die Gerichtsschreiberin: