Ausweisung, hat sich ergeben: A.- Der 1979 geborene, aus dem Kosovo stammende A._ reiste am 4. April 1994 im Alter von knapp 15 Jahren im Rahmen des Familiennachzugs in die Schweiz ein. Seit April 1997 besitzt er die Niederlassungsbewilligung. Am 2. Dezember 1998 verurteilte das Jugendgericht Brugg A._ wegen Vergewaltigung sowie mehrfacher sexueller Handlungen mit einem Kind zu sieben Monaten Einschliessung unter Gewährung des bedingten Strafvollzugs. Mit Verfügung vom 26. August 1999 wies die Fremdenpolizei des Kantons Aargau A._ für die Dauer von fünf Jahren aus der Schweiz aus; am 3. Dezember 1999 wies sie die dagegen erhobene Einsprache ab und änderte zudem die angefochtene Verfügung insoweit ab, als sie A._ für unbestimmte Zeit aus der Schweiz auswies. Diesen Einspracheentscheid focht A._ erfolglos beim Rekursgericht für Ausländerrecht des Kantons Aargau (im Folgenden: Rekursgericht) an. B.- Gegen den Entscheid des Rekursgerichts hat A._ am 1. September 2000 beim Bundesgericht Verwaltungsgerichtsbeschwerde erhoben. Er beantragt, den angefochtenen Entscheid aufzuheben und von einer Ausweisung abzusehen. Die Fremdenpolizei des Kantons Aargau verzichtet auf eine Vernehmlassung und verweist auf die Erwägungen des angefochtenen Entscheids. Das Rekursgericht sowie das Bundesamt für Ausländerfragen beantragen, die Beschwerde abzuweisen.