Ausweisung, hat sich ergeben: A.- Der aus dem ehemaligen Jugoslawien (Bosnien-Herzegowina) stammende I._ reiste am 13. März 1980 als Saisonnier in die Schweiz ein. Am 21. November 1983 wurde ihm die Aufenthalts- und am 22. März 1991 die Niederlassungsbewilligung erteilt. I._ ist mit einer Kroatin aus Bosnien-Herzegowina verheiratet und hat zwei erwachsene Kinder. Seit 1990 bezieht er eine volle Invalidenrente bei einem Invaliditätsgrad von 71%. Die Ehefrau ihrerseits erhält eine halbe Invalidenrente. B.- Das Bezirksgericht Kulm verurteilte Nedji Ilic am 11. März 1997 wegen Vergewaltigung zu einer Zuchthausstrafe von drei Jahren. Das Obergericht des Kantons Aargau reduzierte die Strafe mit Urteil vom 18. Dezember 1997 auf zweieinhalb Jahre Zuchthaus. Mit Verfügung vom 23. April 1999 wies die Fremdenpolizei des Kantons Aargau I._ für unbestimmte Zeit aus der Schweiz aus. Die dagegen erhobene Einsprache blieb ohne Erfolg. Auf Beschwerde hin bestätigte das Rekursgericht im Ausländerrecht des Kantons Aargau mit Urteil vom 14. April 2000 die Ausweisungsverfügung. C.- Mit Verwaltungsgerichtsbeschwerde vom 5. Mai 2000 beantragt I._ das Urteil des Rekursgerichtes im Ausländerrecht aufzuheben. Zudem stellt er das Gesuch, der Beschwerde sei die aufschiebende Wirkung zu erteilen. Das Rekursgericht im Ausländerrecht des Kantons Aargau sowie das Bundesamt für Ausländerfragen beantragen die Abweisung der Beschwerde. D.- Der Präsident der II. öffentlichrechtlichen Abteilung hat der Beschwerde mit Verfügung vom 7. Juni 2000 aufschiebende Wirkung zuerkannt.