Nichtverlängerung der Aufenthaltsbewilligung, hat sich ergeben:
A.- Der jugoslawische Staatsangehörige A._, geboren 1971, arbeitete von 1989 an während vier Jahren als Saisonnier in der Schweiz. Am 25. Februar 1993 erhielt er die Jahresaufenthaltsbewilligung. Am 5. August 1994 heiratete A._ eine in der Schweiz niedergelassene Staatsangehörige von Bosnien-Herzegowina. Aus dieser Beziehung gingen ein Sohn, geboren 1994, und eine Tochter, geboren 1996, hervor. Nachdem A._ wiederholt strafrechtlich verurteilt worden war, lehnte es die Fremdenpolizei des Kantons Aargau mit Verfügung vom 28. Februar 2000 und Einspracheentscheid vom 9. Mai 2000 ab, ihm die Aufenthaltsbewilligung zu verlängern. Am 3. November 2000 wies das Rekursgericht im Ausländerrecht des Kantons Aargau eine dagegen erhobene Beschwerde ab.
B.- Mit Verwaltungsgerichtsbeschwerde vom 5. Dezember 2000 an das Bundesgericht beantragt A._, die Fremdenpolizei des Kantons Aargau sei anzuweisen, ihm die Aufenthaltsbewilligung zu erneuern.
Das Rekursgericht im Ausländerrecht und das Bundesamt für Ausländerfragen schliessen auf Abweisung der Beschwerde. Die Fremdenpolizei stellt den Antrag, die Beschwerde abzuweisen, soweit darauf einzutreten sei.
C.- Mit Verfügung vom 11. Januar 2001 hat der Präsident der II. öffentlichrechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung erteilt.

Das Bundesgericht zieht in Erwägung:
1.- a) Nach Art. 100 Abs. 1 lit. b Ziff. 3 OG ist die Verwaltungsgerichtsbeschwerde auf dem Gebiete der Fremdenpolizei unzulässig gegen die Erteilung oder Verweigerung von Bewilligungen, auf die das Bundesrecht keinen Anspruch einräumt.
Gemäss Art. 4 ANAG entscheidet die zuständige Behörde, im Rahmen der gesetzlichen Vorschriften und der Verträge mit dem Ausland, nach freiem Ermessen über die Bewilligung von Aufenthalt oder Niederlassung. Es besteht damit grundsätzlich kein Anspruch auf Erteilung einer Aufenthaltsbewilligung, es sei denn, der Ausländer oder seine in der Schweiz lebenden Angehörigen könnten sich auf eine Sondernorm des Bundesrechts oder eines Staatsvertrags berufen (<ref-ruling> E. 1a, 377 E. 2 S. 381, 425 E. 1; <ref-ruling> E. 1a S. 363 f.; je mit Hinweisen).
b) Gemäss Art. 17 Abs. 2 ANAG hat der Ehegatte eines Ausländers, der im Besitz der Niederlassungsbewilligung ist, Anspruch auf Erteilung der Aufenthaltsbewilligung, solange die Ehegatten zusammen wohnen. Der Beschwerdeführer ist mit einer Staatsangehörigen von Bosnien-Herzegowina verheiratet, welche über die Niederlassungsbewilligung verfügt.
Er lebt mit ihr zusammen und kann sich daher für die Erteilung einer Aufenthaltsbewilligung auf Art. 17 Abs. 2 ANAG berufen. Des Weitern ergibt sich nach der bundesgerichtlichen Rechtsprechung auch aus dem in <ref-law> sowie Art. 8 Ziff. 1 EMRK garantierten Schutz des Familienlebens ein Anspruch auf Erteilung der Aufenthaltsbewilligung für einen Ausländer, dessen Ehefrau oder Kinder ein festes Anwesenheitsrecht, namentlich aufgrund einer Niederlassungsbewilligung, in der Schweiz haben, sofern die familiäre Beziehung tatsächlich gelebt wird (<ref-ruling> E. 2b-c und 7, mit Hinweisen). Auch diese Voraussetzungen sind hier grundsätzlich erfüllt. Auf die Verwaltungsgerichtsbeschwerde ist einzutreten.
Ob im konkreten Fall die Bewilligung verweigert werden durfte, ist Frage der materiellen Beurteilung (<ref-ruling> E. 1, mit Hinweisen).
c) Mit Verwaltungsgerichtsbeschwerde kann die Verletzung von Bundesrecht, einschliesslich Überschreitung oder Missbrauch des Ermessens, sowie die unrichtige oder unvollständige Feststellung des Sachverhalts gerügt werden (Art. 104 lit. a und b OG). Hat - wie hier - eine richterliche Behörde als Vorinstanz entschieden, so ist das Bundesgericht an deren tatsächliche Feststellungen gebunden, es sei denn, diese erwiesen sich als offensichtlich unrichtig oder unvollständig oder seien unter Verletzung wesentlicher Verfahrensvorschriften getroffen worden (Art. 105 Abs. 2 OG).
2.- a) Nach Art. 17 Abs. 2 letzter Satz ANAG erlischt der Anspruch des Ausländers auf Verlängerung seiner Aufenthaltsbewilligung, wenn er gegen die öffentliche Ordnung verstossen hat. Die Voraussetzung für ein Erlöschen des Anspruches ist weniger streng als im Fall des ausländischen Ehegatten eines Schweizers oder einer Schweizerin, bei dem gemäss Art. 7 Abs. 1 letzter Satz ANAG ein Ausweisungsgrund vorliegen muss und unter Beachtung der Kriterien von Art. 16 Abs. 3 ANAV - Schwere des Verschuldens, Dauer der Anwesenheit, persönliche und familiäre Nachteile - eine Verhältnismässigkeitsprüfung gemäss Art. 11 Abs. 3 ANAG stattzufinden hat. Nach Art. 17 Abs. 2 ANAG genügt demgegenüber bereits ein Verstoss gegen die öffentliche Ordnung. Zwar muss auch in diesem Falle die Verweigerung der Bewilligungsverlängerung nach den allgemeinen Regeln des Verwaltungsrechts verhältnismässig sein; da aber bereits geringere öffentliche Interessen für ein Erlöschen des Anspruchs genügen, sind auch die entgegenstehenden privaten Interessen weniger stark zu gewichten als bei einer Ausweisung (<ref-ruling> E. 4a, mit Hinweisen). Eine vergleichbare Interessenabwägung setzt im Übrigen gemäss Art. 8 Ziff. 2 EMRK - bzw. neuerdings Art. 36 in Verbindung mit <ref-law> - auch ein Eingriff in das Recht auf Achtung des Familienlebens voraus (vgl. <ref-ruling> E. 2 S. 5 f., mit Hinweisen).
b) Der Beschwerdeführer beruft sich auf die so genannte Zwei-Jahres-Regel. Dabei handelt es sich um eine Praxis des Bundesgerichts zu Art. 7 Abs. 1 dritter Satz ANAG, wonach die Grenze, von der an in der Regel keine Bewilligungen mehr erteilt werden, bei zwei Jahren Freiheitsstrafe liegt, wenn der mit einer Schweizerin verheiratete Ausländer um eine erstmalige Bewilligung ersucht oder nach bloss kurzer Aufenthaltsdauer die Verlängerung seiner Bewilligung beantragt (<ref-ruling> E. 4b S. 14). Dies gilt selbst dann, wenn dem schweizerischen Ehegatten die Ausreise aus der Schweiz nicht oder nur schwer zugemutet werden kann, so dass ein dauerndes Zusammenleben der Eheleute faktisch verhindert wird. Die Zwei-Jahres-Regel ist aber auf den vorliegenden Fall nicht anwendbar, ist doch der Beschwerdeführer nicht mit einer Schweizerin, sondern mit einer niedergelassenen Ausländerin verheiratet. Da Art. 17 Abs. 2 letzter Satz ANAG, wie dargelegt, weniger strenge Voraussetzungen für ein Erlöschen des Anspruchs verlangt als Art. 7 Abs. 1 dritter Satz ANAG, genügen auch geringfügigere Strafverurteilungen für die Verweigerung einer Aufenthaltsbewilligung.
c) Der Beschwerdeführer hat in der Schweiz immer wieder Straftaten begangen. Insbesondere wurde er 1996 wegen Diebstahls, Sachbeschädigung und Hausfriedensbruchs zu zehn Monaten Gefängnis sowie fünf Jahren Landesverweisung, je mit bedingtem Vollzug, verurteilt. 1998 wurde er unter anderem wegen bandenmässigen Diebstahls, mehrfacher Sachbeschädigung und Hausfriedensbruch mit acht Monaten Gefängnis unbedingt bestraft; der bedingte Strafvollzug der 10-monatigen Gefängnisstrafe wurde widerrufen. Darüber hinaus wurde der Beschwerdeführer aber wiederholt auch wegen kleineren Delikten verurteilt, so mehrmals wegen Strassenverkehrsdelikten. Der Beschwerdeführer hat mit seinen Straftaten gegen die öffentliche Ordnung verstossen, so dass insoweit die Voraussetzung für das Erlöschen des Anspruchs auf Aufenthaltsbewilligung erfüllt ist. Es bleibt die Frage zu prüfen, ob die Verweigerung der Aufenthaltsbewilligung unter Berücksichtigung aller massgeblichen Umstände als verhältnismässig erscheint.
d) Die strafrechtlichen Verurteilungen wiegen schwer. Zunächst gilt dies offensichtlich für die beiden grösseren Bestrafungen mit insgesamt 18 Monaten Gefängnis wegen insbesondere Vermögensdelikten. Aber auch die kleineren Strafen sind insgesamt nicht unbedeutend, obschon sie jeweils für sich genommen nicht als besonders gravierend erscheinen. So lassen die ausgefällten Strafen (wiederholt nicht nur Bussen, sondern auch Freiheitsstrafen) auf eine gewisse Schwere schliessen. Überdies fällt auf, dass sich der Beschwerdeführer durch keine der ausgefällten Strafen beeindrucken bzw. von weiteren Delikten abhalten liess.
Seine deliktische Tätigkeit zieht sich praktisch über die ganze Anwesenheit in der Schweiz hin, datiert doch die erste Verurteilung vom 9. April 1992 und die letzte vom 26. April 2000. Daraus lässt sich durchaus der Schluss ziehen, dass der Beschwerdeführer nicht gewillt scheint, sich an die hiesige Rechtsordnung zu halten. Die bisher letzte Straftat hat er im Übrigen zu einem Zeitpunkt (25. März 2000) begangen, als es die Fremdenpolizei aufgrund seiner Delinquenz bereits erstinstanzlich abgelehnt hatte (Verfügung vom 28. Februar 2000), ihm die Aufenthaltsbewilligung zu verlängern. Der Beschwerdeführer war aber nicht erst dadurch davor gewarnt, seine Aufenthaltsberechtigung in der Schweiz verlieren zu können; bereits die Verurteilung zu fünf Jahren Landesverweisung bedingt im September 1996 musste ihm bewusst gemacht haben, weitere Straftaten würden dazu führen, dass er keine Aufenthaltsbewilligung mehr erhielte.
e) Der Beschwerdeführer kam 1989 im Alter von 18 Jahren als Saisonnier in die Schweiz. 1993 erhielt er die Aufenthaltsbewilligung, womit er doch immerhin eine mehrjährige Anwesenheit in der Schweiz ausweisen kann, was nicht unbeachtlich ist. Dabei ist allerdings auch zu berücksichtigen, dass er sich während dieser Zeit, wie dargelegt, nicht an die hiesige Rechtsordnung hat anpassen können. Da der Beschwerdeführer seine Kindheit und Jugend in der Heimat verbracht hat, ist ihm selbst eine Rückkehr ohne weiteres zumutbar.
In Betracht zu ziehen sind freilich auch die Nachteile, welche die Nichterteilung der Aufenthaltsbewilligung für die Ehefrau des Beschwerdeführers und für die beiden Kinder zur Folge hätte. Die Ehefrau kam 1981 im Alter von 14 Jahren in die Schweiz, wo sie also nunmehr seit über 19 Jahren lebt. Sie ist in Deutschland aufgewachsen und hat keine näheren Verwandten oder sonstige engeren Beziehungen zu ihrer Heimat bzw. erst recht nicht zum Heimatland des Beschwerdeführers.
Eine Ausreise in eines dieser Länder wäre ihr daher nicht ohne weiteres zumutbar. Anders verhält es sich bei den Kindern, die sich noch in einem anpassungsfähigen Alter befinden (vgl. <ref-ruling> E. 3c S. 298 f.).
f) Insgesamt ergibt sich, dass dem bedeutenden sicherheitspolizeilichen Interesse an der Nichtverlängerung der Aufenthaltsbewilligung des Beschwerdeführers ein nicht unwesentliches familiäres Interesse an einer weiteren Anwesenheit in der Schweiz entgegensteht. Die Verweigerung der Aufenthaltsbewilligung wird zwar mit einer - vom Bundesgericht nicht überprüfbaren (vgl. Art. 100 Abs. 1 lit. b Ziff. 4 OG) - Wegweisung verbunden; sie verunmöglicht dem Beschwerdeführer aber nicht, künftig zu Besuchszwecken wieder in die Schweiz einzureisen, falls sich seine Angehörigen dafür entscheiden sollten, hier zu bleiben. Angesichts der wiederholten Straffälligkeit und der unverbesserlichen Verhaltensweise des Beschwerdeführers verletzt der sorgfältig und ausführlich begründete angefochtene Entscheid daher Bundesrecht nicht.
3.- Die Verwaltungsgerichtsbeschwerde erweist sich als unbegründet und ist abzuweisen.
Bei diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (Art. 156 Abs. 1, Art. 153 und 153a OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 2'000.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer, der Fremdenpolizei und dem Rekursgericht im Ausländerrecht des Kantons Aargau sowie dem Bundesamt für Ausländerfragen schriftlich mitgeteilt.
_
Lausanne, 11. April 2001
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Der Gerichtsschreiber: