Familiennachzug, hat sich ergeben:
A.- Der aus Bosnien-Herzegowina stammende X._, geboren 1974, reiste am 31. Mai 1986 im Rahmen des Familiennachzugs in die Schweiz ein und ist im Besitze der Niederlassungsbewilligung.
Am 13. Oktober 1999 heiratete er in Bosnien-Herzegowina die 1978 geborene Y._. Am 25. Oktober 1999 stellte X._ für seine Ehefrau ein Familiennachzugsgesuch. Am 22. November 1999 reiste diese in die Schweiz ein und gelangte am 2. Februar 2000 in der Einwohnergemeinde Z._ zur Anmeldung.
Mit Verfügung vom 6. Juli 2000 wies das Departement des Innern des Kantons Solothurn das Gesuch um Familiennachzug ab. Das Verwaltungsgericht des Kantons Solothurn wies die dagegen erhobene Beschwerde mit Entscheid vom 23. Januar 2001 ab.
B.- Dagegen hat X._ am 28. Februar 2001 beim Bundesgericht Verwaltungsgerichtsbeschwerde erhoben. Er beantragt, den Entscheid des Verwaltungsgerichts aufzuheben und seiner Ehefrau eine Aufenthaltsbewilligung zu erteilen; eventualiter sei die Sache zur Neubeurteilung an das Verwaltungsgericht zurückzuweisen.
Das Amt für öffentliche Sicherheit (für das Departement des Innern) des Kantons Solothurn schliesst auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons Solothurn beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Das Bundesamt für Ausländerfragen beantragt die Abweisung der Beschwerde.
C.- Mit Verfügung vom 29. März 2001 hat der Abteilungspräsident der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt.

Das Bundesgericht zieht in Erwägung:
1.- a) Auf dem Gebiete der Fremdenpolizei ist die Verwaltungsgerichtsbeschwerde unzulässig gegen die Erteilung oder Verweigerung von Bewilligungen, auf die das Bundesrecht keinen Anspruch einräumt (Art. 100 Abs. 1 lit. b OG). Gemäss Art. 4 des Bundesgesetzes vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG; SR 142. 20) entscheidet die zuständige Behörde, im Rahmen der gesetzlichen Vorschriften und der Verträge mit dem Ausland, nach freiem Ermessen über die Bewilligung von Aufenthalt und Niederlassung.
Der Ausländer hat damit grundsätzlich keinen Anspruch auf Erteilung bzw. Verlängerung einer Aufenthaltsbewilligung, es sei denn, er oder seine in der Schweiz lebenden Angehörigen könnten sich auf eine Sondernorm des Bundesrechts oder eines Staatsvertrags berufen, die ihm einen Anspruch auf eine solche Bewilligung einräumt (<ref-ruling> E. 1a S. 62; <ref-ruling> E. 1 S. 427, je mit Hinweisen).
b) Gemäss Art. 17 Abs. 2 ANAG hat der ausländische Ehegatte eines niedergelassenen Ausländers Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, solange die Ehegatten zusammen wohnen. Da Y._ mit ihrem in der Schweiz niedergelassenen Ehemann seit ihrer Einreise am 22. November 1999 zusammenwohnt, hat sie grundsätzlich einen Anspruch auf Erteilung einer Aufenthaltsbewilligung. Auf die Verwaltungsgerichtsbeschwerde ist daher einzutreten. Ob ihr im konkreten Fall eine Aufenthaltsbewilligung zu erteilen ist, ist eine Frage der materiellen Beurteilung (vgl. <ref-ruling> E. 2a S. 158).
2.- a) Mit der Verwaltungsgerichtsbeschwerde kann die Verletzung von Bundesrecht, einschliesslich Überschreitung oder Missbrauch des Ermessens, sowie die unrichtige oder unvollständige Feststellung des rechtserheblichen Sachverhaltes gerügt werden (Art. 104 lit. a und b OG). Ausgeschlossen ist die Rüge, der angefochtene Entscheid sei unangemessen (Art. 104 lit. c OG). Im Fremdenpolizeirecht stellt das Bundesgericht auf die aktuellen tatsächlichen und rechtlichen Umstände ab, ausser wenn eine richterliche Behörde als Vorinstanz entschieden hat. Diesfalls gilt die Regelung von Art. 105 Abs. 2 OG, wonach das Bundesgericht an die Feststellung des Sachverhalts gebunden ist, wenn die richterliche Vorinstanz diesen nicht offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen erhoben hat (<ref-ruling> E. 2a S. 365; <ref-ruling> E. 2 S. 390).
b) Das Bundesgericht wendet das Bundesrecht bei der Verwaltungsgerichtsbeschwerde von Amtes wegen an, ohne an die Begründung der Parteibegehren gebunden zu sein (Art. 114 Abs. 1 in fine OG). Es kann die Beschwerde daher auch aus andern als den geltend gemachten Gründen gutheissen oder den Entscheid mit einer Begründung bestätigen, die von jener der Vorinstanz abweicht (<ref-ruling> E. 1b S. 477, 117 Ib 114 E. 4a S. 117, mit Hinweis).
3.- Der Anspruch gemäss Art. 17 Abs. 2 ANAG erlischt, wenn der Anspruchsberechtigte gegen die öffentliche Ord- nung verstossen hat (Art. 17 Abs. 2 letzter Satz ANAG). Die Voraussetzung für ein Erlöschen des Anspruches ist damit weniger streng als im Fall des ausländischen Ehegatten eines Schweizers oder einer Schweizerin, bei dem nach Art. 7 Abs. 1 letzter Satz ANAG ein Ausweisungsgrund vorliegen muss. Immerhin muss die Verweigerung der Bewilligungsverlängerung nach den allgemeinen Regeln des Verwaltungsrechts verhältnismässig sein; da aber im Vergleich zur Regelung von Art. 7 ANAG bereits geringere öffentliche Interessen für ein Erlöschen des Anspruchs genügen, sind auch die entgegenstehenden privaten Interessen weniger stark zu gewichten als bei einer Ausweisung (BGE <ref-ruling> E. 3a S. 390).
Anspruchsberechtigt im Sinne von Art. 17 Abs. 2 letzter Satz ANAG ist sowohl der hier anwesenheitsberechtigte Ausländer als auch seine Ehegattin, deren Nachzug verlangt wird.
4.- Am 8. Oktober 1999 verurteilte das Bezirksgericht Lenzburg den Beschwerdeführer wegen Gehilfenschaft zu Diebstahl und zu Sachbeschädigung sowie wegen Hehlerei zu einer bedingten Gefängnisstrafe von zwei Monaten und zu einer Busse von Fr. 400.--. Der Beschwerdeführer hatte sich einer Diebesbande als Chauffeur zur Verfügung gestellt, die aus einem Schaufenster elektronische Geräte stahl; er hatte zudem einem der Täter anschliessend ein gestohlenes Natel abgekauft.
Am 20. März 2000 fuhr der Beschwerdeführer an zwei verschiedenen Stellen der Autobahn mit übersetzter Geschwindigkeit, wobei er einmal auf dem Überholstreifen über eine Distanz von 800 - 1000 m einem anderen Wagen mit einem Abstand von fünf Metern bei einer Geschwindigkeit von 128 - 139 km/h folgte. Wegen dieser Vorfälle bestrafte ihn das Bezirksamt Aarau am 26. Juli 2000 mit einer Busse von Fr. 800.--.
Die beschriebenen Straftaten stellen klare Verstösse gegen die öffentliche Ordnung dar.
5.- a) Nach den Ausführungen des Verwaltungsgerichts im angefochtenen Urteil wurde der Beschwerdeführer in der Zeit vom 1. Januar 1996 bis zum 20. November 2000 für Schulden in der Höhe von insgesamt rund Fr. 111'800.-- betrieben, was rechnerisch einen monatlichen Betrag von Fr. 1'895.-- ergebe, der habe in Betreibung gesetzt werden müssen. Ferner seien Verlustscheine in der Höhe von über Fr. 62'000.-- ausgestellt worden; die laufenden Betreibungen würden einen Betrag von rund Fr. 10'350.-- betreffen.
b) Der Beschwerdeführer wirft dem Verwaltungsgericht vor, es habe in Bezug auf diese Zahlen den rechtserheblichen Sachverhalt offensichtlich unrichtig bzw. unvollständig festgestellt, indem es die Gesamtsumme von Fr. 111'800.-- erstens falsch errechnet habe - zähle man alle Betreibungen im erwähnten Zeitraum zusammen, so ergebe sich ein Gesamtbetrag von Fr. 117'603. 30 -, sowie weil es nicht berücksichtigt habe, dass teilweise mehrere Betreibungen sich auf die gleiche Schuld bezogen hätten, was das Bild verfälsche. Er führt aus, man könne ihm daher bloss noch Schulden im Betrage von Fr. 73'848. 05 vorhalten.
Ob die Berechnungen des Beschwerdeführers zutreffen, kann im vorliegenden Fall offen bleiben; jedenfalls bestehen auch mit der von ihm zugestandenen Summe von Fr. 73'848.-- Schulden in erheblicher Höhe.
c) Gemäss bundesgerichtlicher Rechtsprechung stellt unverschuldete Fürsorgeabhängigkeit allein keinen Verstoss gegen die öffentliche Ordnung dar, wohl aber das Nichtbezahlen von Schulden, jedenfalls dann, wenn diese einen bedeutenden Umfang erreichen (BGE <ref-ruling> E. 3b S. 391).
Aus den Akten ergeben sich keine Anhaltspunkte dafür und auch das Verwaltungsgericht macht nicht geltend, dass der Beschwerdeführer je Fürsorgeleistungen bezogen hätte. Hingegen hat er Schulden in nicht unbedeutendem Umfang, von denen er noch nicht viel zurückbezahlt hat. Offensichtlich war er über längere Zeit nicht in der Lage, mit den ihm aufgrund seines Verdienstes zur Verfügung stehenden Mitteln vernünftig umzugehen. Ob dieser Umgang mit Geld geradezu einen selbständigen Verstoss gegen die öffentliche Ordnung darstellt, kann offen bleiben, da der Beschwerdeführer schon mit seinen Straftaten gegen diese verstossen hat.
d) Hingegen stellt sich die Frage, ob der Nachzug von Ehefrau und Kind im vorliegenden Fall die Gefahr von Fürsorgeabhängigkeit für die Beteiligten mit sich bringt (vgl. <ref-ruling> E. 1d S. 87). Es ist denkbar, dass es der Beschwerdeführer ohne Unterstützung der Fürsorgebehörden schafft, seinen Schuldenberg allmählich abzubauen, sei es im Rahmen von freiwilligen Abzahlungsvereinbarungen oder aufgrund einer allfälligen Lohnpfändung. Muss er indessen mit seinem Lohn zusätzlich eine Ehefrau und ein heute erst zehn Monate altes Kind ernähren, wird dies schwieriger, zumal seiner Ehefrau vorderhand eine berufliche Tätigkeit neben der Betreuung des Kindes kaum zumutbar ist. Die Gefahr, dass er und seine Familie eines Tages doch fürsorgeabhängig werden, steigt damit.
e) Angesichts der vom Beschwerdeführer begangenen Delikte sowie des Risikos der Fürsorgeabhängigkeit sind im vorliegenden Fall die Voraussetzungen für einen Familiennachzug nicht erfüllt. Dessen Verweigerung ist somit nicht bundesrechtswidrig.
6.- a) Es kann Art. 8 Ziff. 1 EMRK verletzen, wenn einem Ausländer, dessen Familienangehörige in der Schweiz weilen, die Anwesenheit in der Schweiz untersagt wird.
Vorausgesetzt wird nach ständiger bundesgerichtlicher Rechtsprechung, dass der hier weilende Familienangehörige - wie hier - selber ein gefestigtes Anwesenheitsrecht hat. Soweit im Übrigen die familiäre Beziehung tatsächlich gelebt wird und intakt ist, wird das der zuständigen Behörde in Art. 4 ANAG grundsätzlich eingeräumte freie Ermessen eingeschränkt (<ref-ruling> E. 2b S. 382, mit Hinweisen).
Nach Art. 8 Ziff. 2 EMRK ist ein Eingriff in das nach Ziff. 1 geschützte Rechtsgut statthaft, soweit er gesetzlich vorgesehen ist und eine Massnahme darstellt, die in einer demokratischen Gesellschaft für die nationale Sicherheit, die öffentliche Ruhe und Ordnung, das wirtschaftliche Wohl des Landes, die Verteidigung der Ordnung und zur Verhinderung von strafbaren Handlungen, zum Schutze der Gesundheit und Moral sowie der Rechte und Freiheiten anderer notwendig erscheint (BGE <ref-ruling> E. 5a S. 435).
b) Angesichts der vom Beschwerdeführer begangenen Straftaten sowie der durch einen Familiennachzug erhöhten Gefahr der Fürsorgeabhängigkeit erweist sich die Verweigerung der Aufenthaltsbewilligung an seine Ehefrau im Lichte dieser Rechtsprechung als gerechtfertigt.
c) Der in Art. 13 Abs. 1 BV garantierte Anspruch auf Achtung des Familienlebens entspricht materiell der Garantie von Art. 8 EMRK und gewährt im Bereich des Ausländerrechts keine weiter gehenden Ansprüche (<ref-ruling> E. 7 S. 394).
7.- Die Verwaltungsgerichtsbeschwerde ist nach dem Gesagten abzuweisen. Bei diesem Verfahrensausgang sind die Kosten des bundesgerichtlichen Verfahrens dem Beschwerdeführer aufzuerlegen (Art. 156 Abs. 1 in Verbindung mit Art. 153 und Art. 153a OG).

Demnach erkennt das Bundesgericht:
1.- Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2.- Die Gerichtsgebühr von Fr. 1'000.-- wird dem Beschwerdeführer auferlegt.
3.- Dieses Urteil wird dem Beschwerdeführer, dem Departement des Innern und dem Verwaltungsgericht des Kantons Solothurn sowie dem Bundesamt für Ausländerfragen schriftlich mitgeteilt.
_
Lausanne, 29. Juni 2001
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Die Gerichtsschreiberin: