Sachverhalt:
A.
Der kosovarische Staatsangehörige A.A._ (geb. 1980) reiste erstmals am 10. März 2002 in die Schweiz ein und stellte gleichentags ein Asylgesuch. Dieses wurde am 11. Juni 2002 abgewiesen und A.A._ aus der Schweiz weggewiesen. In der F olge tauchte er zwar unter, konnte jedoch am 25. August 2002 in sein Heimatland zurückgeführt werden.
A.a. A.A._ heiratete am 20. Juli 2007 eine in der Schweiz niederlassungsberechtigte deutsche Staatsangehörige, reiste am 25. Januar 2008 zufolge Familiennachzugs in die Schweiz ein und erhielt am 12. Februar 2008 eine Aufenthaltsbewilligung. Am 25. Mai 2011 trennte sich A.A._ von seiner deutschen Ehefrau. Das Migrationsamt des Kantons Solothurn verlängerte ihm gestützt auf die vormalige eheliche Gemeinschaft von über drei Jahren am 15. Februar 2013 die Aufenthaltsbewilligung. Am 1. April 2014 wurde die Ehe zwischen A.A._ und seiner deutschen Ehefrau geschieden.
A.b. Am 30. Mai 2014 heiratete A.A._ die kosovarische Staatsangehörige B.A._ (geb. 1991) im Kosovo. Bei der Überprüfung des Familiennachzugsgesuchs stiess das Migrationsamt zwar auf Ungereimtheiten, konnte zwischen A.A._ und seiner ersten Ehefrau eine Scheinehe jedoch nicht rechtsgenüglich nachweisen. Deshalb sah das Migrationsamt am 17. April 2015 von einem Widerruf der Aufenthaltsbewilligung von A.A._ ab und trat auf das Familiennachzugsgesuch ein. Am 26. Mai 2015 erhielten B.A._ sowie die beiden gemeinsamen Töchter die Einreiseerlaubnis. Am 15. Juni 2015 reisten sie in die Schweiz ein. A.A._ und B.A._ haben heute drei gemeinsame Kinder: C.A._ (geb. 2012), D.A._ (geb. 2014) und E.A._ (geb. 2017). Alle verfügen über eine Aufenthaltsbewilligung.
A.c. A.A._ trat während seines Aufenthalts in der Schweiz wiederholt strafrechtlich in Erscheinung und wurde wie folgt verurteilt:
Haftstrafe von sechs Tagen, bedingt aufgeschoben bei einer Probezeit von einem Jahr, wegen geringfügigen Diebstahls, begangen am 25. April 2002 (Strafverfügung des Untersuchungsrichteramts des Kantons Solothurn vom 13. Mai 2003);
Geldstrafe von 25 Tagessätzen zu je Fr. 100.--, bedingt aufgeschoben bei einer Probezeit von zwei Jahren, und Busse von Fr. 500.-- wegen Fälschung von Ausweisen, Erschleichung eines Ausweises und Fahrens ohne Führerausweis, begangen in der Zeit vom 25. Januar 2008 bis 5. November 2008 (Strafverfügung der Staatsanwaltschaft des Kantons Solothurn vom 19. Januar 2009);
Busse von Fr. 400.-- wegen einfacher Verletzung der Verkehrsregeln, begangen am 9. April 2014 (Strafbefehl der Staatsanwaltschaft des Kantons Basel-Landschaft vom 27. Mai 2014);
Busse von Fr. 180.-- wegen Missachtens der Sperrfläche ohne Gefährdung und Nichtbeachten des Vorschriftsignals "Einfahrt verboten", begangen am 20. Dezember 2015 (Strafbefehl der Staatsanwaltschaft des Kantons Solothurn vom 15. Januar 2016);
Freiheitsstrafe von 30 Monaten, davon 20 Monate bedingt aufgeschoben bei einer Probezeit von zwei Jahren, wegen Verbrechens gegen das Betäubungsmittelgesetz (SR 812.121), Gehilfenschaft zur Fälschung von Ausweisen und Förderung des rechtswidrigen Aufenthaltes, begangen in der Zeit von Anfang 2015 bis am 10. Februar 2016 (Urteil vom 28. März 2018 des Obergerichts des Kantons Solothurn).
B.A._ ist in der Schweiz nicht strafrechtlich in Erscheinung getreten. A.A._ sowie B.A._ mussten nie von der Sozialhilfe unterstützt werden (Stand: 31. Oktober 2019) und gegen sie bestehen weder Betreibungen noch Verlustscheine (Stand: 30. Oktober 2019).
B.
Nach Gewährung des rechtlichen Gehörs widerrief das Migrationsamt namens des Departements des lnnern des Kantons Solothurn mit Verfügung vom 18. Februar 2020 die Aufenthaltsbewilligungen von A.A._ und B.A._ sowie von deren drei Kindern. A.A._ wurde angewiesen, die Schweiz am Tag seiner Entlassung aus dem Straf- und Massnahmenvollzug zu verlassen. B.A._ sowie die drei Kinder hätten die Schweiz bis am 31. Mai 2020 zu verlassen. Zur Begründung führte das Migrationsamt im Wesentlichen aus, der Widerruf der Aufenthaltsbewilligung von A.A._ sei unter den vorliegenden Umständen verhältnismässig. Durch die abgeleiteten Aufenthaltsbewilligungen entfielen auch die Aufenthaltsbewilligungen von B.A._ und der drei Kinder. Sowohl A.A._ als auch B.A._ sowie den Kindern sei es zumutbar, wieder zusammen im Kosovo zu leben. Die dagegen von der Familie A._ erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Solothurn mit Urteil vom 14. Oktober 2020 teilweise gut. Es bestätigte zwar den Widerruf der Aufenthaltsbewilligung von A.A._ sowie die Wegweisung der Familie A._. Es verlängerte indes die Aufenthaltsbewilligungen von B.A._, C.A._, D.A._ und E.A._ bis zur Entlassung von A.A._ aus dem Straf- und Massnahmevollzug und wies sie am Tag der Entlassung von A.A._ aus dem Straf- und Massnahmevollzug aus der Schweiz weg.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 16. November 2020 gelangen A.A._, B.A._, C.A._, D.A._ und E.A._ an das Bundesgericht. Sie beantragen, es sei festzustellen, dass Ziff. 1 des Dispositivs des Urteils vom 14. Oktober 2020 teilweise nicht mit Beschwerde angefochten werde und folglich die Ziffern 1., 3. und 4. der Verfügung des Departements des lnnern vom 18. Februar 2020 betreffend B.A._, C.A._, D.A._ und E.A._ rechtskräftig aufgehoben respektive abgeändert worden seien. Den vorgenannten Beschwerdeführern sei die Aufenthaltsbewilligung folglich rechtskräftig bis zur Entlassung von A.A._ aus dem Straf- und Massnahmevollzug verlängert worden. In den übrigen Punkten sei das Urteil vom 14. Oktober 2020 aufzuheben und es seien die Aufenthaltsbewilligungen sämtlicher Beschwerdeführer (über die Entlassung von A.A._ hinaus) zu verlängern und die Wegweisungen aufzuheben. Eventualiter sei die Angelegenheit zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Der Abteilungspräsident hat der Beschwerde mit Verfügung vom 23. November 2020 antragsgemäss die aufschiebende Wirkung zuerkannt.
Während sich das Staatssekretariat für Migration vernehmen lässt und die Abweisung der Beschwerde beantragt, verlangen die Vorinstanz und das Migrationsamt, die Beschwerde sei abzuweisen, soweit darauf eingetreten werde.

Erwägungen:
1.
Das Bundesgericht prüft seine Zuständigkeit und die weiteren Eintretensvoraussetzungen von Amtes wegen (<ref-law>) und mit freier Kognition (vgl. <ref-ruling> E. 1; <ref-ruling> E. 1).
1.1. Die frist- (<ref-law>) und formgerecht (<ref-law>) eingereichte Eingabe betrifft eine Angelegenheit des öffentlichen Rechts (<ref-law>) und richtet sich gegen das kantonal letztinstanzliche (<ref-law>), verfahrensabschliessende (<ref-law>) Urteil eines oberen Gerichts (<ref-law>). Die beschwerdeführenden Ehegatten sind Inhaber der elterlichen Sorge. Ihnen steht die Vertretung ihrer Kinder von Gesetzes wegen zu (vgl. <ref-law>). Die Beschwerdeführer sind bereits im kantonalen Verfahren als Parteien beteiligt gewesen und dort mit ihren Anträgen nur teilweise durchgedrungen. Ausserdem sind sie durch das angefochtene Urteil in ihren schutzwürdigen Interessen besonders berührt. Sie sind somit zur Erhebung des Rechtsmittels sowohl im eigenen Namen als auch im Namen ihrer Kinder legitimiert (<ref-law>).
1.2. Das Rechtsmittel ist als Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig (<ref-law>), da der beschwerdeführende Ehemann gestützt auf seine vormalige Ehe mit einer niederlassungsberechtigten deutschen Staatsangehörigen gemäss Art. 50 Abs. 1 lit. a des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer und über die Integration (Ausländer- und Integrationsgesetz, AIG; SR 142.20) einen nachehelichen Anspruch auf Verlängerung seiner Aufenthaltsbewilligung hat und damit über ein gefestigtes Aufenthaltsrecht verfügt (vgl. Bst. A.a hiervor). Die beschwerdeführende Ehefrau und die drei beschwerdeführenden, gemeinsamen Kinder haben im Grundsatz gestützt auf <ref-law> in Verbindung mit Art. 8 EMRK wiederum einen (abgeleiteten) Anspruch auf die Verlängerung der Aufenthaltsbewilligung (vgl. <ref-ruling> E. 6; vgl. auch Bst. A.b hiervor).
1.3. Soweit die Beschwerdeführer beantragen, es sei festzustellen, dass das Urteil vom 14. Oktober 2020 teilweise nicht mit Beschwerde angefochten werde und der beschwerdeführenden Ehefrau und den drei Kindern die Aufenthaltsbewilligungen folglich rechtskräftig bis zur Entlassung des beschwerdeführenden Ehemanns aus dem Straf- und Massnahmevollzug verlängert worden sei, handelt es sich um ein Feststellungsbegehren. Feststellungsbegehren sind im bundesgerichtlichen Verfahren zulässig, sofern an der Feststellung ein schutzwürdiges Interesse besteht und dieses nicht ebenso gut mit einem Leistungsbegehren gewahrt werden kann (vgl. <ref-ruling> E. 2c; Urteil 2C_131/2019 vom 27. August 2019 E. 1.1). Diese Voraussetzungen sind vorliegend nicht erfüllt. Aus der Beschwerdebegründung geht hinreichend hervor, dass die Beschwerdeführer das vorinstanzliche Urteil nur in dem Umfang anfechten, als ihnen die Aufenthaltsbewilligungen ab dem Zeitpunkt der Entlassung des beschwerdeführenden Ehemanns aus dem Straf- und Massnahmevollzug nicht verlängert worden sind und sie die Schweiz am Tag seiner Entlassung verlassen müssen. Das Interesse an der beantragten Feststellung wird folglich bereits mit dem Leistungsbegehren um (teilweise) Aufhebung des vorinstanzlichen Urteils gewahrt. Auf das Feststellungsbegehren ist demzufolge nicht einzutreten.
1.4. Insofern sich die Beschwerdeführer gegen ihre Wegweisung zur Wehr setzen, ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht zulässig (<ref-law>), wobei grundsätzlich die subsidiäre Verfassungsbeschwerde offensteht (<ref-law>). Da sich die Fragen im Zusammenhang mit der Wegweisung vorliegend auch bei der Verhältnismässigkeitsprüfung des Widerrufs und der Nichtverlängerung der Aufenthaltsbewilligungen stellen, sind diese indes ebenso im Rahmen der Beschwerde in öffentlich-rechtlichen Angelegenheiten zu beurteilen. Auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist im Umfang des Aufhebungs- und eventualiter gestellten Rückweisungsbegehrens einzutreten.
2.
Mit der Beschwerde kann namentlich die Verletzung von Bundes- und Völkerrecht gerügt werden (<ref-law>). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), wobei es - unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (<ref-law>) - grundsätzlich nur die geltend gemachten Vorbringen prüft, sofern allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (vgl. <ref-ruling> E. 1.5; <ref-ruling> E. 1.4.1). Der Verletzung von Grundrechten geht das Bundesgericht nur nach, falls eine solche Rüge in der Beschwerde vorgebracht und ausreichend begründet worden ist (<ref-law>; vgl. <ref-ruling> E. 1.2.2; <ref-ruling> E. 2.2). Diese qualifizierte Rüge- und Begründungsobliegenheit nach <ref-law> verlangt, dass in der Beschwerde klar und detailliert anhand der Erwägungen des angefochtenen Entscheids dargelegt wird, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (vgl. <ref-ruling> E. 1.4; <ref-ruling> E. 1.4.2). Seinem Urteil legt das Bundesgericht den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>).
3.
Im vorinstanzlichen und bundesgerichtlichen Verfahren unbestritten ist der Umstand, dass der Widerrufsgrund von <ref-law> erfüllt ist. Die Vorinstanz erwägt, der beschwerdeführende Ehemann sei mit Urteil des Obergerichts des Kantons Solothurn vom 28. März 2018 zu einer teilbedingten Freiheitsstrafe von 30 Monaten und damit zu einer längerfristigen Freiheitsstrafe im Sinne von <ref-law> verurteilt worden (vgl. E. 3.1 f. des angefochtenen Urteils). Das vorinstanzliche Urteil ist diesbezüglich nicht zu beanstanden (vgl. <ref-ruling> E. 2.1; <ref-ruling> E. 4.5). Die aufenthaltsbeendende Massnahme steht auch nicht mit der strafrechtlichen Landesverweisung im Sinne von <ref-law> (SR 311.0) in Konkurrenz, da die Straftaten, die am 28. März 2018 zur besagten Verurteilung führten, vor dem 1. Oktober 2016 begangen wurden (vgl. Bst. A.c hiervor; <ref-ruling> E. 2.1). Gegenstand des vorliegenden Verfahrens ist demnach die Frage, ob der Widerruf der Aufenthaltsbewilligung des beschwerdeführenden Ehemanns aufgrund seiner Straffälligkeit verhältnismässig ist (vgl. E. 4 hiernach). In einem zweiten Schritt ist zu beurteilen, ob die beschwerdeführende Ehefrau und die drei gemeinsamen Kinder einen eigenständigen Aufenthaltsanspruch haben (vgl. E. 5 hiernach).
4.
Nach Auffassung der Beschwerdeführer ist der Widerruf der Aufenthaltsbewilligung nicht verhältnismässig. Damit sei Art. 8 EMRK verletzt.
4.1. Die Beschwerdeführer bringen vor, die Schwere der begangenen Delikte und die damit verbundenen öffentlichen Interessen an der aufenthaltsbeendenden Massnahme überwögen die persönlichen Interessen des beschwerdeführenden Ehemanns nicht. Ihm sei eine gute Legalprognose gegeben worden. Die Vorinstanz verstosse gegen das Doppelverwertungsverbot, wenn sie die Argumente, welche im Strafurteil vom 28. März 2018 zu einem leichten Verschulden geführt hätten, erneut im Rahmen des ausländerrechtlichen Verfahrens abwäge. Er lebe seit 13 Jahren in der Schweiz, sei arbeitstätig und habe keine Betreibungen oder Schulden. Überdies sei er nie von der Sozialhilfe abhängig gewesen. Er habe sich seit fünf Jahren nichts mehr zuschulden kommen lassen.
4.2. Liegt ein Widerrufsgrund vor, ist zu prüfen, ob die damit verbundene aufenthaltsbeendende Massnahme verhältnismässig ist (vgl. <ref-law>; <ref-law>). Die aufenthaltsbeendende Massnahme kann ausserdem den Anspruch auf Achtung des Privat- und Familienlebens der betroffenen Person tangieren (vgl. <ref-law>; Art. 8 Ziff. 1 EMRK). Die Einschränkung dieses grundrechtlichen Anspruchs bedarf neben einer gesetzlichen Grundlage, welche vorliegend unbestrittenermassen besteht, unter anderem ebenso der Wahrung des Grundsatzes der Verhältnismässigkeit (vgl. <ref-law>; <ref-law> i.V.m. <ref-law>; Art. 8 Ziff. 2 EMRK; <ref-ruling> E. 5.1 f.; <ref-ruling> E. 2.3).
4.2.1. Nach der bundesgerichtlichen Rechtsprechung sind im Rahmen der Verhältnismässigkeitsprüfung bei aufenthaltsbeendenden Massnahmen wegen Straffälligkeit namentlich die Schwere des Verschuldens der ausländischen Person, ihre Rückfallgefahr, die Dauer ihrer bisherigen Anwesenheit in der Schweiz, der Grad ihrer Integration sowie die der betroffenen Person und ihrer Familie mit der Massnahme drohenden Nachteile zu berücksichtigen. Hält sich die ausländische Person bereits seit langer Zeit in der Schweiz auf, soll die Aufenthaltsbewilligung zwar nur mit besonderer Zurückhaltung widerrufen werden, doch ist dies bei wiederholter oder schwerer Straffälligkeit selbst dann nicht ausgeschlossen, wenn sie hier geboren ist und ihr ganzes bisheriges Leben im Land verbracht hat (vgl. BGE <ref-ruling> E. 2.3.1; <ref-ruling> E. 2.2.1).
4.2.2. Ausgangspunkt und Massstab für die ausländerrechtliche Interessenabwägung ist die Schwere des Verschuldens, die sich in der Dauer der verfahrensauslösenden Freiheitsstrafe niederschlägt (vgl. <ref-ruling> E. 4.2; <ref-ruling> E. 3.1). Bemessen wird das ausländerrechtliche Verschulden allerdings nicht nur anhand des für die Anlasstat verhängten Strafmasses. Ausschlaggebend ist vielmehr eine Gesamtbetrachtung des deliktischen Verhaltens bis zum Zeitpunkt des angefochtenen Urteils (vgl. Urteile 2C_852/2020 vom 14. Januar 2021 E. 5.2.2; 2C_787/2018 vom 11. März 2018 E. 3.1.3). Je hochwertiger die von der Rückfallgefahr betroffenen Rechtsgüter sind, desto niedriger sind die Anforderungen an die Wahrscheinlichkeit eines Rückfalls anzusetzen (vgl. <ref-ruling> E. 4.2; <ref-ruling> E. 4.3.1).
4.3. Die Prüfung der Verhältnismässigkeit beinhaltet eine Abwägung zwischen den öffentlichen Interessen an der aufenthaltsbeendenden Massnahme und den persönlichen Interessen des beschwerdeführenden Ehemanns am Verbleib in der Schweiz.
4.3.1. Entgegen der Auffassung der Beschwerdeführer hat die Vorinstanz in ihrem Urteil vom 14. Oktober 2020 keine neuerliche Würdigung des strafrechtlichen Verschuldens vorgenommen. Dem Vorbringen der Beschwerdeführer, die Vorinstanz hätte gegen das Doppelverwertungsverbot verstossen, ist daher nicht zu folgen. Die Vorinstanz hat in tatsächlicher Hinsicht bloss berücksichtigt, dass der beschwerdeführende Ehemann polizeilich observiert worden sei. Ein verdeckter Ermittler habe bei einem "Läufer" des beschwerdeführenden Ehemanns insgesamt drei Drogenscheinkäufe getätigt. Der dritte Scheinkauf sei mittels Observation lückenlos überwacht worden. Ihm würden mengenmässig Betäubungsmitteldelikte von 82.9 g reinem Heroin und 86.2 g reinem Kokain zur Last gelegt. Die Betäubungsmitteldelikte hätten sich nahezu ein Jahr hingezogen. Er habe nicht auf der untersten Hierarchiestufe gehandelt, zumal er jedenfalls seinem Mittäter übergeordnet gewesen sei (vgl. E. 3.5 des angefochtenen Urteils). Der beschwerdeführende Ehemann war bereits fünf Mal strafrechtlich in Erscheinung getreten. Ausserdem umfasste seine Verurteilung vom 28. März 2018 verschiedene Delikte über einen längeren Zeitraum (vgl. Bst. A.c hiervor). Bei einem Strafmass von 30 Monaten und bei einer Gesamtbetrachtung seines deliktischen Verhaltens ist von einem schweren ausländerrechtlichen Verschulden ausgehen (vgl. Urteil 2C_911/2019 vom 6. Februar 2020 E. 7.1.2).
4.3.2. Das Bundesgericht geht ab einem Schwellenwert von 18 g Kokain und 12 g Heroin von einer Gefährdung der Gesundheit vieler Menschen aus (vgl. <ref-ruling> E. 2.1). Die vom beschwerdeführenden Ehemann gesamthaft gehandelte Menge entspricht damit nahezu dem 7-fachen der Menge Heroin und über dem 4-fachen der Menge Kokain, ab der das Bundesgericht von einer Gefährdung der Gesundheit vieler Menschen ausgeht. Folglich gefährdete der beschwerdeführende Ehemann die öffentliche Gesundheit als hochwertiges Rechtsgut mehrfach und in schwerwiegender Weise (vgl. Urteil 2C_487/2020 vom 17. August 2020 E. 5.1). Im Lichte des betroffenen hochwertigen Rechtsguts sind die Anforderungen an die Wahrscheinlichkeit für einen Rückfall gering (vgl. E. 4.2.2 i.f. hiervor). Umstände, aufgrund derer ein bestehendes Restrisiko ausgeschlossen werden könnte, liegen nicht vor. Der beschwerdeführende Ehemann war nicht drogenabhängig, sondern im Drogenhandel tätig, um Geld zu verdienen. Er liess sich auch vom Umstand, dass er bereits damals Vater zweier Kinder war, nicht von straffälligem Verhalten abhalten. Dass er seit seiner letzten Straftat mittlerweile fünf Jahre straffrei blieb, ist sodann im Lichte des straf- und migrationsrechtlichen Verfahrens zu relativieren (vgl. Urteile 2C_852/2020 vom 14. Januar 2021 E. 3.1; 2C_655/2014 vom 10. November 2014 E. 3.2). Im Lichte des Gesagten besteht ein grosses öffentliches Interesse an der aufenthaltsbeendenden Massnahme.
4.3.3. Mit Blick auf das persönliche Interesse des beschwerdeführenden Ehemanns am Verbleib in der Schweiz machen die Beschwerdeführer geltend, er lebe nunmehr 13 Jahre in der Schweiz. Ihm ist zwar zugute zu halten, dass er arbeitstätig ist und keine Betreibungen sowie Schulden hat. Neben der wirtschaftlichen Integration beruft sich der beschwerdeführende Ehemann angesichts seiner Straffälligkeit indes zu Recht nicht auf eine gute soziale und gesellschaftliche Integration. Eine Trennung von seiner Ehefrau und seinen drei Kindern steht ausserdem nicht zur Diskussion (vgl. E. 5 hiernach). Ferner reiste der beschwerdeführende Ehemann - abgesehen von seinem kurzen Aufenthalt im Jahr 2002 - erst im Alter von 28 Jahren in die Schweiz ein. Die prägenden Kindheits-, Jugend- und frühen Erwachsenenjahre verbrachte er im Kosovo. Er ist demzufolge mit der Sprache, der Kultur und den Gepflogenheiten seines Heimatlands vertraut. Er reiste auch während seines Aufenthalts in der Schweiz regelmässig in den Kosovo.
4.3.4. Nach dem Dargelegten überwiegen die grossen öffentlichen Interessen an der aufenthaltsbeendenden Massnahmen die persönlichen Interesse des beschwerdeführenden Ehemanns am Verbleib in der Schweiz. Dass die allgemeinen Lebensumstände im Kosovo ungünstiger sein mögen als in der Schweiz, begründet keine Unzumutbarkeit der aufenthaltsbeendenden Massnahme. Der beschwerdeführende Ehemann ist gesund sowie arbeitsfähig und dürfte sich aufgrund seiner Arbeitserfahrungen und seines jungen Alters in seiner Heimat wirtschaftlich und sozial wieder integrieren können. Die Ausreise ist ihm zumutbar.
5.
Die Beschwerdeführer machen im Weiteren geltend, die beschwerdeführende Ehefrau und die drei Kinder hätten einen eigenständigen Aufenthaltsanspruch, sodass sie auch nach der Entlassung des beschwerdeführenden Ehemanns aus dem Straf- und Massnahmevollzug in der Schweiz bleiben dürften.
5.1. Die Beschwerdeführer bringen vor, gemäss Art. 77 Abs. 1 der Verordnung vom 24. Oktober 2007 über Zulassung, Aufenthalt und Erwerbstätigkeit (VZAE; SR 142.201) bestehe ein Anspruch auf Verlängerung der (abgeleiteten) Bewilligung aus <ref-law> sowie <ref-law>. Ihre Ehe bestehe seit über fünf Jahren und die Familie sei gut integriert. Die Ausreise sei ihnen unzumutbar.
5.2. Gemäss <ref-law> kann nach Auflösung der Ehe oder der Familiengemeinschaft die im Rahmen des Familiennachzugs nach <ref-law> erteilte Aufenthaltsbewilligung des Ehegatten und der Kinder verlängert werden, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und die Integrationskriterien nach <ref-law> erfüllt sind (lit. a) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen.
5.3. In tatsächlicher Hinsicht ist vorliegend unbestritten, dass die Beschwerdeführer ein intaktes Ehe- und Familienleben führen. In <ref-ruling> hat das Bundesgericht erwogen, der Wortlaut von <ref-law> sei klar. Er setze voraus, dass die Familiengemeinschaft aufgelöst worden sei. Dasselbe ergebe sich aus der Bezeichnung des Artikels ("Auflösung der Familiengemeinschaft"; vgl. <ref-ruling> E. 3.3 und E. 3.7). Wie das Staatssekretariat für Migration in seiner Vernehmlassung zu Recht vorbringt, können nach bundesgerichtlicher Rechtsprechung die Bestimmungen zur Auflösung der Familiengemeinschaft - mithin auch <ref-law> - nur zur Anwendung gelangen, wenn die Ehe (definitiv) gescheitert ist. Solches steht vorliegend indes nicht zur Diskussion. Die Situation der beschwerdeführenden Ehefrau und Kinder entspricht nicht derjenigen, welche dem Gesetzgeber vor Augen stand. Die Bestimmungen zur Auflösung der Familiengemeinschaft zielen nach dem gesetzgeberischen Willen darauf ab, die Ehegatten nach der Auflösung der Ehe zu schützen. Sie sollen sich nicht vor das Dilemma gestellt sehen, entweder in einer unzumutbaren ehelichen Gemeinschaft zu verbleiben oder allein in ein gesellschaftliches Umfeld zurückzukehren, wo sie wegen ihrer Trennung oder Scheidung möglicherweise geächtet werden (vgl. <ref-ruling> E. 6.2; <ref-ruling> E. 3.5; <ref-ruling> E. 3.1). Die Beschwerdeführer sehen sich indes nicht vor das Dilemma gestellt, in einer unzumutbaren Ehesituation zu verbleiben oder allein in ihre Heimat zurückzukehren. Sie können zusammen mit ihrem Ehemann und Vater, zu dem sie in die Schweiz gezogen sind und von dessen Aufenthaltsrecht sie ihr eigenes abgeleitet haben, in die gemeinsame Heimat zurückkehren und dort das Familienleben wie bisher weiterführen (vgl. <ref-ruling> E. 3.6). Die beschwerdeführende Ehefrau und die drei Kinder können sich nach dem Gesagten nicht erfolgreich auf <ref-law> berufen.
5.4. Die Ausreise ist der Familie überdies zumutbar (vgl. <ref-law>; Art. 8 EMRK; <ref-law>). Die beschwerdeführende Ehefrau, die die ersten 23 Jahre ihres Lebens im Kosovo verbracht hat, ist erst am 15. Juni 2015 mit den älteren beiden Kinder mit den Jahrgängen 2012 und 2014 in die Schweiz eingereist. Wie ihr Ehemann spricht sie die Sprache und kennt die Kultur sowie die Gepflogenheiten ihres Heimatlands. Aufgrund des kürzeren Aufenthalts in der Schweiz sowie der Ferienaufenthalte im Kosovo dürfte auch das familiäre und soziale Beziehungsnetz im Kosovo intakt sein. Zwar befinden sich entgegen der vorinstanzlichen Auffassung nicht mehr alle Kinder in einem anpassungsfähigen Alter im engeren Sinne. Dieses Kriterium bezieht sich primär auf Kleinkinder (vgl. <ref-ruling> E. 5.4 und E. 6.3.6; <ref-ruling> E. 5.1; <ref-ruling> E. 3c; Urteile 2C_487/2020 vom 17. August 2020 E. 5.2.3; 2C_709/2019 vom 17. Januar 2020 E. 6.2.2; zum anpassungsfähigen Alter im weiteren Sinne vgl. auch Urteile 2C_870/2018 vom 13. Mai 2019 E. 6.3; 2C_730/2018 vom 20. März 2019 E. 6.2.1 f.). Die Kinder sprechen neben Deutsch indes auch ihre Muttersprache. Das neunjährige und sechsjährige Kind sind im Kosovo geboren. Ersteres hat seine ersten Lebensjahre dort verbracht. Das jüngste Kind mit Jahrgang 2017 ist überdies noch nicht schulpflichtig. Zweifellos bringt eine Ausreise für die Familie eine gewisse Härte mit sich. Die familiäre Situation bleibt für die Kinder jedoch unverändert stabil. Insgesamt ist es der Familie daher zumutbar, mit dem beschwerdeführenden Ehemann in die gemeinsame Heimat zurückzukehren und dort das Familienleben weiterzuführen. Es ist daher nicht zu beanstanden, dass die Vorinstanz die (abgeleiteten) Aufenthaltsbewilligungen der beschwerdeführenden Ehefrau sowie der drei Kinder nur bis zur Entlassung des beschwerdeführenden Ehemanns aus dem Straf- und Massnahmevollzug verlängert hat.
6.
Im Ergebnis erweist sich die Beschwerde als unbegründet, weshalb sie abzuweisen ist, soweit darauf eingetreten wird. Diesem Verfahrensausgang entsprechend sind die Kosten des bundesgerichtlichen Verfahrens den Beschwerdeführern aufzuerlegen, wobei die beschwerdeführenden Ehegatten für den Kostenanteil ihrer minderjährigen, beschwerdeführenden Kinder aufzukommen haben (<ref-law>). Parteientschädigungen sind nicht geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern zu gleichen Teilen und unter solidarischer Haftung auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Solothurn und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 31. März 2021
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Zollinger