Sachverhalt:
A.
A.B._ (geb. 1979) ist kosovarischer Staatsangehöriger. Im Oktober 1998 reiste er illegal in die Schweiz ein und stellte ein Asylgesuch. Am 21. Juni 1999 wies das damalige Bundesamt für Flüchtlinge (heute: Staatssekretariat für Migration SEM) sein Gesuch ab, nahm ihn aber gestützt auf einen Bundesratsbeschluss vom 7. April 1999 vorläufig auf. Nach Aufhebung der vorläufigen Aufnahme wurde A.B._ aufgefordert, die Schweiz bis zum 31. Mai 2000 zu verlassen. Dieser Aufforderung kam er nicht nach.
Seit dem Jahr 2000 hielt sich A.B._ wiederholt illegal in der Schweiz auf und wurde mehrfach strafrechtlich verurteilt:
- Strafbefehl des Bezirksamts Lenzburg vom 25. Mai 2000: Busse von Fr. 200.-- wegen Nichteinholens des schweizerischen Führerausweises, festgestellt am 8. Mai 2000;
- Strafbefehl des Bezirksamts Lenzburg vom 18. August 2000: Gefängnisstrafe von sieben Tagen und Busse von Fr. 300.-- wegen Fälschens von Ausweisen und Führens eines Motorfahrzeugs ohne Führerausweis, festgestellt am 20. Mai 2000;
- Urteil des Obergerichts des Kantons Aargau vom 12. März 2002: Zuchthausstrafe von drei Jahren und sechs Monaten sowie unbedingte Landesverweisung von acht Jahren wegen qualifizierter Widerhandlung gegen das Betäubungsmittelgesetz, begangen zwischen Dezember 1999 und September 2000, sowie gegen die Waffengesetzgebung, begangen zwischen August und September 2000;
- Urteil des Gerichtskreises IV Aarwangen-Wangen vom 29. Juli 2004: Gefängnisstrafe von drei Monaten wegen mehrfachen Fälschens von Ausweisen, begangen am 18. Juni 2004, sowie Verweisungsbruchs, begangen im April 2004.
Am 19. August 2004 verfügte das damalige Bundesamt für Zuwanderung, Integration und Auswanderung (IMES; heute Staatssekretariat für Migration SEM) eine Einreisesperre auf unbestimmte Dauer gegen A.B._.
Am 29. November 2007 heiratete A.B._ im Kosovo die eingebürgerte Schweizerin C.B.-D._ (geb. 1987). Das Paar hat zwei Kinder (geb. 2011 bzw. 2013).
B.
C.B.-D._ ersuchte am 8. Januar 2008 erstmals erfolglos um Nachzug des Ehemannes in die Schweiz. Am 15. Juni 2009 stellte sie ein weiteres Nachzugsgesuch.
Am 11. Januar 2011 wurde A.B._ vom Richteramt Solothurn-Lebern wegen rechtswidriger Einreise und rechtswidrigen Aufenthalts, begangen zwischen April und Mai 2010, zu einer Freiheitsstrafe von sechs Monaten verurteilt.
Am 9. Juni 2011 wies das Amt für Migration und Personenstand des Kantons Bern das am 15. Juni 2009 gestellte Gesuch um Familiennachzug ab. Gegen diese Verfügung erhoben A.B._ und C.B. - D._ erfolglos Beschwerde bei der Polizei- und Militärdirektion des Kantons Bern (Entscheid vom 17. Dezember 2012).
Am 4. April 2013 wurde A.B._ wegen Widerhandlungen gegen das Betäubungsmittelgesetz, begangen zwischen Februar und Juni 2007, und gegen die Ausländergesetzgebung, begangen zwischen November 2006 und Juni 2007, zu einer Geldstrafe von 180 Tagessätzen zu je Fr. 10.-- verurteilt.
Mit Urteil vom 11. Juni 2014 wies das Verwaltungsgericht des Kantons Bern die gegen den Entscheid der Polizei- und Militärdirektion des Kantons Bern vom 17. Dezember 2012 erhobene Beschwerde ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 18. August 2014 beantragen A.B._ und C.B.-D._ die Aufhebung des angefochtenen Urteils. Der Migrationsdienst sei zu verpflichten, den Nachzug von A.B._ zu bewilligen, diesem die Einreise in die Schweiz zu gestatten und ihm eine Aufenthaltsbewilligung zu erteilen.
Während das kantonale Migrationsamt auf Vernehmlassung verzichtet, beantragen die Polizei- und Militärdirektion des Kantons Bern, das Verwaltungsgericht des Kantons Bern sowie das Bundesamt für Migration (seit dem 1. Januar 2015: Staatssekretariat für Migration SEM) die Abweisung der Beschwerde.

Erwägungen:
1.
Gegen den kantonal letztinstanzlichen Endentscheid (Art. 86 Abs. 1 lit. d und Abs. 2 sowie Art. 90 BGG) betreffend die Verweigerung des Familiennachzugs ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig, weil die Beschwerdeführer gestützt auf Art. 42 Abs. 1 AuG (SR 142.20) grundsätzlich einen Anspruch auf Erteilung einer Bewilligung geltend machen können (<ref-law> e contrario). Zudem können sich die Beschwerdeführer auf das Recht auf Achtung des Familienlebens nach Art. 8 Ziff. 1 EMRK bzw. <ref-law> berufen. Ob die jeweiligen Voraussetzungen tatsächlich gegeben sind, bildet praxisgemäss Gegenstand der materiellen Beurteilung und ist keine Eintretensfrage (<ref-ruling> E. 1.1 S. 179 f.; Urteil 2C_295/2014 vom 12. Januar 2015 E. 1).
Auf die im Übrigen form- und fristgerecht eingereichte Beschwerde (vgl. Art. 42 und 100 Abs. 1 BGG) der hierzu legitimierten Beschwerdeführer (<ref-law>) ist einzutreten.
2.
2.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und Art. 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (<ref-ruling> E. 3 S. 415). In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rüge- und Substanziierungspflicht (<ref-law>; <ref-ruling> E. 2.2 S. 232; <ref-ruling> E. 2.5 S. 314).
2.2. Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 117). Die beschwerdeführende Partei kann die Feststellung des Sachverhalts unter den gleichen Voraussetzungen beanstanden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>).
3.
3.1. Der Nachzug ausländischer Familienangehöriger von Schweizerinnen und Schweizern wird durch Art. 42 AuG geregelt. Gemäss Art. 42 Abs. 1 AuG hat der ausländische Ehegatte einer Schweizerin Anspruch auf Erteilung und Verlängerung einer Aufenthaltsbewilligung, wenn er mit dieser zusammenwohnt. Nach Art. 51 Abs. 1 lit. b AuG erlischt dieser Anspruch, wenn Widerrufsgründe nach Art. 63 AuG vorliegen. Ein solcher Widerrufsgrund ist gegeben, wenn die ausländische Person zu einer längerfristigen Freiheitsstrafe, d.h. zu einer solchen von mehr als einem Jahr, verurteilt worden ist (Art. 63 Abs. 1 lit. a i.V.m. Art. 62 lit. b AuG; <ref-ruling> E. 2.1 S. 299; <ref-ruling> E. 4.2 S. 381).
Mit der Verurteilung zu einer Freiheitsstrafe von drei Jahren und sechs Monaten im Jahr 2002 hat der Beschwerdeführer 1 den Widerrufsgrund von Art. 63 Abs. 1 lit. a AuG in Verbindung mit Art. 62 lit. b AuG gesetzt. Gemäss Art. 51 ist damit der Anspruch auf Familiennachzug grundsätzlich erloschen.
3.2. Die Verweigerung einer Aufenthaltsbewilligung wegen des Vorliegens von Erlöschensgründen nach Art. 51 AuG setzt eine Verhältnismässigkeitsprüfung voraus (Art. 96 AuG; Urteil 2C_1170/2012 vom 24. Mai 2013 E. 3.2). Da der Beschwerdeführer 1 mit einer Schweizerin verheiratet und Vater von zwei Schweizer Kindern ist, sind vorliegend auch die aus Art. 8 EMRK bzw. <ref-law> abzuleitenden Anforderungen zu berücksichtigen. Diese Bestimmungen garantieren zwar kein Recht auf Aufenthalt in einem bestimmten Staat. Es kann aber das in Art. 8 EMRK bzw. <ref-law> geschützte Recht auf Achtung des Privat- und Familienlebens verletzen, wenn einer ausländischen Person, deren Familienangehörige sich hier aufhalten, die Anwesenheit untersagt und damit ihr Zusammenleben vereitelt wird (<ref-ruling> E. 1.3.1 S. 145; <ref-ruling> E. 2.1 S. 154 f.). Das entsprechende, in Art. 8 EMRK bzw. <ref-law> geschützte Recht ist berührt, wenn eine staatliche Entfernungs- oder Fernhaltemassnahme eine nahe, echte und tatsächlich gelebte familiäre Beziehung einer in der Schweiz gefestigt anwesenheitsberechtigten Person beeinträchtigt, ohne dass es dieser möglich bzw. zumutbar wäre, das entsprechende Familienleben andernorts zu pflegen. Der Anspruch gilt aber auch dann nicht absolut: Nach Art. 8 Ziff. 2 EMRK ist ein Eingriff in das durch Ziff. 1 geschützte Rechtsgut statthaft, soweit er einen Akt bildet, der sich in einer demokratischen Gesellschaft für die nationale Sicherheit, die öffentliche Ruhe und Ordnung, für das wirtschaftliche Wohl des Landes und zur Verhinderung von strafbaren Handlungen, zum Schutz der Gesellschaft und Moral sowie der Rechte und Freiheiten anderer als nötig erweist. Die Konvention verlangt, dass die individuellen Interessen an der Erteilung bzw. am Erhalt des Anwesenheitsrechts und der öffentlichen Interessen an dessen Verweigerung gegeneinander abgewogen werden. Das öffentliche Interesse überwiegt, wenn die Massnahme durch ein "herausragendes soziales Bedürfnis" gerechtfertigt und in Bezug auf das rechtmässig verfolgte Ziel verhältnismässig erscheint bzw. einer "fairen" Interessenabwägung entspricht (zum Ganzen <ref-ruling> E. 2.1 und 2.2 S. 335 f. mit weiteren Hinweisen).
3.3. Eine strafrechtliche Verurteilung verunmöglicht die Erteilung einer (neuen) Aufenthaltsbewilligung nicht zwingend ein für allemal. Soweit der Ausländer, gegen den Fernhaltemassnahmen ergriffen wurden, nach wie vor einen Rechtsanspruch auf Erteilung einer Aufenthaltsbewilligung besitzt und es seinen hier anwesenden nahen Angehörigen nicht zumutbar ist, ihm ins Heimatland zu folgen und dort das Familienleben zu pflegen, kann eine Neubeurteilung angezeigt sein, wenn sich der Betroffene seit der Verurteilung bzw. Strafverbüssung bewährt und er sich über eine angemessene Dauer in seiner Heimat klaglos verhalten hat, so dass eine Integration in die hiesigen Verhältnisse absehbar und eine allfällige Rückfallgefahr vernachlässigbar erscheint (vgl. <ref-ruling> E. 5 S. 504; Urteil 2C_995/2014 vom 11. November 2014 E. 3.3).
Gemäss Rechtsprechung des Bundesgerichts ist für den Zeitpunkt der Neubeurteilung an die Regelung zur Dauer des Einreiseverbots in Art. 67 AuG anzuknüpfen. Hat sich der Betroffene während fünf Jahren im Ausland bewährt, ist es regelmässig angezeigt, den Anspruch auf Familiennachzug neu zu prüfen (Urteile 2C_1224/2013 vom 12. Dezember 2014 E. 5.1.2; 2C_1170/2012 vom 24. Mai 2013 E. 3.4).
4.
4.1. Die Beschwerdeführer machen im Wesentlichen geltend, es bestehe kein erhebliches öffentliches Interesse mehr an der Fernhaltung des Beschwerdeführers 1. Es müsse von einer Bewährung des Beschwerdeführers 1 ausgegangen werden. Die Freiheitsstrafe von drei Jahren und sechs Monaten, zu welcher er im Jahr 2002 verurteilt worden sei, beziehe sich auf Straftaten aus dem Jahr 2000. Auch in Bezug auf die Straftaten, die Anlass zum Strafbefehl vom 4. April 2013 gegeben hätten, sei die Fünfjahresfrist abgelaufen, da die Taten in den Jahren 2006-2007 begangen worden seien. Die Straftaten, die zur Verurteilung des Beschwerdeführers 1 im Jahr 2011 Anlass gegeben hätten, seien rein ausländerrechtlicher Natur und könnten die Verweigerung des Familiennachzugs nicht rechtfertigen.
4.2. Die Beschwerdeführer verkennen, dass der Ablauf der fünfjährigen ausländerrechtlichen Bewährungsfrist nicht automatisch das Dahinfallen der Erlöschensgründe zur Folge hat. Wie die Vorinstanz unter Verweis auf die bundesgerichtliche Rechtsprechung zutreffend ausführt, rechtfertigt zwar der Ablauf der Fünfjahresfrist eine Neubeurteilung des Anspruchs auf Familiennachzug nach den Art. 42 ff. AuG; dies bedeutet aber nicht, dass die früheren Straftaten durch den Zeitablauf bereits derart an Gewicht verloren haben, dass sie als Erlöschensgründe ausser Betracht fallen. Vielmehr ist bei der materiellen Beurteilung eine umfassende Güterabwägung vorzunehmen, wobei die durch den Zeitablauf nachlassende Wirkung der Erlöschensgründe gegen die privaten Interessen der betroffenen Personen abzuwägen ist (2C_1170/2012 vom 24. Mai 2013 E. 3.5.2).
4.3. Die Vorinstanz ist denn auch zu Recht davon ausgegangen, dass die ausländerrechtliche Bewährungsfrist in Bezug auf die im Jahr 2002 ausgesprochene Freiheitsstrafe von drei Jahren und sechs Monaten abgelaufen und eine neue Prüfung vorzunehmen ist. Das Verwaltungsgericht hat jedoch im Rahmen dieser neuen Prüfung erwogen, der Beschwerdeführer 1 habe sich seit seiner Verurteilung wegen massiver Drogendelinquenz im Jahr 2002 nicht klaglos verhalten. Bis ins Jahr 2010 habe er wiederholt gegen die Schweizerische Rechtsordnung verstossen. Im Jahr 2007 sei er zudem erneut im Betäubungsmittelbereich straffällig geworden. Den vorinstanzlichen Sachverhaltsfeststellungen lässt sich ferner entnehmen, dass der Beschwerdeführer 1 die im Jahr 2004 verhängte Einreisesperre wiederholt missachtet hat. Er wurde insgesamt vier Mal in sein Heimatland ausgeschafft, letztmals am 30. September 2010. Im Jahr 2011 wurde er zudem zu einer Freiheitsstrafe von sechs Monaten wegen rechtswidriger Einreise und rechtswidrigem Aufenthalt (begangen im April/Mai 2010) verurteilt.
Das Verhalten des Beschwerdeführers 1 lässt somit gewisse Zweifel daran aufkommen, ob er künftig bereit ist, sich vorbehaltlos an die Schweizerische Rechtsordnung zu halten, wie dies unter den gegebenen Umständen von ihm erwartet werden darf. Hinzu kommt, dass der Beschwerdeführer 1 nicht nachweist, dass er sich seit seiner letzten Ausschaffung am 30. September 2010 im Heimatland wohlverhalten hat. In Anbetracht dieser Umstände ist nicht zu beanstanden, dass die Vorinstanz von einem nach wie vor erheblichen sicherheitspolizeilichen Interesse an der Fernhaltung des Beschwerdeführers 1 ausging.
4.4. Das Verwaltungsgericht hat sich auch einlässlich mit den privaten Interessen der Beschwerdeführer auseinandergesetzt. Von Bedeutung ist in diesem Zusammenhang die familiäre Beziehung des Beschwerdeführers 1 zu seiner hier lebenden Schweizer Ehefrau und seinen beiden Kindern, die ebenfalls das Schweizer Bürgerrecht besitzen. Wie die Vorinstanz zutreffend ausführt, fällt im Rahmen der Interessenabwägung ins Gewicht, dass die Beschwerdeführerin 2 zum Zeitpunkt der Eheschliessung Kenntnis von der deliktischen Vergangenheit des Beschwerdeführers 1 und der bestehenden Einreisesperre hatte und daher nicht ohne Weiteres davon ausgehen konnte, das Familienleben in der Schweiz leben zu können. Zu beachten ist auch, dass die (heute 28-jährige) eingebürgerte Ehegattin des Beschwerdeführers 1 wie er selbst aus dem Kosovo stammt und mit den dortigen Verhältnissen vertraut ist. Gemäss den vorinstanzlichen Sachverhaltsfeststellungen fand die Hochzeit der Beschwerdeführer im Kosovo statt. Die Beschwerdeführerin 2 hat ihren Ehemann dort auch regelmässig besucht. Eine Übersiedlung der Ehefrau und der Kinder in den Kosovo zwecks Familienvereinigung wäre zwar mit Schwierigkeiten verbunden. Jedoch erscheint dies in der Gesamtbetrachtung nicht geradezu unzumutbar, zumal die beiden Kinder des Ehepaares noch in einem anpassungsfähigen Alter sind.
4.5. Unter Würdigung aller Umstände erscheint es derzeit noch vertretbar, wenn das Verwaltungsgericht das öffentliche Interesse an der Fernhaltung des Beschwerdeführers 1 nach wie vor höher gewichtet als die privaten Interessen an seiner dauerhaften Anwesenheit in der Schweiz.
Die Vorinstanz weist jedoch zutreffend darauf hin, dass das öffentliche Fernhalteinteresse mit zunehmendem Zeitablauf an Bedeutung verliert, wenn sich der Beschwerdeführer 1 wohlverhält. Mit Blick auf die Interessenlage erwägt das Verwaltungsgericht, dass sich zu Beginn des Jahres 2016 eine weitere Einschränkung des Anspruchs der Beschwerdeführer nach Art. 42 AuG nicht mehr werde rechtfertigen können, sofern eine intakte familiäre Beziehung vorliege und der Beschwerdeführer 1 sein Wohlverhalten nachweisen könne. Diese Frist erweist sich in der Gesamtbetrachtung als verhältnismässig, werden doch im Januar 2016 fünf Jahre seit der letzten strafrechtlichen Verurteilung (11. Januar 2011), mehr als fünfeinhalb Jahre seit der letzten aktenkundigen Straftat (April/Mai 2010) und etwas über fünf Jahre seit der letzten Ausschaffung des Beschwerdeführers 1 (30. September 2010) vergangen sein.
5.
Dem Dargelegten zufolge ist die Beschwerde unbegründet und damit abzuweisen.
Diesem Ausgang entsprechend haben die Beschwerdeführer die Gerichtskosten von Fr. 2'000.-- zu tragen (<ref-law>). Sie haften für den Gesamtbetrag solidarisch (<ref-law>). Parteientschädigungen werden keine zugesprochen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern unter solidarischer Haftung auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Bern und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 15. Mai 2015
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Petry