Sachverhalt:
A.
A.a. Der serbische Staatsangehörige A.A._ (geb. 1966), der der ethnischen Minderheit der Roma angehört, ist seit dem 7. Juni 1993 mit der polnischen Staatsangehörigen B.A._ verheiratet. Aus dieser Ehe sind sechs Kinder hervorgegangen: C.A._ (geb. 1993), D.A._ (geb. 1994), E.A._ (geb. 1996), F.A._ (geb. 1997), G.A._ (geb. 2001) und H.A._ (geb. 2008). Die Kinder besitzen ebenfalls die polnische Staatsangehörigheit. Die Familie lebte zunächst längere Zeit in Deutschland, wo A.A._ verblieb, als seine Ehefrau und Kinder im Jahr 2002 nach Polen reisten.
Während seines Aufenthalts in Deutschland zwischen 1995 und Juni 2006 wurde A.A._ wiederholt straffällig:
- In den Jahren 1996 bis 1999 wurde er fünf Mal u.a. wegen Diebstahls und Urkundenfälschung zu Geldstrafen und einer dreimonatigen Freiheitsstrafe verurteilt.
- Am 28. Mai 2001 verurteilte ihn das Amtsgericht Berlin-Tiergarten wegen Hehlerei in sechs Fällen zu einer Freiheitsstrafe von einem Jahr.
- Am 16. Dezember 2002 folgte eine Verurteilung zu 22 Monaten Freiheitsstrafe wegen Urkundenfälschung und Betrugs in 19 Fällen und am 18. Februar 2004 kam es zu einer Verurteilung zu einer Freiheitsstrafe von viereinhalb Jahren wegen (versuchten) Betrugs in insgesamt 35 Fällen, worauf das Landgericht Berlin 2006 eine Gesamtstrafe von fünf Jahren und drei Monaten fällte.
A.A._ wurde am 21. Juni 2006 von Deutschland nach Serbien abgeschoben. In Deutschland besteht nach wie vor ein Haftbefehl zum Vollzug einer Reststrafe von 808 Tagen.
A.b. Am 14. Februar 2007 reiste A.A._ mit seiner Familie in die Schweiz ein und stellte ein Asylgesuch, welches das Bundesverwaltungsgericht mit Urteil vom 10. August 2011 letztinstanzlich abwies.
A.A._ wurde auch in der Schweiz straffällig:
- 25. Oktober 2007: Verurteilung durch das Verhöramt Obwalden zu 600 Stunden gemeinnütziger Arbeit, bedingt vollziehbar, und zu einer Busse von Fr. 1'000.-- wegen Diebstahls und Hehlerei.
- 2. Juli 2009: Verurteilung durch die Staatsanwaltschaft des Kantons Solothurn zu vier Monaten Freiheitsstrafe bedingt und zu einer Busse von Fr. 400.-- wegen mehrfacher Widerhandlungen gegen das Ausländergesetz, das Strassenverkehrsgesetz und das Umweltschutzgesetz.
- Mit Strafbefehlen vom 16. November 2011 und 1. Februar 2012 wurde er zu geringfügigen Bussen wegen Ungehorsams gegen amtliche Verfügungen verurteilt.
- 13. Juni 2012: Verurteilung durch das Tribunal régional Jura bernois-Seeland Moutier zu einer Geldstrafe von 50 Tagessätzen wegen einfacher Körperverletzung und Ungehorsams gegen amtliche Verfügungen.
- Seit dem 15. Januar 2013 befindet sich A.A._ in Untersuchungshaft wegen Verdachts auf Einbruchdiebstähle und Hehlerei.
B.
Am 3. August 2009 stellte die Familie A._ beim Amt für Migration und Personenstand des Kantons Bern, Migrationsdienst, ein Gesuch um Erteilung von Aufenthaltsbewilligungen EU/EFTA. Seit November 2010 lebt A.A._ getrennt von seiner Ehefrau und seinen Kindern. Die minderjährigen Kinder stehen unter der Obhut der Mutter. Mit Verfügung vom 20. Dezember 2011 verweigerte das Amt für Migration und Personenstand die Bewilligungen und wies die Familie unter Ansetzung einer Ausreisefrist aus der Schweiz weg.
Die dagegen von der Familie A._ am 23. Januar 2012 erhobene Beschwerde hiess die Polizei- und Militärdirektion des Kantons Bern mit Entscheid vom 24. August 2012 insofern teilweise gut, als sie das Amt für Migration und Personenstand anwies, B.A._ und den fünf Kindern D.A._, E.A._, F.A._, G.A._ und H.A._ eine Aufenthaltsbewilligung EU/EFTA zu erteilen; soweit die Beschwerde A.A._ betraf, wurde sie abgewiesen. Berücksichtigt wurde dabei, dass der von der Sozialhilfe abhängige A.A._ seit 23. November 2010 nicht mehr mit seiner Familie zusammenlebte und straffällig wurde. Erfolglos beschwerte sich A.A._ dagegen beim Verwaltungsgericht des Kantons Bern.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 6. Januar 2014 beantragt A.A._, das Urteil des Verwaltungsgerichts des Kantons Bern vom 20. November 2013 aufzuheben, dem Gesuch um Erteilung der Aufenthaltsbewilligung zu entsprechen, eventualiter die Sache an die erstinstanzliche Behörde zwecks Erteilung der Aufenthaltsbewilligung zurückzuweisen. Die Polizei- und Militärdirektion sowie das Verwaltungsgericht des Kantons Bern und das Bundesamt für Migration (heute: Staatssekretariat für Migration) schliessen auf Abweisung der Beschwerde.

Erwägungen:
1.
1.1. Auf dem Gebiet des Ausländerrechts ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide ausgeschlossen, welche Bewilligungen betreffen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumen (<ref-law>). Für das Eintreten genügt, wenn der Betroffene in vertretbarer Weise dartut, dass potenziell ein Anspruch auf die Bewilligung besteht; ob die jeweiligen Voraussetzungen tatsächlich gegeben sind, bildet Gegenstand der materiellen Beurteilung (<ref-ruling> E. 1.1 S. 179 f., 497 E. 3.3 S. 500 f.).
Der Beschwerdeführer, der mit einer hier aufenthaltsberechtigten EU-Bürgerin verheiratet ist, macht einen Bewilligungsanspruch gestützt auf Art. 7 lit. d des Abkommens zwischen der Schweizerischen Eidgenossenschaft einerseits und der Europäischen Gemeinschaft und ihren Mitgliedstaaten andererseits über die Freizügigkeit [FZA; SR 0.142.112.681] i.V.m. Art. 3 Anhang I FZA geltend. Zumindest für die Beziehung zu seinen noch minderjährigen Kindern kann er sich zudem auf Art. 8 EMRK berufen. Da auch alle weiteren Sachurteilsvoraussetzungen erfüllt sind, ist insoweit auf die Beschwerde einzutreten.
Gemäss <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten jedoch unzulässig gegen Entscheide betreffend die vorläufige Aufnahme. Soweit der Beschwerdeführer beanstandet, dass keine vorläufige Aufnahme angeordnet worden ist und eine Verletzung von Art. 83 AuG rügt, kann auf seine Beschwerde nicht eingetreten werden.
1.2. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280 mit Hinweis). Hinsichtlich der Verletzung von Grundrechten, darin eingeschlossen solcher, die sich aus Völkerrecht ergeben, gilt eine qualifizierte Rügepflicht (<ref-law>; <ref-ruling> E. 2.2 S. 232; <ref-ruling> E. 1.6 S. 280 f.).
1.3. Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (<ref-law>; <ref-ruling> E. 10.1 S. 445 mit Hinweisen). Die betroffene Person muss rechtsgenügend dartun, dass und inwiefern der festgestellte Sachverhalt in diesem Sinne mangelhaft erscheint und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 i.V.m. Art. 42 Abs. 2 und <ref-law>; vgl. <ref-ruling> E. 1.4.3 S. 254 f.; <ref-ruling> E. 1.3 S. 351 f.). Rein appellatorische Kritik an der Sachverhaltsermittlung und an der Beweiswürdigung genügt den Begründungs- bzw. Rügeanforderungen nicht (<ref-ruling> E. 10.1 S. 445 mit Hinweisen).
2.
2.1. Der Beschwerdeführer hat als Ehegatte einer EU-Bürgerin gestützt auf das Freizügigkeitsrecht grundsätzlich einen Anspruch auf eine Aufenthaltsbewilligung, solange die Ehe formell fortbesteht (Art. 7 lit. d i.V.m. Art. 3 Anhang I FZA; Urteil des EuGH vom 13. Februar 1985 C-267/83 Diatta, Rec. 1985 S. 567; <ref-ruling> E. 8 S. 127 ff.). Dieses Recht steht indessen unter dem Vorbehalt des Rechtsmissbrauchs (<ref-ruling> E. 9 S. 129 ff.); fehlt der Wille zur Gemeinschaft und dient das formelle Eheband ausschliesslich (noch) dazu, die ausländerrechtlichen Zulassungsvorschriften zu umgehen, fällt der Anspruch dahin (Urteil 2C_886/2011 vom 28. Februar 2012 E. 3.1 mit Hinweis). Die Vorinstanz erwog, dass bei einem rund drei Jahre dauernden Getrenntleben ohne konkrete Anhaltspunkte auf eine baldige Wiederaufnahme des Zusammenlebens die Annahme nahe liegt, dass die Ehe nur noch formell besteht. Dass die Ehegatten bisher keine Scheidungsabsichten äusserten, ändert daran nichts. Die Vorinstanz durfte die Frage indessen offen lassen und somit auf eine persönliche Befragung der Eheleute ohne Gehörsverletzung verzichten, da selbst bei Vorliegen eines grundsätzlichen Bewilligungsanspruchs des Beschwerdeführers - wie nachfolgend dargelegt - die Voraussetzungen für eine Bewilligungsverweigerung ohnehin erfüllt sind.
2.2. Gemäss dem gestützt auf Art. 2 FZA massgebenden Art. 42 AuG haben ausländische Ehegatten von in der Schweiz aufenthaltsberechtigten EU-Bürgern Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie mit diesen zusammenwohnen (Art. 42 Abs. 1 AuG i.V.m. Art. 2 FZA). Nach Art. 51 Abs. 1 lit. b AuG erlischt der Anspruch auf Familiennachzug, wenn Widerrufsgründe bestehen. Dies ist der Fall, wenn der Ausländer zu einer längerfristigen Freiheitsstrafe, d.h. zu einer solchen von mehr als einem Jahr, verurteilt worden ist, wobei mehrere unterjährige Strafen nicht zu kumulieren sind (Art. 63 Abs. 1 lit. a i.V.m. Art. 62 lit. b AuG; <ref-ruling> E. 2.1 S. 32 mit Hinweisen). Dabei spielt keine Rolle, ob die Sanktion bedingt, teilbedingt oder unbedingt ausgesprochen wurde (<ref-ruling> E. 2.1 S. 32, 16 E. 2.1 S. 18).
Nach der bundesgerichtlichen Rechtsprechung dürfen grundsätzlich auch Verurteilungen durch ein ausländisches Gericht berücksichtigt werden. Dies jedenfalls dann, wenn es sich bei den infrage stehenden Delikten nach der schweizerischen Rechtsordnung um Verbrechen oder Vergehen handelt und der Schuldspruch in einem Staat erfolgt ist, in dem die Einhaltung der rechtsstaatlichen Verfahrensgrundsätze und Verteidigungsrechte als gesichert gelten kann (Urteile 2C_694/2013 vom 26. März 2014 E. 4.1; 2C_1116/2012 vom 20. Juni 2013 E. 2.4; 2C_264/2011 vom 15. November 2011 E. 3.3; vgl. auch <ref-ruling> E. 4.3.1 S. 29).
2.3. Schliesslich muss die ausländerrechtliche Massnahme angemessen sein (vgl. dazu Art. 96 AuG; <ref-ruling> E. 2.3.1 S. 33 f., 16 E. 2.2.1 S. 19 f.; Urteil 2C_1170/2012 vom 24. Mai 2013 E. 3.2). Entscheidend ist demnach eine Verhältnismässigkeitsprüfung, die gestützt auf die gesamten Umstände des Einzelfalls vorzunehmen ist (<ref-ruling> E. 3.3.4 S. 182). Dabei sind praxisgemäss namentlich die Schwere des Delikts und des Verschuldens des Betroffenen, der seit der Tat vergangene Zeitraum, das Verhalten des Ausländers während diesem, der Grad seiner Integration bzw. die Dauer der bisherigen Anwesenheit sowie die ihm und seiner Familie drohenden Nachteile zu berücksichtigen, wobei gemäss Art. 8 Abs. 2 EMRK eine vergleichbare Interessenabwägung vorzunehmen ist (<ref-ruling> E. 2.1 S. 148 mit Hinweisen). Bei schweren Straftaten und bei Rückfall bzw. wiederholter Delinquenz besteht regelmässig ein wesentliches öffentliches Interesse, die Anwesenheit eines Ausländers zu beenden, der dermassen die öffentliche Sicherheit und Ordnung beeinträchtigt (vgl. das Urteil 2C_903/2010 vom 6. Juni 2011 E. 3.1, nicht publ. in: <ref-ruling>; <ref-ruling> E. 4.4.2 S. 190). Im Falle einer Verurteilung zu einer Freiheitsstrafe von zwei Jahren ist bei erst kurze Zeit bestehender Ehe in der Regel selbst dann kein Aufenthaltstitel mehr zu erteilen, wenn der schweizerischen Ehepartnerin die Ausreise nicht oder nur schwer zuzumuten ist (sogenannte "Reneja-Praxis"; <ref-ruling> E. 2.3 S. 148).
3.
3.1. Der Beschwerdeführer ist in Deutschland im Jahr 2006 zu einer Gesamtfreiheitsstrafe von fünf Jahren und drei Monaten verurteilt worden. Damit ist der Widerrufsgrund nach Art. 63 Abs. 1 lit. a i.V.m. Art. 62 lit. b AuG unbestrittenermassen gegeben.
3.2. Der angefochtene Entscheid gibt die bundesgerichtliche Praxis zutreffend wieder und die Vorinstanz, auf deren Ausführungen ergänzend verwiesen werden kann, hat die auf dem Spiel stehenden Interessen im Rahmen von Art. 63 Abs. 1 lit. a i.V.m. Art. 62 lit. b AuG bzw. Art. 8 Ziff. 2 EMRK in vertretbarer Weise gegeneinander abgewogen:
3.2.1. Nachdem der Beschwerdeführer in Deutschland zu mehrjährigen Freiheitsstrafen verurteilt worden war, wurde er bereits kurz nach seiner Einreise in die Schweiz erneut im Bereich Vermögensdelikte straffällig. Die Vorinstanz ist aufgrund der Höhe und der Anzahl der ausgesprochenen Strafen von einem schweren Verschulden ausgegangen. Abgesehen davon, dass mildernde Umstände bereits bei der Festsetzung des Strafmasses berücksichtigt werden und damit die Gründe, die zur Deliktbegehung geführt haben, im ausländerrechtlichen Verfahren nicht näher abzuklären sind, ist jedenfalls offensichtlich unzutreffend, dass erst der prekäre Status als Asylbewerber in der Schweiz den Beschwerdeführer in die Delinquenz getrieben haben soll. Ist doch erwiesen, dass der Beschwerdeführer bereits vor seiner Einreise während Jahren eine Vielzahl von Delikten begangen hat. Trotz wiederholter Verurteilungen und laufenden Probezeiten hat der Beschwerdeführer weiter delinquiert, womit sein Verhalten von einer nicht hinzunehmenden Geringschätzung der geltenden Rechtsordnung und von einer gewissen Unbelehrbarkeit zeugt. Dass die Vorinstanz in vorweggenommener Beweiswürdigung (<ref-ruling> E. 4.3.2 S. 376; <ref-ruling> E. 5.3 S. 236 f.) darauf verzichtet hat, ein psychiatrisches Gutachten einzuholen, das sich namentlich zur Frage des Rückfallrisikos hätte äussern sollen, ist unter den vorliegenden Umständen nicht zu beanstanden. Von einer Gehörsverletzung kann insofern nicht die Rede sein. Zu Recht ist die Vorinstanz vom Vorliegen einer Rückfallgefahr ausgegangen und hat festgestellt, dass ein gewichtiges öffentliches Interesse an der Entfernung des Beschwerdeführers besteht.
3.2.2. Der Beschwerdeführer ist in seinem Heimatland aufgewachsen und erst im Alter von fast 41 Jahren in die Schweiz eingereist. Seine Aufenthaltsdauer ist insofern zu relativieren, als er sich seit der erstinstanzlichen Abweisung des Asylgesuchs im August 2007 nur aufgrund der aufschiebenden Wirkung der Rechtsmittel in der Schweiz aufhalten konnte. Er ist weder sozial noch beruflich integriert und seit seiner Einreise auf Sozialhilfe angewiesen. Entgegen den Vorbringen des Beschwerdeführers hat ihm die Vorinstanz die Aufenthaltsbewilligung jedoch nicht wegen Sozialhilfeabhängigkeit verweigert, sondern diese hauptsächlich bei der Beurteilung der (mangelnden) Integration des Beschwerdeführers in der Schweiz mitberücksichtigt. Es erübrigt sich daher, auf die diesbezüglich in der Beschwerdeschrift angeführte Rechtsprechung näher einzugehen. Der Beschwerdeführer macht zudem geltend, die Ehegattin habe im Januar 2012 (und somit vor Erteilung ihrer Aufenthaltsbewilligung) eine Anstellung gefunden. Daraus kann er jedoch nichts zu seinen Gunsten ableiten, nachdem er schon lange nicht mehr mit der Ehefrau zusammenlebt und ausschliesslich sein eigener Verbleib zur Diskussion steht. Hingegen zeigt er damit selber auf, dass eine Erwerbstätigkeit entgegen seinen Behauptungen auch während eines hängigen Bewilligungsverfahrens durchaus möglich ist. Weiter ging die Vorinstanz zu Recht davon aus, dass der Beschwerdeführer nach wie vor mit den sozialen und kulturellen Gepflogenheiten seines Heimatlandes vertraut ist und keine spezifischen persönlichen Umstände einer Ausreise nach Serbien entgegenstehen. Was der Beschwerdeführer aus dem Urteil 2C_828/2011 vom 12. Oktober 2012 für sich ableiten will, ist nicht nachvollziehbar, ging es doch dort um einen Ausländer, der in der Schweiz aufgewachsen und im Alter von 19 Jahren ein einziges Mal straffällig geworden war, und damit um einen mit den vorliegenden Verhältnissen keineswegs vergleichbaren Sachverhalt. Die Vorinstanz hat auch die geltend gemachten gesundheitlichen Probleme (Bluthochdruck und depressive Episode im Zusammenhang mit dem hängigen Bewilligungsverfahren) nicht übersehen, jedoch zu Recht befunden, dass sie einer Rückkehr nach Serbien nicht entgegenstehen würden und eine medizinische und psychiatrische Behandlung grundsätzlich auch im Heimatland möglich sei. Was der Beschwerdeführer vorbringt, ist nicht geeignet, den Schluss der Vorinstanz, ihm sei die Rückkehr in sein Heimatland zumutbar, zu erschüttern.
3.2.3. Die Beziehung des Beschwerdeführers zu seinen hier aufenthaltsberechtigten minderjährigen Kindern ist intakt, weshalb sich der Beschwerdeführer diesbezüglich auf Art. 8 EMRK und <ref-law> berufen kann. Wie erwähnt, lebt der Beschwerdeführer seit drei Jahren nicht mehr mit seinen Kindern zusammen und verfügt bloss über ein Besuchsrecht.
Um das Besuchsrecht wahrzunehmen, ist in der Regel nicht erforderlich, dass der ausländische Elternteil über eine Anwesenheitsbewilligung in der Schweiz verfügt. Unter dem Gesichtspunkt des Anspruchs auf Familienleben (Art. 8 Ziff. 1 EMRK sowie <ref-law>) ist es grundsätzlich ausreichend, wenn das Besuchsrecht im Rahmen von Kurzaufenthalten vom Ausland her ausgeübt werden kann, wobei allenfalls die Modalitäten des Besuchsrechts entsprechend auszugestalten sind. Für eine Bewilligungserteilung wird neben einem tatsächlich wahrgenommenen Besuchsrecht eine besonders intensive wirtschaftliche Beziehung zwischen dem Kind und dem nicht sorgeberechtigten Elternteil sowie ein tadelloses Verhalten der ausländischen Person vorausgesetzt (vgl. <ref-ruling>5 E. 2.2. S. 319 mit Hinweisen). Finanziell war der Beschwerdeführer bis anhin nicht in der Lage zum Unterhalt der Kinder beizutragen, da er keiner Erwerbstätigkeit nachging. Aufgrund seiner wiederholten Straffälligkeit fehlt es zudem ohnehin am klaglosen Verhalten. Abgesehen davon, dass das Urteil des EGMR Udeh gegen Schweiz vom 16. April 2013 [Nr. 12020/09] kein Grundsatzentscheid darstellt und vielmehr als spezifischer Anwendungsfall der bisherigen Praxis des EGMR erscheint (Urteil 2C_536/2013 vom 30. Dezember 2013 E. 2.5.5 mit Hinweisen, nicht publiziert in: <ref-ruling>), unterscheidet sich der dort beurteilte Sachverhalt in wesentlichen Punkten von den vorliegenden Umständen, weshalb der Beschwerdeführer daraus nichts zu seinen Gunsten abzuleiten vermag und es dazu keiner weiteren Ausführungen bedarf. Im Übrigen hat der Beschwerdeführer bereits früher während mehreren Jahren freiwillig getrennt von seinen Kindern und seiner Ehegattin gelebt, als diese 2002 nach Polen übersiedelten und der Beschwerdeführer allein in Deutschland verblieb. Gegen die Annahme der Vorinstanz, er werde die familiäre Beziehung im Rahmen von gegenseitigen Besuchen und mittels der üblichen Kommunikationsmittel weiter pflegen können, ist somit nichts einzuwenden.
3.2.4. Die Vorinstanz hat aufgrund der dreijährigen Trennung der Ehegatten eine tatsächlich gelebte und intakte eheliche Beziehung verneint und dem Beschwerdeführer insofern die Berufung auf Art. 8 Ziff. 1 EMRK verwehrt. Der Beschwerdeführer behauptet zwar, die Beziehung zur Ehegattin verdichte sich kontinuierlich. Konkrete Anhaltspunkte, die dies belegen und auf eine weiter bestehende eheliche Beziehung bzw. eine Wiederaufnahme des ehelichen Zusammenlebens hindeuten würden, sind jedoch weder dargetan noch ersichtlich. Wie es sich damit verhält, braucht nicht näher geprüft zu werden. Wohl können familiäre Beziehungen dazu führen, dass von der Entfernung eines straffälligen Ausländers abzusehen ist, wenn die Massnahme wegen der Unzumutbarkeit der Ausreise für die Familienangehörigen zu einer Trennung der Familiengemeinschaft führt. Abgesehen davon, dass eine solche Rücksichtnahme angesichts der Vielzahl der begangenen Straftaten, des Verschuldens des Beschwerdeführers, der wiederholten Straffälligkeit und der Rückfallgefahr ohnehin ausser Betracht fiele, führt die Verweigerung des Anwesenheitsrechts des Beschwerdeführers vorliegend nicht zur Trennung der Familiengemeinschaft, da die aufenthaltsberechtigte Ehegattin zusammen mit den Kindern bereits seit mehreren Jahren freiwillig getrennt vom Beschwerdeführer lebt. Ob ihnen die Ausreise mit dem Beschwerdeführer unzumutbar wäre, kann unter diesen Umständen dahingestellt bleiben.
3.3. Zusammenfassend ergibt sich, dass die öffentlichen Interessen an der Entfernung des Beschwerdeführers dessen privates Interesse am Verbleib überwiegen. Die Nichterteilung der Aufenthaltsbewilligung ist verhältnismässig und hält vor Bundesrecht sowie Art. 8 EMRK stand.
4.
4.1. Zu prüfen bleibt, ob - falls vorliegend das Freizügigkeitsabkommen zur Anwendung kommen sollte - auch die sich daraus ergebenden zusätzlichen Anforderungen eingehalten werden. Danach ist zu berücksichtigen, dass eine strafrechtliche Verurteilung nur insoweit als Anlass für einen Bewilligungswiderruf herangezogen werden darf, als die ihr zugrunde liegenden Umstände ein persönliches Verhalten erkennen lassen, das eine gegenwärtige Gefährdung der öffentlichen Ordnung darstellt. Art. 5 Anhang I FZA steht aufenthaltsbeendenden Massnahmen entgegen, die (allein) aus generalpräventiven Gründen verfügt werden. Damit kommt es wesentlich auf das Rückfallrisiko an. Verlangt wird eine nach Art und Ausmass der möglichen Rechtsgüterverletzung zu differenzierende, hinreichende Wahrscheinlichkeit, dass der Ausländer auch künftig die öffentliche Sicherheit und Ordnung stören wird (Art. 5 Abs. 2 Anhang I FZA i.V.m. Art. 3 der Richtlinie 64/221/EWG [ABl. Nr. 56. S. 850]; <ref-ruling> E. 5.3 S. 125 f. mit Hinweisen; Urteil des EuGH vom 27. Oktober 1977 C-30/77 Bouchereau, Slg. 1977 S. 1999 Randnrn. 27 ff.). Je schwerer die möglichen Rechtsgüterverletzungen wiegen, desto niedriger sind die Anforderungen, welche an die hinzunehmende Rückfallgefahr zu stellen sind (Urteil 2C_903/2010 vom 6. Juni 2011 E. 4.3, nicht publ. in: <ref-ruling>; <ref-ruling> E. 4.2 S. 20; je mit Hinweisen).
4.2. Wie dargelegt, wurde der Beschwerdeführer seit 1996 vorerst in Deutschland und danach in der Schweiz regelmässig und teilweise in schwerer Weise straffällig und deshalb gesamthaft zu mehrjährigen Freiheitsstrafen verurteilt. Meistens handelte es sich um Vermögensdelikte, die er während laufender Probezeit beging. Dass ein Ausländer "bloss" wegen Vermögensdelikten verurteilt worden ist, steht Entfernungsmassnahmen auch im Rahmen des FZA nicht entgegen (<ref-ruling> E. 4.3.1 S. 29; Urteile 2C_200/2013 vom 16. Juli 2013 E. 5.4; 2C_839/2011 vom 28. Februar 2012 E. 3.1 mit Hinweis). Weder mehrere Freiheitsstrafen in Deutschland noch in der Schweiz ausgesprochene Verurteilungen und angeordnete Probezeiten vermochten den Beschwerdeführer von der Begehung weiterer Straftaten abzuhalten. Dass es seit dem Urteil vom 13. Juni 2012 zu keiner weiteren Verurteilung mehr kam, vermag noch keine günstige Legalprognose zu begründen. Die angeordnete Probezeit lief bis am 12. Juni 2014, wobei sich der Beschwerdeführer aber bereits seit Januar 2013 wieder in Haft befindet. Von einer nachhaltigen Bewährung kann unter diesen Umständen nicht die Rede sein, selbst wenn die ihm zuletzt vorgeworfenen Straftaten nicht berücksichtigt werden. Bisher ist es dem Beschwerdeführer nicht gelungen, längere Zeit straffrei zu leben. Aufgrund seiner Unbelehrbarkeit erscheint eine erneute Straffälligkeit als wahrscheinlich. Das Verwaltungsgericht hat seinen Entscheid damit nicht auf generalpräventive Überlegungen oder ausschliesslich auf die ausgesprochenen Strafen, sondern auf eine konkrete Risikobeurteilung gestützt und zu Recht eine erhebliche und gegenwärtige Gefährdung bejaht. Die Nichterteilung der Aufenthaltsbewilligung entspricht damit auch den Anforderungen nach Art. 5 Anhang I FZA.
5.
5.1. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann.
5.2. Dem Verfahrensausgang entsprechend wird der unterliegende Beschwerdeführer kostenpflichtig (<ref-law>). Es sind keine Parteientschädigungen geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird dem Beschwerdeführer, dem Amt für Migration und Personenstand des Kantons Bern, der Polizei- und Militärdirektion des Kantons Bern, dem Verwaltungsgericht des Kantons Bern und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 8. Januar 2015
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Dubs