Sachverhalt: A. Der aus Serbien stammende X._, geb. 18. Juli 1980, heiratete im Februar 2004 die in der Schweiz niedergelassene mazedonische Staatsangehörige Y._ (geb. 1982), worauf ihm die Aufenthaltsbewilligung im Rahmen des Ehegattennachzugs erteilt wurde. Das Ehepaar hat einen am 5. September 2005 geborenen Sohn und die Ehefrau erwartete auf Mitte 2008 ein weiteres Kind. Am 29. November 2005 wurde X._ in Deutschland zusammen mit zwei Komplizen wegen des Verdachts auf Drogenhandel verhaftet. Mit rechtskräftigem Urteil vom 10. Mai 2006 sprach ihn das Amtsgericht Lörrach schuldig der "Beihilfe zum unerlaubten Handeltreiben mit Betäubungsmitteln in nicht geringer Menge in Tateinheit mit Beihilfe zur unerlaubten Einfuhr von Betäubungsmitteln in nicht geringer Menge" und verurteilte ihn zu einer Freiheitsstrafe von zwei Jahren und drei Monaten. Nach Verbüssung dieser Strafe kehrte X._ am 31. Januar 2007 in die Schweiz zurück. B. Mit Verfügung vom 8. Oktober 2007 wies das Amt für Bevölkerung und Migration des Kantons Freiburg das Gesuch von X._ um Erteilung der Aufenthaltsbewilligung ab und wies ihn an, das Kantonsgebiet innert 30 Tagen zu verlassen. Zur Begründung führte es an, die ursprüngliche Aufenthaltsbewilligung sei wegen Auslandaufenthalts von mehr als sechs Monaten erloschen und die Erteilung einer neuen Bewilligung komme mit Blick auf die Verurteilung wegen Drogendelikten nicht in Frage. Mit Urteil vom 3. April 2008 wies das Kantonsgericht Freiburg, I. Verwaltungsgerichtshof, eine von X._ und Y._ hiegegen gerichtete Beschwerde ab. C. Mit Eingabe vom 15. Mai 2008 erheben X._ und Y._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, das Urteil des Kantonsgerichts aufzuheben und X._ die Aufenthaltsbewilligung zu erteilen, eventualiter die Angelegenheit an die Vorinstanz oder an das kantonale Amt für Bevölkerung und Migration zurückzuweisen mit der Auflage, X._ eine Aufenthaltsbewilligung zu erteilen. Das Amt für Bevölkerung und Migration des Kantons Freiburg beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Das Kantonsgericht Freiburg und das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. D. Dem von den Beschwerdeführern gestellten Gesuch um aufschiebende Wirkung wurde mit Verfügung des Abteilungspräsidenten vom 23. Mai 2008 entsprochen.