Erwägungen:
1.
1.1. Am 31. August 2017 stellte die Swedish Tax Agency (STA) ein Amtshilfegesuch an die Eidgenössische Steuerverwaltung (ESTV) gestützt auf Art. 27 des Abkommens vom 7. Mai 1965 zwischen der Schweizerischen Eidgenossenschaft und dem Königreich Schweden zur Vermeidung der Doppelbesteuerung auf dem Gebiete der Steuern vom Einkommen und vom Vermögen (DBA CH-SE; SR 0.672.971.41). Das Gesuch betrifft die Besteuerung des in Schweden wohnhaften und dort unbeschränkt Steuerpflichtigen A._ für den Zeitraum 1. Januar 2014 bis 31. Dezember 2015. Dieser ist gemäss Sachverhaltsdarstellung im Amtshilfegesuch als IT-Berater in seiner eigenen schwedischen Gesellschaft Y._ tätig. Er hat ein jährliches, von der Y._ erhaltenes Einkommen von SEK 360'000.-- deklariert. Die in Zypern domizilierte X._ hat von der Y._ Dienstleitungen von A._ für SEK 500.-- pro Stunde bezogen. Schwedische Temporärarbeitsvermittler wiederum haben die Dienstleistungen von A._ von der X._ für SEK 1'250.-- pro Stunde in Anspruch genommen. Die X._ war die einzige Kundin der Y._. Sie hat Zahlungen von drei Temporärarbeitsvermittlern in Schweden erhalten. Die STA hat diese Gesellschaften um Kopien der Rechnungen und Vereinbarungen gebeten. Gemäss den Zahlungsbelegen sind die Dienstleistungen, welche A._ erbrachte, von der X._ bezogen worden. Andere Gesellschaften in Schweden, welche kurzfristig einen IT-Berater benötigten, haben die Dienste von A._ zudem über die Temporärarbeitsvermittler bezogen. A._ hat diese Tätigkeiten in Schweden ausgeübt. Die Zahlungen für seine Dienstleistungen sind auf ein Bankkonto der X._ bei der Z._ SA in der Schweiz geleistet worden. Gemäss STA hat A._ seine Arbeit in Schweden für schwedische Kunden ausgeübt. Seine Gesellschaft Y._ hätte die Geschäfte direkt mit den schwedischen Kunden abschliessen können. Die X._ sei in der Transaktionskette überflüssig gewesen. Das schwedische Steuerrecht werde von Beratern oft auf ähnliche Weise umgangen. So sei dasselbe Vorgehen in den Jahren 2011 und 2012 schon einmal mit der X._, jedoch einem anderen IT-Berater, gewählt worden.
1.2. Laut STA hat die X._ für die Kalenderjahre 2014 und 2015 den Temporärarbeitsvermittlern betreffend die Tätigkeit von A._ Rechnungen über SEK 6'369'293.-- gestellt. Die Y._ wiederum hat der X._ Leistungen für SEK 2'325'500.-- verrechnet, was bedeute, dass die X._ einen Gewinn von SEK 4'043'793.-- erzielt habe. Da der Gewinn aus der Tätigkeit von A._ resultiere, vermuteten die Ermittler (der STA), dass letzterer nicht deklariertes Einkommen von der X._ erhalten habe.
Laut STA haben die schwedischen Behörden von A._ und der Y._ je Informationen über seine bzw. ihre Verbindungen zur X._ verlangt, wobei die Antworten vage und unvollständig ausgefallen sind. Zudem hat A._ trotz Aufforderung keine Kopien von Bankunterlagen zu Konten im Ausland eingereicht, die er direkt oder indirekt kontrolliert.
Die STA ersucht für die genannte Zeitspanne um folgende Informationen: Die Kontoeröffnungsunterlagen, Unterschriftsberechtigungsformulare, Kontoauszüge, Anweisungen von A._ oder der für ihn handelnden Person und Zahlungs- oder Überweisungsaufträge (von oder auf die Konten) bezüglich sämtlicher Konten bei der Z._ SA, welche auf den Namen von A._ lauten sowie bezüglich derer A._ unterschriftsberechtigt oder wirtschaftlich Berechtigter ist. Dieselben Informationen werden sinngemäss bezüglich aller Konten bei der Z._ SA bezüglich der X._ verlangt. Die STA bestätigt in ihrem Gesuch unter anderem, dass sie alle verhältnismässigen, innerstaatlichen Mittel ausgeschöpft hat, um in Schweden an die Informationen zu gelangen.
1.3. Mit Schlussverfügung vom 18. Dezember 2017 gab die ESTV dem Ersuchen statt und ordnete die Übermittlung der ersuchten Informationen soweit vorhanden an. Die dagegen von A._ und der X._ gerichtete Beschwerde hiess das Bundesverwaltungsgericht mit Urteil vom 21. November 2018 teilweise gut, in dem es eine Seite aus den zu übermittelnden Informationen aussonderte. Im Wesentlichen wurde die Schlussverfügung der ESTV jedoch bestätigt.
1.4. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 7. Dezember 2018 beantragen A._ (Beschwerdeführer 1) und die X._ (Beschwerdeführerin 2) die Gutheissung der Beschwerde, die Aufhebung des vorinstanzlichen Urteils und der Schlussverfügung der ESTV, die Verweigerung der Amtshilfe, das Vormerk nehmen von bzw. die Erteilung der aufschiebenden Wirkung der Beschwerde sowie eventualiter die Rückweisung der Sache zur Neubeurteilung an die Vorinstanz und subeventualiter dasselbe an die ESTV.
2.
2.1. Vorliegend haben die Beschwerdeführer die vorinstanzliche Sachverhaltsfeststellung nicht gerügt, weshalb von dieser auszugehen ist (Vgl. Art. 97 Abs. 1 und Art. 105 Abs. 1 BGG).
2.2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist unzulässig gegen Entscheide auf dem Gebiet der internationalen Amtshilfe, mit Ausnahme der Amtshilfe in Steuersachen (Art. 83 lit. h BGG). Voraussetzung ist jedoch, dass sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt (Art. 84a BGG) oder es sich aus anderen Gründen um einen besonders bedeutenden Fall im Sinne von Art. 84a i.V.m. Art. 84 Abs. 2 BGG handelt. In der Beschwerde ist detailliert aufzuzeigen, dass und weshalb die jeweilige Sachurteilsvoraussetzung erfüllt ist (Art. 42 Abs. 2 Satz 2 BGG), es sei denn, dies treffe ganz offensichtlich zu (BGE 139 II 404 E. 1.3 S. 410; 139 II 340 E. 4 S. 342).
2.3. Sowohl Art. 84a BGG als auch Art. 84 Abs. 2 BGG bezwecken die wirksame Begrenzung des Zugangs zum Bundesgericht im Bereich der internationalen Amtshilfe in Steuerangelegenheiten. Das Vorliegen einer Rechtsfrage von grundsätzlicher Bedeutung ist regelmässig zu bejahen, wenn der Entscheid für die Praxis wegleitend sein kann, namentlich wenn von unteren Instanzen viele gleichartige Fälle zu beurteilen sein werden. Eine Rechtsfrage von grundsätzlicher Bedeutung ist unter Umständen auch anzunehmen, wenn es sich um eine erstmals zu beurteilende Frage handelt, die einer Klärung durch das Bundesgericht bedarf. Es muss sich allerdings um eine Rechtsfrage handeln, die von ihrem Gewicht her nach einer höchstrichterlichen Klärung ruft. Aber auch eine vom Bundesgericht bereits entschiedene Rechtsfrage kann von grundsätzlicher Bedeutung sein, wenn sich die erneute Überprüfung aufdrängt. Dies kann zutreffen, wenn die Rechtsprechung in der massgebenden Lehre auf erhebliche Kritik gestossen ist. Rechtsfragen von grundsätzlicher Bedeutung können sich ebenfalls nach dem Erlass neuer materiell- oder verfahrensrechtlicher Normen stellen. Das Gleiche gilt, wenn sich aufgrund der internationalen Entwicklungen Fragen von grundsätzlicher Bedeutung stellen (BGE 139 II 404 E. 1.3 S. 410; 139 II 340 E. 4 S. 342 f. mit weiteren Hinweisen).
Ein besonders bedeutender Fall im Sinne von Art. 84 Abs. 2 BGG ist nur mit Zurückhaltung anzunehmen. Diesbezüglich steht dem Bundesgericht ein weiter Ermessensspielraum zu. Gemäss Art. 84 Abs. 2 BGG liegt ein besonders bedeutender Fall insbesondere vor, wenn Gründe für die Annahme bestehen, dass elementare Verfahrensgrundsätze verletzt worden sind oder das Verfahren im Ausland schwere Mängel aufweist. Das Gesetz enthält nach dem ausdrücklichen Wortlaut von Art. 84 Abs. 2 BGG eine nicht abschliessende Aufzählung von möglichen besonders bedeutenden Fällen (BGE 139 II 340 E. 4 S. 342 f.).
Die zu beurteilenden Rechtsfragen müssen schliesslich entscheidrelevant sein. Das Bundesgericht prüft nicht Fragen rein theoretischer Natur, die keine konkrete Auswirkung für die Parteien haben (BGE 142 II 161 E. 3 S. 173; Urteile 2C_275/2017 vom 20. März 2017 E. 2.7; 2C_20/2017 vom 25. Januar 2017 E. 2.1).
3.
3.1. Die Beschwerdeführer machen geltend, die Vorinstanz erachte es unzulässigerweise als genügend, dass die ersuchende Behörde nicht darzulegen brauche, inwiefern sie die üblichen innerstaatlichen Möglichkeiten ausgeschöpft habe. Indem die Vorinstanz ein Amtshilfegesuch zulasse, sobald es kohärent formuliert sei, stelle sie faktisch ein anderes Erfordernis auf als die Ausschöpfung der innerstaatlichen Möglichkeiten gemäss Ziff. 4 lit. a des Protokolls zum DBA CH-SE und Art. 6 Abs. 2 lit. g StAhiG. Dieser Standpunkt werde bestritten und stelle eine Rechtsfrage von grundsätzlicher Bedeutung dar. Im Vorgehen der Vorinstanz erachten die Beschwerdeführer zudem eine Verletzung der genannten Vorschriften und des völkerrechtlichen Verhältnismässigkeitsprinzips.
Die Vorinstanz hat erwogen, Ziff. 4 lit. a des Protokolls zum DBA CH-SE bringe das aus dem Verhältnismässigkeitsprinzip fliessende Subsidiaritätsprinzip zum Ausdruck, wonach ein Amtshilfegesuch die Ausschöpfung der üblichen, innerstaatlichen Mittel zur Informationsbeschaffung voraussetze. Die STA habe im Amtshilfegesuch zwar nicht im Detail dargelegt, welche innerstaatlichen Mittel sie ausgeschöpft habe, jedoch aufgrund ihrer Ausführungen zu den in Schweden eingeholten Informationen, welche die Stellung eines kohärenten Gesuchs erlaubten, und ihrer Erklärung, wonach alle verhältnismässigen, innerstaatlichen Mittel ausgeschöpft wurden, das Subsidiaritätsprinzip erfüllt. Aufgrund des (völkerrechtlichen) Vertrauensprinzips sei auf die genannte Erklärung der STA abzustellen.
3.2. Der Sachverhalt stellt sich anders dar als von den Beschwerdeführern behauptet. Die STA hat nicht bloss ein kohärentes Gesuch gestellt, sondern ihre Bemühungen zur Einforderung gewisser Informationen in Schweden beschrieben und eine Erklärung abgegeben, sämtliche verhältnismässigen, innerstaatlichen Mittel ausgeschöpft zu haben. Abgesehen davon formulieren die Beschwerdeführer keine Frage, sondern bestreiten den angeblichen Standpunkt der Vorinstanz. Wie die konkrete, exakte Rechtsfrage von grundsätzlicher Bedeutung lautet, legen sie nicht dar. Da die Beschwerdeführer sich auf einen anderen als den vorinstanzlich festgestellten Sachverhalt abstützen, weshalb die allfällige Fragestellung sowieso nur theoretischer Natur und damit unzulässig wäre und es zudem an einer klaren Fragestellung mangelt, stellt sich keine Rechtsfrage von grundsätzlicher Bedeutung im Sinne von Art. 84a BGG.
4.
4.1. Weiter bringen die Beschwerdeführer vor, auch Art. 27 Abs. 1 DBA CH-SE sowie Art. 17 Abs. 2 und Art. 7 lit. a StAhiG und damit insbesondere der Begriff der voraussichtlichen Erheblichkeit bedürften einer höchstrichterlichen Klärung. Es herrsche grosse Uneinigkeit darüber, wie dieser Begriff auszulegen sei. Lasse man den Entscheid der Vorinstanz und damit eine derart weitreichende Auslegung dieses Begriffs zu, so werde das Verbot der fishing expedition ausgehebelt.
4.2. Die Beschwerdeführer legen nicht dar, inwiefern genau die Vorinstanz den Begriff der voraussichtlichen Erheblichkeit unzutreffend ausgelegt und angewendet haben soll und welche konkrete Rechtsfrage von grundsätzlicher Bedeutung sich diesbezüglich stellt. Abgesehen davon trifft es nicht zu, dass der Begriff der voraussichtlichen Erheblichkeit allgemein einer höchstrichterlichen Klärung bedarf. Vielmehr hat das Bundesgericht den Begriffsinhalt in mehreren Urteilen in verschiedener Hinsicht konkretisiert und damit weitgehend geklärt (BGE 144 II 206 E. 4 S. 213 ff. mit Hinweisen; 143 II 185 E. 3.3 S. 193 ff. mit Hinweisen; 142 II 161 E. 2 S. 164 ff.; 141 II 436 E. 4.4.3, 4.5 S. 444 ff.; Urteil 2C_387/2016 vom 5. März 2018 E. 5). Es mag sein, dass je nach Ausgangslage gewisse Facetten oder Details des genannten Begriffs noch offen sind, doch setzt eine Klärung eine entsprechend exakte Fragestellung voraus. Auch bezüglich des Begriffs der voraussichtlichen Erheblichkeit stellt sich somit keine Rechtsfrage von grundsätzlicher Bedeutung.
5.
5.1. Im Weiteren behaupten die Beschwerdeführer, die Vorinstanz habe das Subsidiaritätsprinzip missachtet, indem die schwedischen Behörden nicht wie von Ziff. 4 lit. a des Protokolls zum DBA CH-SE und Art. 6 Abs. 2 lit. g StAhiG verlangt zuerst den innerstaatlichen Informationsbeschaffungsweg durchschritten und nicht die schonendste von mehreren zur Verfügung stehenden Massnahmen gewählt hätten; ein Amtshilfegesuch an Zypern wäre laut Beschwerdeführern einfacher und zweckdienlicher gewesen. Aus der behaupteten Verletzung des Subsidiaritätsprinzips schliessen die Beschwerdeführer auf das Vorliegen eines besonders bedeutenden Falles im Sinne der Verletzung grundlegender bzw. elementarer Verfahrensgrundsätze gemäss Art. 84 Abs. 2 BGG.
5.2. Die Berufung auf die Verletzung elementarer Verfahrensgrundsätze öffnet praxisgemäss nur dann den Rechtsweg an das Bundesgericht gemäss Art. 84a i.V.m. Art. 84 Abs. 2 BGG, wenn objektiv gesehen ernsthafte Anhaltspunkte für eine entsprechende Verletzung bestehen (Urteile 2C_261/2016 vom 2. Mai 2016 E. 2.3 und 2.4; 1C_211/2010 vom 25. Mai 2010 E. 4). Dies ist aufgrund des vorinstanzlich festgestellten Sachverhalts nicht der Fall, bestehen doch vorliegend keine Anzeichen, wonach das Subsidiaritätsprinzip verletzt wurde.
6.
Da sich weder eine Rechtsfrage von grundsätzlicher Bedeutung stellt noch aus anderen Gründen ein besonders bedeutender Fall vorliegt, ist auf die Beschwerde nicht einzutreten.
7.
Angesichts des vorliegenden Urteils ist über die Anträge, es sei von der aufschiebenden Wirkung der vorliegenden Beschwerde Vormerk zu nehmen bzw. es sei der Beschwerde die aufschiebende Wirkung zu erteilen, nicht mehr zu befinden. Im Übrigen wären diese Anträge in jedem Fall gegenstandslos, da einer Beschwerde in einem Verfahren auf dem Gebiet der internationalen Amtshilfe in Steuersachen wie von den Beschwerdeführern dargelegt von Gesetzes wegen aufschiebende Wirkung zukommt (Art. 103 Abs. 2 lit. d BGG).
8.
Dem Verfahrensausgang entsprechend haben die unterliegenden Beschwerdeführer die Gerichtskosten zu gleichen Teilen unter solidarischer Haftung zu tragen (Art. 65 und Art. 66 Abs. 1 und 5 BGG). Eine Parteientschädigung ist nicht geschuldet (Art. 68 Abs. 1 und 3 BGG).
Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern auferlegt. Letztere tragen diese Kosten zu gleichen Teilen unter solidarischer Haftung.
3.
Dieses Urteil wird den Verfahrensbeteiligten und dem Bundesverwaltungsgericht, Abteilung I, schriftlich mitgeteilt.
Lausanne, 21. Dezember 2018
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: Quinto