Sachverhalt: A. Mit Verfügung vom 19. November 2008 stellte die Eidgenössische Bankenkommission (nachfolgend auch: EBK) nach mehrmonatigen Abklärungen fest, dass die X._ AG mit Sitz in V._, die A._ GmbH und die B._ AG sowie die Y._ AG (alle mit Sitz in W._), die C._ AG und die Z._ AG (je mit Sitz in T._) ohne Bewilligung gewerbsmässig Publikumseinlagen entgegengenommen und damit gegen die Bankengesetzgebung verstossen hatten. Dementsprechend wurde über die X._ wegen begründeter Besorgnis einer Überschuldung der Konkurs eröffnet, die Liquidation der anderen Gesellschaften angeordnet und gegenüber D._ sowie E._ ein Werbeverbot verhängt. Mit Urteil vom 1. Juni 2010 bestätigte das Bundesverwaltungsgericht vollumfänglich die Verfügung der EBK. B. Am 8. Juli 2010 haben die A._ GmbH, die B._ AG, die C._ AG und D._ gegen das Urteil des Bundesverwaltungsgerichts Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht eingereicht. Sie beantragen im Wesentlichen, das angefochtene Urteil aufzuheben und die Sache zur Neubeurteilung an eine der Vorinstanzen zurückzuweisen. C. Die Eidgenössische Finanzmarktaufsicht FINMA (als Rechtsnachfolgerin der EBK) und das Bundesverwaltungsgericht schliessen auf Abweisung der Beschwerde. D. Mit Verfügung vom 8. September 2010 hat der Präsident der II. öffentlich-rechtlichen Abteilung ein Gesuch um aufschiebende Wirkung abgewiesen.