Sachverhalt:
A. Das Strafgericht Basel-Stadt verurteilte A.X._ am 18. Januar 2005 wegen gewerbsmässigen Betrugs, Misswirtschaft, mehrfachen Unterlassens der Buchführung und mehrfacher Widerhandlung gegen das Bankengesetz zu vier Jahren Zuchthaus. Dessen Schwester B.X._ verurteilte es wegen Gehilfenschaft zu den Taten zu 10 Monaten Gefängnis bedingt. Es hielt für erwiesen, dass A.X._ mit Unterstützung seiner Schwester insgesamt 136 Anleger dazu verleitete, sich an der von ihm beherrschten C._-Gruppe (bestehend aus der C._ Holding AG und deren in- und ausländischen Tochtergesellschaften) zu beteiligen, diese Gelder indessen nicht wie versprochen für gewinnträchtige Anlagen verwendete, sondern verabredungswidrig für die laufenden Kosten seiner Firmen sowie für sich selber verbrauchte. Es verpflichtete die beiden zur Bezahlung der Zivilforderungen (samt Parteientschädigungen und Kosten) von 51 geschädigten Anlegern und verwies weitergehende Forderungen sowie die Forderungen weiterer Geschädigter auf den Zivilweg.
Auf Appellation von A.X._, B.X._, der Staatsanwaltschaft sowie Anschluss-Appellation von 13 Geschädigten hin verurteilte das Appellationsgericht des Kantons Basel-Stadt A.X._ am 7. Mai 2008 wegen gewerbsmässigen Betrugs im Sinne von Art. 146 Abs. 1 und 2 StGB zu einer Freiheitsstrafe von 3 1⁄2 Jahren. Im Übrigen sprach es ihn frei. Auf die Vorwürfe der mehrfachen Widerhandlung gegen das Bankengesetz und der mehrfachen Unterlassung der Buchführung trat es wegen Verjährung nicht ein. B.X._ sprach es frei, soweit die Vorwürfe nicht bereits verjährt waren. Es änderte die Zinsberechnung bei acht Zivilforderungen ab und verpflichtete A.X._ zudem, D._, dessen Forderung erstinstanzlich auf den Zivilweg verwiesen worden war, DM 31'500 nebst Zins zu 5 % seit dem 15. Mai 2000 sowie eine Parteientschädigung zu bezahlen. In Bezug auf die übrigen Zivilforderungen bzw. Partei- und Kostenentschädigungen bestätigte es das erstinstanzliche Urteil. Auf die Anschlussappellationen von E._, F._, G._ und H.I._ sowie J.I._ trat es nicht ein.
B. B.a Mit Beschwerde 6B_807/2008 beantragt A.X._, dieses Urteil des Appellationsgerichts aufzuheben und ihn freizusprechen oder die Sache eventuell zur Neubeurteilung an die Vorinstanz zurückzuweisen. Ausserdem ersucht er um unentgeltliche Rechtspflege und Verbeiständung.
B. B.a Mit Beschwerde 6B_807/2008 beantragt A.X._, dieses Urteil des Appellationsgerichts aufzuheben und ihn freizusprechen oder die Sache eventuell zur Neubeurteilung an die Vorinstanz zurückzuweisen. Ausserdem ersucht er um unentgeltliche Rechtspflege und Verbeiständung.
B.b Mit Beschwerde 6B_808/2008 beantragt B.X._, dieses Urteil des Appellationsgerichts aufzuheben und die Zivilforderungen von K._ und L.M._, N.O._, P.O._, Q.O._, Q._ und R.S._, T._, Y._ sowie V._ und W.Z._ auf den Zivilweg zu verweisen. Ausserdem ersucht sie um unentgeltliche Rechtspflege und Verbeiständung.
Am 8. Januar 2009 erkannte der Präsident der Strafrechtlichen Abteilung der Beschwerde aufschiebende Wirkung zu.
C. Vernehmlassungen wurden keine eingeholt.
Erwägungen:
1. 1.1 Der Beschwerdeführer rügt im Verfahren 6B_807/2008 einen Verstoss gegen Art. 29 Abs. 2 und Art. 32 Abs. 2 BV sowie Art. 6 EMRK. Das Appellationsgericht habe seinen Anspruch auf rechtliches Gehör sowie das Prinzip der Waffengleichheit verletzt und ihm die Möglichkeit genommen, seine Verteidigungsrechte zu wahren. Die ATAG habe als von der Eidgenössischen Bankenkommission eingesetzte Liquidatorin die Geschäftsunterlagen der C._-Gruppe beschlagnahmt. Er habe deswegen keinen Zugriff auf diese Akten gehabt, die das Appellationsgericht nicht zu den Gerichtsakten genommen habe. Er sei daher nicht in der Lage gewesen, die sich darin befindlichen Entlastungsbeweise ins Verfahren einzubringen.
1.2 Das Appellationsgericht hat sich mit diesem Einwand eingehend auseinandergesetzt und ihn verworfen (angefochtener Entscheid E. 2.3.8 S.18). Danach hatte der Beschwerdeführer zwar eine gewisse Zeit keinen Zugriff auf die von der ATAG beschlagnahmten Akten. Laut Aktennotiz von Kriminalkommissär U._ vom 9. Januar 2001 hat er indessen den Beschwerdeführer und dessen Anwalt ausdrücklich darauf hingewiesen, dass sich diese Akten bei der Staatsanwaltschaft befänden und dort jederzeit eingesehen werden könnten. Der Beschwerdeführer habe am 7. März 2003 zudem ausgesagt, er habe die von der ATAG freigestellten Akten leider noch nicht einsehen können und wiederholt angekündigt, die sich (angeblich) darin befindlichen Dokumente selber beizubringen, mit denen er belegen könne, in Amerika zu Gunsten der Anleger Investitionen getätigt zu haben. Für das Appellationsgericht sind die Akten der C._-Gruppe zudem von vornherein nicht geeignet, diesen Nachweis zu erbringen. Nach den Feststellungen des Bundesgerichts im Entscheid 2A.442/1999 vom 21. Februar 2000, mit welchem es die von der Bankenkommission angeordnete Liquidation der C._-Gruppe schützte, sollen die (angeblichen) Anlagen in Amerika über "US-Gesellschaften" getätigt worden sein, die dem Beschwerdeführer persönlich gehörten und nicht Bestandteile der C._-Gruppe bildeten.
1.3 Der Beschwerdeführer macht weder geltend, die Aktennotiz von Kriminalkommissär U._ vom 9. Januar 2001 entspreche nicht den Tatsachen, noch bestreitet er, in der Untersuchung wiederholt angekündigt zu haben, Dokumente aus den von der ATAG freigegebenen Geschäftsunterlagen beizubringen, mit denen er (angeblich) beweisen könne, die Gelder der Geschädigten in den USA vertragsgemäss angelegt zu haben. Damit ist klarerweise erstellt, dass er und sein Anwalt die Möglichkeit gehabt hätten, diese Akten einzusehen und die angekündigten Entlastungsbeweise vorzulegen, davon aber keinen Gebrauch machten.
Anderseits ist die Auffassung des Appellationsgerichts, die Geschäftsunterlagen der C._-Gruppe seien für das Strafverfahren gegen den Beschwerdeführer nicht entscheidend, ohne weiteres haltbar. Aus dem erwähnten Bundesgerichtsentscheid 2A.442/1999 ergibt sich, dass der Beschwerdeführer den Nachweis nicht erbringen konnte, dass den Einlagen der Geschädigten in die C._-Gruppe entsprechend werthaltige Anlagen entgegenstanden. Vielmehr geht daraus hervor, dass der Beschwerdeführer die (angeblichen) Immobilienkäufe entweder in eigenem Namen oder für die C._ US Inc. Florida tätigte, eine Firma, die ihm persönlich gehörte und nicht Bestandteil der C._-Gruppe war. Der Beschwerdeführer legt nicht dar, inwiefern diese Beweiswürdigung willkürlich sein soll, sondern begnügt sich im Wesentlichen mit der Wiederholung seiner Behauptung, aus den Geschäftsunterlagen der C._-Gruppe ergebe sich, dass er die Einlagen der Geschädigten in Immobilien angelegt und nicht anderweitig verbraucht habe. Genau dafür konnten indessen weder im Liquidationsverfahren noch im Strafverfahren stichhaltige Beweise gefunden werden, und der Beschwerdeführer hat solche nie vorgelegt, obwohl er Zugriff auf die Akten hatte und sich Immobilienkäufe leicht belegen lassen müssten. Das lässt vernünftigerweise keinen anderen Schluss zu, als dass sich in den von der ATAG zeitweise beschlagnahmten Akten keine Hinweise darauf befinden, dass der Beschwerdeführer Kundengelder angelegt hätte, was sich im Übrigen auch mit den Feststellungen der Liquidatorin deckt. Die Rügen, das Appellationsgericht habe seine Verteidigungsrechte verletzt, wesentliche Akten unberücksichtigt gelassen und ihm die Möglichkeit abgeschnitten, entlastendes Beweismaterial vorzulegen, sind offensichtlich unbegründet.
1.4 Der Beschwerdeführer bringt vor (Beschwerde S. 4 Ziff. 7 ff.), ohne Zugang zu den Akten falle es ihm schwer, sich gegen den Vorwurf des gewerbsmässigen Betrugs zur Wehr zu setzen. So gehe das Appellationsgericht davon aus, dass er seinen Kunden in Bezug auf die Sicherheit der Anlagen und der zu erwartenden Rendite überzogene Angaben gemacht und sie über die Revisionsgesellschaft falsch informiert habe. Zudem soll ein Zeuge ausgesagt haben, mit den Kundengeldern seien Gehälter und Unkosten bezahlt worden. Zur Widerlegung dieser Vorwürfe sei er auf die von der ATAG beschlagnahmten Akten angewiesen.
Der Beschwerdeführer hatte entgegen seiner Darstellung Zugriff auf die umstrittenen Geschäftsakten (oben E. 1.3), der Vorwurf geht schon aus diesem Grund fehl. Im Übrigen ergibt sich aus der willkürfreien Beweiswürdigung des Appellationsgerichts, dass er die Kundengelder gar nicht angelegt hat, sodass es für die strafrechtliche Beurteilung seines Verhaltens unerheblich ist, mit welchen Anpreisungen bzw. Gewinnankündigungen oder -versprechen er Anlagegelder aquirierte.
1.5 Die Beschwerde 6B_807/2008 erweist sich somit als offensichtlich unbegründet und ist abzuweisen. Ausgangsgemäss sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Er hat zwar ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung gestellt, welches indessen abzuweisen ist, da die Beschwerde aussichtslos war (Art. 64 Abs. 1 BGG). Seiner finanziellen Situation wird mit einer herabgesetzten Gebühr Rechnung getragen.
2. 2.1 Das Appellationsgericht hat die Beschwerdeführerin im Verfahren 6B_808/2008 freigesprochen (angefochtener Entscheid S. 29 ff. E. III.), weil sie zwar die geschäftlichen (betrügerischen) Aktivitäten ihres Bruders unterstützte, indem sie als Verwaltungsratspräsidentin der C._ AG bzw. der C._ Holding sowie als Verwaltungsrätin weiterer Firmen aufgetreten und auf zwei (irreführenden) Prospekten der C._-Gruppe als Herausgeberin erschienen sei, indessen nicht gewusst und auch nicht damit gerechnet habe, dass ihr Bruder die Anleger täuschte. Für das Appellationsgericht ist damit der objektive Tatbestand der Gehilfenschaft zum Betrug erfüllt, nicht aber der subjektive.
2.2 In Bezug auf die Zivilansprüche hat das Appellationsgericht ausgeführt (angefochtener Entscheid S. 34 ff E. V.), seine Zuständigkeit zur Beurteilung derselben ergebe sich aus dem kantonalen Verfahrensrecht, da das Opferhilfegesetz vorliegend nicht zur Anwendung komme. Nach § 18 der baselstädtischen Strafprozessordnung vom 8. Januar 1997 (StPO) könnten Geschädigte im Strafverfahren als Zivilkläger gegen den Angeschuldigten aus der strafbaren Handlung hergeleitete privatrechtliche Ansprüche geltend machen. Nach § 127 Abs. 3 StPO entscheide der Strafrichter über zivilrechtliche Ansprüche, sofern diese in tatsächlicher und rechtlicher Hinsicht abgeklärt seien; andernfalls seien diese auf den Zivilweg zu verweisen. Im Gegensatz zum alten Recht werde nicht mehr ausdrücklich festgehalten, dass der Strafrichter Zivilansprüche auch im Falle eines Freispruches beurteilen könne. Ziel der Revision sei indessen keineswegs gewesen, die Rechte der Geschädigten einzuschränken, sondern diese im Gegenteil auszubauen. Bei Freisprüchen würde der den zivilrechtlichen Anspruch begründende Sachverhalt im Strafverfahren regelmässig nicht abgeklärt, weshalb der Verweis ins Zivilverfahren sinnvoll sei. Dies sei vorliegend jedoch gerade nicht der Fall. Der Anklagesachverhalt sei in tatsächlicher und rechtlicher Hinsicht voll abgeklärt worden, was im Fall des Beschwerdeführers zu einem Schuldspruch, im Falle der Beschwerdeführerin zu einem Freispruch geführt habe, da ihr kein Vorsatz habe nachgewiesen werden können. Zivilrechtlich sei sie aber nicht bloss für vorsätzliches, sondern auch für fahrlässiges Handeln haftbar. Die objektiv klaren Falschinformationen in den von ihr unterzeichneten Firmenprospekten begründeten eine Haftung aus unerlaubter Handlung (Art. 41 OR). Sie habe sich zudem um die Gesellschaften, deren Verwaltungsrätin sie gewesen sei, in keiner Weise gekümmert und dadurch die ihr als Geschäftsführungsorgan obliegende Pflicht zur Oberaufsicht über die Geschäftsführung grob verletzt (Art. 716a OR), weshalb sie mit ihrem Bruder solidarisch hafte.
2.3 Da vor der letzten kantonalen Instanz sowohl der Straf- als auch der Zivilpunkt strittig waren, hat die Beschwerdeführerin zu Recht Beschwerde in Strafsachen erhoben, auch wenn sie damit ausschliesslich Zivilansprüche abwehren will (Art. 78 Abs. 2 lit. a BGG; BGE 133 III 701 E. 2.1). Sie macht geltend, das Appellationsgericht habe in willkürlicher Weise seine Zuständigkeit zur Beurteilung der gegen sie gerichteten Zivilansprüche bejaht. Nach § 18 Abs. 1 StPO dürften im Strafverfahren ausschliesslich Zivilansprüche beurteilt werden, die sich aus der strafbaren Handlung herleiten würden. Da ihr das Appellationsgericht eine solche nicht anlaste, sei es nicht befugt gewesen, die gegen sie erhobenen Zivilansprüche zu beurteilen, sondern hätte diese auf den Zivilweg verweisen müssen.
Die adhäsionsweise Mitbeurteilung von Zivilansprüchen durch den Strafrichter setzt nach § 18 Abs. 1 StPO unbestrittenermassen voraus, dass sich diese aus "der strafbaren Handlung" herleiten. Vorliegend ist diese Voraussetzung erfüll. Die Zivilansprüche der Geschädigten gründen in betrügerischen Machenschaften, für welche der Bruder der Beschwerdeführerin vom Appellationsgericht zu Recht verurteilt wurde (oben E. 1). Den Tatbeitrag der Beschwerdeführerin hat es in objektiver Hinsicht als Gehilfenschaft zum Betrug qualifiziert. Diese Beurteilung ist ebenfalls nicht zu beanstanden und wird von ihr auch gar nicht bestritten. Es ist ohne weiteres vertretbar und jedenfalls nicht willkürlich, bereits die Erfüllung des objektiven Tatbestands als "strafbare Handlung" im Sinne von § 18 Abs. 1 StPO aufzufassen und Zivilansprüche auch in Strafverfahren mitzubeurteilen, die mangels Erfüllung des subjektiven Tatbestands mit einem Freispruch enden, soweit sie wie hier in rechtlicher und tatsächlicher Hinsicht abgeklärt wurden und damit spruchreif sind.
2.4 Die Beschwerdeführerin wirft dem Appellationsgericht vor, ihren Anspruch auf rechtliches Gehör verletzt zu haben. Die zivilrechtliche Verurteilung stütze sich auf Fahrlässigkeit. Ein derartiger Vorwurf sei weder von den Zivilklägern erhoben worden, noch sei darüber an der Appellationsverhandlung debattiert worden. Fahrlässigkeit sei weder vor der ersten noch der zweiten Instanz thematisiert worden. Indem ihr das Appellationsgericht nunmehr trotzdem Fahrlässigkeit vorwerfe, verletze es ihren Anspruch auf rechtliches Gehör. Dies sei umso mehr der Fall, als beim gegebenen Streitwert nach den Vorschriften der Zivilprozessordnung die Anspruchsvoraussetzungen in einer schriftlichen Klagebegründung hätten dargelegt werden müssen.
Will ein Gericht für die Parteien unerwartet einen neuen Rechtsstandpunkt einnehmen, ist es nach Art. 29 Abs. 2 BV verpflichtet, den Parteien die Gelegenheit einzuräumen, sich dazu zu äussern (BGE 128 V 272 E. 5b/bb; 126 I 19 E. 2c/aa, je mit Hinweisen). Ein solcher Fall liegt indessen vorliegend offensichtlich nicht vor. Die Zivilforderungen waren von Anfang an Gegenstand des Verfahrens, weshalb die Beschwerdeführerin Gelegenheit und Anlass hatte, sich zu sämtlichen anspruchsbegründenden Voraussetzungen zu äussern bzw. deren Vorliegen zu bestreiten. Unzutreffend ist ihr Einwand, die Zivilkläger hätten gar nicht geltend gemacht, sie habe sie fahrlässig geschädigt. Diese haben ihr vielmehr sogar vorgeworfen, sie durch die Teilnahme an den betrügerischen Machenschaften ihre Bruders vorsätzlich geschädigt zu haben. Darin ist in maiore minus auch der Vorwurf der fahrlässigen Schädigung enthalten. Von einer Gehörsverletzung kann daher keine Rede sein.
2.5 Die Beschwerde 6B_808/2008 ist damit abzuweisen. Bei diesem Ausgang des Verfahrens trägt die Beschwerdeführerin die Kosten (Art. 66 Abs. 1 BGG). Sie hat zwar ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung gestellt, welches indessen abzuweisen ist, da die Beschwerde aussichtslos war (Art. 64 Abs. 1 BGG). Der finanziellen Situation wird mit einer herabgesetzten Gebühr Rechnung getragen.
Demnach erkennt das Bundesgericht:
1. Die Beschwerden 6B_807/2008 und 6B_808/2008 werden abgewiesen.
2. Die Gesuche um unentgeltliche Rechtspflege und Verbeiständung werden abgewiesen.
3. Die Gerichtskosten in Höhe von Fr. 1'600.-- werden dem Beschwerdeführer und der Beschwerdeführerin je zur Hälfte auferlegt, unter solidarischer Haftung für den gesamten Betrag.
4. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt schriftlich mitgeteilt.
Lausanne, 17. März 2009
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Favre Störi