Sachverhalt:
A. A.Y._ und B.Y._ stellten am 20. Mai 2008 bei der Polizei Strafantrag gegen X._ wegen Nötigung, Drohung und Missbrauchs einer Fernmeldeanlage. A.Y._ erklärte, X._ habe im März 2008 wieder mit ihren Belästigungen begonnen. Sie möchte Geld von ihnen haben. Sie habe am Telefon gesagt, dass sie nirgendwo zu finden sei. Mittlerweile belästige sie ihn täglich bis Mitternacht. Es sei nicht mehr auszuhalten (act. 35).
B. Die Strafgerichtspräsidentin Basel-Stadt verurteilte X._ am 20. November 2009 wegen versuchter Erpressung und mehrfachen Missbrauchs einer Fernmeldeanlage zu einer Geldstrafe von 120 Tagessätzen zu Fr. 70.--, davon 60 Tagessätze bedingt mit 4 Jahren Probezeit, und zu einer Busse von Fr. 600.--.
Das Appellationsgericht des Kantons Basel-Stadt bestätigte am 14. März 2012 das strafgerichtliche Urteil im Schuldpunkt. Es verurteilte X._ zu 440 Stunden gemeinnütziger Arbeit, davon 220 Stunden bedingt bei einer Probezeit von 4 Jahren, sowie zu einer Busse von Fr. 600.--.
C. X._ erhebt Beschwerde in Strafsachen mit den Anträgen, das Urteil des Appellationsgerichts sei aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Es sei ihr die unentgeltliche Rechtspflege zu gewähren.
Das Appellationsgericht verzichtete auf eine Vernehmlassung. Die Staatsanwaltschaft beantragt, auf die Beschwerde sei mangels genügender Begründung nicht einzutreten und die unentgeltliche Rechtspflege sei zu verweigern. A.Y._ liess sich innert Frist nicht vernehmen.
Erwägungen:
1. Das erstinstanzliche Urteil erging vor dem Inkrafttreten der StPO am 1. Januar 2011. Massgeblich ist das kantonale Verfahrensrecht (Art. 453 f. StPO).
Die Beschwerdeführerin ficht das Urteil bezüglich des Strafantragstellers B.Y._ nicht an, so dass die Sache unter diesem Gesichtspunkt nicht zu beurteilen ist (Art. 107 Abs. 1 BGG).
2. 2.1 Die Beschwerdeführerin rügt eine Verletzung ihres Anspruchs auf Konfrontation mit dem Belastungszeugen A.Y._. Nur dieser könne darlegen, ob er durch den Missbrauch einer Fernmeldeanlage in einer Art. 179septies StGB entsprechenden Intensität beunruhigt oder belästigt worden sei. Die Vorinstanz komme zum Ergebnis, die Faxzustellungen an A.Y._ erfüllten den Tatbestand von Art. 179septies StGB. Er sei überdies mit rund 20 Telefonanrufen belästigt worden. Die Vorinstanz berücksichtige die Telefonanrufe zu Unrecht. Denn sie habe festgestellt, diese dürften nicht verwertet werden, da A.Y._ nicht befragt worden sei. Die Beschwerdeführerin macht zudem eine willkürliche Beweiswürdigung und die Verletzung des Grundsatzes in dubio pro reo geltend.
2.2 Wie die Vorinstanz feststellt, war A.Y._ (im Gegensatz zu seinem Bruder B.Y._) im staatsanwaltschaftlichen Untersuchungsverfahren und in der strafgerichtlichen Hauptverhandlung nicht einvernommen worden. A.Y._ habe lediglich bei der Strafantragsstellung eine nicht unterschriftliche Aussage auf dem Polizeiposten deponiert und ausgesagt, er werde seit März 2008 und mittlerweile täglich bis Mitternacht telefonisch belästigt. Ferner habe er der Staatsanwaltschaft eine Aufstellung der Zeitpunkte und Nummern der erhaltenen Anrufe sowie fünf Faxschreiben eingereicht. Bezüglich der von A.Y._ empfangenen Telefonanrufe sei dessen Zeugnis zweifellos das ausschlaggebende Beweismittel, so dass er vom Appellationsgericht zu befragen wäre, sofern der Beschwerdeführerin lediglich eine telefonische Belästigung zur Last gelegt würde. Das Zeugnis sei aber nicht von ausschlaggebender Bedeutung, weil auch ein Faxgerät unter den Begriff der Fernmeldeanlage falle. Diesbezüglich seien von A.Y._ keine ergänzenden Aufschlüsse zu erwarten. Weil damit bereits der Tatbestand von Art. 179septies StGB erfüllt sei, brauche es keine Konfrontation zum Nachweis der Urheberschaft der Telefonanrufe. Das Konfrontationsrecht sei nicht verletzt. Auf eine Ladung von A.Y._ könne verzichtet werden.
2.3 Gemäss Art. 6 Ziff. 1 i.V.m. Ziff. 3 lit. d EMRK hat der Beschuldigte einen Anspruch auf Befragung des Belastungszeugen. Eine Konfrontation kann auch erstmals vor dem Appellationsgericht beantragt werden (Urteil 6B_583/2009 vom 27. November 2009 E. 2.5). Der Anspruch gilt uneingeschränkt, wenn dem Zeugenbeweis ausschlaggebende Bedeutung zukommt, dieser also den einzigen oder den wesentlichen Beweis darstellt (BGE 129 I 151 E. 3.1). Es kann darauf nur unter besonderen Umständen verzichtet werden (BGE 131 I 476 E. 2.2 S. 481 ff.). Von hier nicht zutreffenden Ausnahmen abgesehen, in denen eine Konfrontation nicht möglich war, ist eine belastende Zeugenaussage grundsätzlich nur verwertbar, wenn die Beschuldigte den Belastungszeugen wenigstens einmal während des Verfahrens in direkter Konfrontation befragen konnte (BGE 133 I 33 E. 3.1; Urteil 6B_251/2012 vom 2. Oktober 2012 E. 2.3.2).
2.3.1 Die Vorinstanz stellt fest, es befänden sich fünf Faxschreiben bei den Akten. Diese und ihr Inhalt seien auch ohne Konfrontation mit A.Y._ objektiv nachgewiesen. Von seiner Zeugenaussage seien keine ergänzenden Aufschlüsse zu erwarten (Urteil S. 6).
Der Tatbestand von Art. 179septies StGB ist nicht bereits mit dem Nachweis des Empfangs entsprechender Faxschreiben erfüllt. Nach dieser Bestimmung wird bestraft, wer aus Bosheit oder Mutwillen eine Fernmeldeanlage zur Beunruhigung oder Belästigung missbraucht. Die Bestimmung schützt nicht vor jeder Beeinträchtigung. Sie muss eine gewisse minimale quantitative Intensität oder qualitative Schwere erreichen (BGE 126 IV 216 E. 2b/aa). Die Vorinstanz setzt sich mit der Frage des subjektiven Empfindens des Empfängers nicht auseinander. Dazu wäre eine Einvernahme von A.Y._ unerlässlich gewesen. Da er nicht mit der Beschwerdeführerin konfrontiert wurde, ist seine belastende Aussage nicht verwertbar, was zur Gutheissung der Beschwerde führt.
2.3.2 Die Vorinstanz nimmt an, bezüglich der Telefonanrufe sei das Zeugnis von A.Y._ von ausschlaggebender Bedeutung (Urteil S. 5). Da mit der Zusendung der Faxschreiben der Tatbestand bereits erfüllt sei, brauche es keine Konfrontation der Beschwerdeführerin mit A.Y._ zum Nachweis der Urheberschaft der Telefonanrufe (Urteil S. 6). Es ist unklar, ob damit der entsprechende Vorwurf fallen gelassen wird.
Sollte die Vorinstanz annehmen, mit dem Nachweis der Urheberschaft der Telefonanrufe sei der Tatbestand erfüllt, könnte ihr aus den oben (E. 2.3.1) dargelegten Gründen nicht gefolgt werden. Mangels Konfrontation wäre die belastende Aussage von A.Y._ nicht verwertbar.
Bei der rechtlichen Würdigung erwähnt die Vorinstanz die Telefonanrufe an A.Y._ nicht. Sie führt lediglich aus, die Faxschreiben an A.Y._ seien belästigend und erreichten die erforderliche Intensität. Indem sie fortfährt, "Gleiches gilt noch ausgeprägter für die Fax-Mitteilungen an A.Y._, der überdies mit rund 20 Telefonanrufen belästigt worden war" (Urteil S. 8 E. 6), nimmt sie versehentlich auf A.Y._ Bezug. Gemeint ist offensichtlich B.Y._, dem diese 20 Telefonanrufe zuzuordnen sind (Urteil S. 3; erstinstanzliches Urteil S. 10). Die Erstinstanz sprach die Beschwerdeführerin jedoch auch bezüglich der Telefonanrufe an A.Y._ schuldig (erstinstanzliches Urteil S. 10). In dem die Vorinstanz in ihren Erwägungen in rechtlicher Hinsicht vollumfänglich dem erstinstanzlichen Urteil folgte und dieses im Schuldpunkt bestätigte, verletzte sie Bundesrecht.
Das Urteil ist ebenfalls bezüglich der angeklagten Telefonanrufe an A.Y._ aufzuheben.
3. Die Beschwerde ist wegen Verletzung des Konfrontationsanspruchs der Beschwerdeführerin gutzuheissen. Die Sache ist an die Vorinstanz zu neuer Entscheidung zurückzuweisen. Mit der Gutheissung ist das Gesuch um unentgeltliche Rechtspflege gegenstandslos geworden. Es sind keine Gerichtskosten zu erheben. Der nicht anwaltlich vertretenen Beschwerdeführerin ist keine Parteientschädigung zuzusprechen (Art. 68 BGG; BGE 133 III 439 E. 4).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, das Urteil des Appellationsgerichts des Kantons Basel-Stadt vom 14. März 2012 aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen.
2. Es werden keine Gerichtskosten erhoben und keine Parteientschädigung ausgerichtet.
3. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt, Ausschuss, schriftlich mitgeteilt.
Lausanne, 11. März 2013
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Briw