Sachverhalt:
A. Der Kosovare X._ und die Serbin A._ arbeiteten im Jahr 2009 einige Monate zusammen im gleichen Büro bei einer Gewerkschaft. Im November 2009 kündigte die Gewerkschaft X._ und stellte ihn frei. X._ klagte beim Zürcher Arbeitsgericht gegen die Gewerkschaft. Diese rief A._ als Zeugin auf.
X._ traf A._ noch vor ihrer Zeugeneinvernahme am Mittag des 28. September 2010 bei einer Baustelle. Sie begaben sich in ein Restaurant, wo sie sich in Anwesenheit der Gewerkschaftssekretärin B._, einer Albanerin, während 60 bis 90 Minuten besprachen.
A._ stellte am 30. September 2010 einen Strafantrag gegen X._ wegen Drohung und Nötigung.
B. Die Staatsanwaltschaft Zürich-Limmat warf X._ mit Anklageschrift vom 20. Dezember 2010 versuchte Nötigung vor, weil er A._ beim Gespräch am 28. September 2010 massiv bedroht habe um zu verhindern, dass sie als Zeugin vor Arbeitsgericht gegen ihn aussage.
Das Bezirksgericht Zürich fand X._ am 11. März 2011 der versuchten Nötigung schuldig (Art. 181 i.V.m. Art. 22 StGB) und bestrafte ihn mit einer bedingten Geldstrafe von 90 Tagessätzen zu Fr. 70.-- (wovon ein Tagessatz durch Haft erstanden ist) und einer Busse von Fr. 1'500.--. Es verpflichtete ihn, A._ eine Genugtuung von Fr. 500.-- nebst Zins zu zahlen, stellte dem Grundsatz nach eine Schadenersatzpflicht von X._ fest und verwies A._ im Übrigen auf den Zivilweg.
Das Obergericht des Kantons Zürich bestätigte auf Berufung von X._ am 16. Dezember 2011 den bezirksgerichtlichen Schuldspruch und bestrafte ihn mit einer bedingten Geldstrafe von 90 Tagessätzen zu Fr. 30.-- (wovon ein Tag durch Haft erstanden ist), verpflichtete ihn zur Zahlung der bezirksgerichtlich festgesetzten Genugtuung, bestätigte die grundsätzliche Schadenersatzpflicht und verwies die Sache im Übrigen auf den Zivilweg.
C. X._ erhebt Beschwerde in Strafsachen mit den Anträgen, das obergerichtliche Urteil vollumfänglich aufzuheben, ihn von Schuld und Strafe freizusprechen oder eventualiter die Sache an die Vorinstanz zu neuer Beurteilung zurückzuweisen. Es seien sämtliche Verfahrenskosten auf die Staatskasse zu nehmen und ihm eine angemessene Parteientschädigung zuzusprechen. Der Beschwerde sei die aufschiebende Wirkung und ihm die unentgeltliche Rechtspflege zu gewähren.
Erwägungen:
1. Der Beschwerdeführer stellt zunächst sein Aussageverhalten und jenes der Geschädigten (Beschwerde S. 6 ff. bzw. S. 12 ff.) sowie die Aussagen der Zeugen B._ (S. 20 f.), C._, D._ und E._ (S. 21 ff.) dar. Anschliessend setzt er sich mit der vorinstanzlichen Beweiswürdigung auseinander (S. 24 ff.) und fasst seine Kritik zusammen (S. 35 ff.). Er sei schuldig gesprochen worden, obwohl sein Aussageverhalten von Anfang an stimmig gewesen sei. Die Geschädigte habe dagegen die Sache bei späteren Befragungen anders dargestellt als zu Beginn und als Zeugin vor Arbeitsgericht verneint, dass er versucht habe, ihr Aussageverhalten vor Gericht zu beeinflussen. Nach der Zeugin B._ (nachfolgend: Zeugin) habe er die Geschädigte aufgefordert, vor Arbeitsgericht die Wahrheit zu sagen. Die Geschädigte habe die angeblichen Drohungsäusserungen immer mehr abgeschwächt und von Verständnisschwierigkeiten gesprochen. Die Zeugin habe rund 35 % des Gesprächs verstanden und keine der vorgeworfenen Drohungsäusserungen bestätigen können. Sie hätten laufend die Sprachen gewechselt. Deutsch sei für alle drei Beteiligten eine Fremdsprache. Der SMS-Verkehr nach dem Gespräch lasse sich mit dem eingeklagten Nötigungsversuch nicht vereinbaren.
2. 2.1 Der Beschwerdeführer rügt eine Verletzung von Art. 9 BV und Art. 6 EMRK wegen Willkür und Verletzung des fair trial. Die Beweiswürdigung sei widersprüchlich, einseitig und aktenwidrig (Beschwerde S. 37 f.). Weiter macht er eine Verletzung von Art. 6 EMRK, Art. 29 und Art. 32 BV wegen abgewiesener Beweisanträge (S. 39 ff.) sowie von Art. 29 Abs. 2 und Art. 6 EMRK wegen Nichtauseinandersetzung mit aufgezeigten Widersprüchen geltend (S. 41 f.). Schliesslich sei der Grundsatz in dubio pro reo unbesehen der verweigerten Beweisabnahme verletzt, weil Unstimmigkeiten und zentrale Widersprüche nicht zu unterdrückende Zweifel bewirkten.
2.2 Aus Art. 29 Abs. 2 BV folgt die Pflicht einer Behörde, ihren Entscheid zu begründen. Sie muss aber nicht jedes einzelne Vorbringen ausdrücklich widerlegen. Sie kann sich auf die für den Entscheid wesentlichen Punkte beschränken (BGE 136 I 229 E. 5.2; 134 I 83 E. 4.1). Auch Art. 6 Ziff. 1 EMRK verpflichtet die Gerichte, ihre Entscheide zu begründen. Die Bestimmung kann nicht so verstanden werden, dass sie eine detaillierte Antwort auf jedes Argument erfordert ("ne peut pas se comprendre comme exigeant une réponse détaillée à chaque argument"; Urteil des EGMR in Sachen Pedro Ramos gegen Schweiz vom 14. Oktober 2010, Req. 10111/06, Ziff. 39). Diese Begründungspflicht wird von der Vorinstanz nicht verletzt. Sie setzt sich hinreichend mit der Sache auseinander.
2.3 Die Beweiswürdigung ist Sache der innerstaatlichen Gerichte und wird als solche nicht durch die EMRK geregelt. Art. 30 BV und Art. 6 Ziff. 1 EMRK gewährleisten den Anspruch auf ein faires Verfahren.
Gemäss Art. 32 Abs. 1 BV gilt jede Person bis zur rechtskräftigen Verurteilung als unschuldig. In dieser Verfassungsbestimmung ist auch der Grundsatz in dubio pro reo als Beweislastregel begründet. Es ist Sache der Anklagebehörde, die Schuld des Angeklagten zu beweisen. Dieser hat nicht seine Unschuld nachzuweisen (BGE 127 I 38 E. 2a). Als Beweiswürdigungsregel besagt der Grundsatz, dass sich das Gericht nicht von der Existenz eines für den Angeklagten ungünstigen Sachverhalts überzeugt erklären darf, wenn bei objektiver Betrachtung erhebliche und nicht zu unterdrückende Zweifel bestehen, ob sich der Sachverhalt so verwirklicht hat (vgl. Art. 10 Abs. 3 StPO). Dies prüft das Bundesgericht auf Willkür (Art. 9 BV), d.h. es greift nur ein, wenn die Vorinstanz den Beschuldigten verurteilte, obwohl bei objektiver Würdigung des Beweisergebnisses offensichtlich erhebliche bzw. schlechterdings nicht zu unterdrückende Zweifel an dessen Schuld fortbestanden (BGE 127 I 38 E. 2a; 120 Ia 31). Willkür setzt voraus, dass der Entscheid schlechterdings unhaltbar ist, d.h. mit der tatsächlichen Situation in klarem Widerspruch steht, auf einem offenkundigen Versehen beruht oder sich sachlich in keiner Weise rechtfertigen lässt (BGE 133 III 589 E. 4.1; 131 I 217 E. 2.1, 467 E. 3.1). Der Entscheid muss nicht bloss in der Begründung, sondern im Ergebnis unhaltbar sein. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 134 I 140 E. 5.4).
Die Vorinstanz geht zutreffend davon aus, dass Prozessthema einzig der Inhalt des Gesprächs vom 28. September 2010 zwischen dem Beschwerdeführer und der Geschädigten ist. Dabei war eine Gewerkschaftssekretärin anwesend, welche die einzige direkte Zeugin des Gesprächs ist. Weiter nimmt die Vorinstanz als gerichtsnotorisch an, dass ethnische Spannungen wegen der Bürgerkriegssituation zwischen Serben und Kosovaren auch in der Schweiz vorhanden sein könnten, dass solche vorliegend aber nicht zum Tragen kämen. Es sei kein solches Motiv der Geschädigten zu erkennen. Hingegen sei durchaus ein Motiv des Beschwerdeführers ersichtlich, die Geschädigte von Aussagen vor Arbeitsgericht abzuhalten (angefochtenes Urteil S. 27 f.).
Der Beschwerdeführer sei schon in der ersten Befragung mit der Behauptung der Geschädigten konfrontiert worden, er habe ihre Kinder in drohender Weise ins Spiel gebracht. Er habe erst in späteren Einvernahmen diesen Hinweis auf die Kinder mit einem Schwur auf die eigenen Kinder erklärt. Es sei unrealistisch, dass die serbisch sprechende Geschädigte dies hätte missverstehen können. Lebensfremd sei es anzunehmen, dass sie wegen des Schwurs hätte in Tränen ausbrechen sollen, während dies bei Drohungen gegen ihre eigenen Kinder ohne Weiteres plausibel erscheine (angefochtenes Urteil S. 29 f.).
Zu den gerügten Widersprüchen hält die Vorinstanz fest, der Beschwerdeführer lenke vom Kernthema ab. Eine gewisse sprachliche Unbeholfenheit der Geschädigten sei unübersehbar. Die Geschädigte habe in ihrer ersten Aussage nicht erwähnt, dass die Drohungen im Restaurant erfolgten und dass die Zeugin anwesend war. Das sei aber kein "Verschweigen" und ändere nichts an ihrer Glaubhaftigkeit. Der Beschwerdeführer habe der Geschädigten nach dem Gespräch per SMS mitgeteilt, er habe vergessen, ihre Familie zu grüssen. Die Geschädigte habe vor Arbeitsgericht erklärt, dass sie die SMS alles andere als freundlich aufgefasst und dass sie die SMS beantwortet habe, um dem Beschwerdeführer gegenüber keine Angst zu zeigen. Diese SMS liessen keine ernsthaften Zweifel an der Belastung der Geschädigten aufkommen. Auch die nicht wörtliche Wiederholung in den verschiedenen Einvernahmen lasse die Darstellung der Geschädigten nicht als widersprüchlich erscheinen. Vor Arbeitsgericht habe die Geschädigte verneint, dass der Beschwerdeführer versucht habe, sie zu einer bestimmten Aussage zu bewegen. Das werde ihm in der Anklage auch nicht vorgeworfen. Vielmehr sei es ihm darum gegangen, die Geschädigte davon abzuhalten, als Zeugin zu erscheinen und auszusagen. Hätte er sie lediglich aufgefordert, vor Arbeitsgericht zu erscheinen und die Wahrheit zu sagen, wäre nicht nachvollziehbar, weshalb sie später zitternd und wie ein Häufchen Elend im Tram sass. Dass die Zeugin den Inhalt einzelner Drohungen nicht wiedergeben konnte, spreche nicht gegen deren Glaubhaftigkeit (angefochtenes Urteil S. 34 f.).
Eine willkürliche Beweiswürdigung oder eine Verletzung des Grundsatzes in dubio pro reo sind nicht ersichtlich. Die Geschädigte schilderte in allen Einvernahmen ausführlich und übereinstimmend, dass der Beschwerdeführer ihr erklärt hatte, er befinde sich im "Krieg" mit ihr und sie solle an ihre Kinder denken. Angesichts der gerichtsnotorischen Vorkommnisse im Bürgerkrieg im ehemaligen Jugoslawien wusste die Geschädigte, was das bedeutet. Dem Beschwerdeführer wird nicht vorgeworfen, er habe die Geschädigte zu Falschaussagen bewegen wollen. Die Geschädigte wie die Zeugin verneinten dies übereinstimmend. Die Aussagen des Beschwerdeführers stehen im wesentlichen Punkt im direkten Widerspruch zu jenen der Tatzeugin. Sie sind nicht nachvollziehbar und wirken phrasenhaft.
2.4 Zum Anspruch auf rechtliches Gehör zählt das Recht auf Abnahme rechtzeitig und formrichtig angebotener rechtserheblicher Beweismittel. Diese Verfassungsgarantie steht einer Ablehnung nicht rechtserheblicher Beweismittel in vorweggenommener Beweiswürdigung nicht entgegen (BGE 134 I 140 E. 5.3). Die EMRK gewährleistet ein faires Verfahren ("un procès équitable"), reglementiert aber nicht die Zulässigkeit der Beweismittel als solche. Die Weigerung einen Zeugen anzuhören, kann die Konvention verletzen, wenn die Gerichte in Willkür verfallen, insbesondere wenn die Weigerung nicht begründet wird (Urteil des EGMR in Sachen Bernhard Richard Bacchini gegen Schweiz vom 20. September 2011, Req. 4008/059). Art. 6 EMRK fordert eine genügende Möglichkeit für den Angeklagten zur Bestreitung einer Belastung und zur Befragung des Zeugen ("une occasion adéquate et suffisante de contester un témoinage à charge et d'en interroger l'auteur"; Urteil des EGMR in Sachen Werz gegen Schweiz vom 17. Dezember 2009, Req. 22015/05, Ziff. 57). Unter denselben Bedingungen kann er gemäss Art. 6 Ziff. 3 lit. d EMRK die Ladung und Vernehmung von Entlastungszeugen erwirken.
Die Vorinstanz begründet die Abweisung der Beweisanträge (angefochtenes Urteil S. 36-39). Der Beschwerdeführer wendet dagegen nichts Stichhaltiges ein. Willkür ist nicht ersichtlich. Es kann auf das Urteil verwiesen werden.
Der Beschwerdeführer konnte seinen Standpunkt darlegen und hatte im Verfahren die Möglichkeit zur Bestreitung der Belastung und zur konfrontativen Befragung der Geschädigten und der Tatzeugin. Andere Zeugen können keine entscheiderhebliche Aussagen zum Gespräch machen. Eine Verletzung der verfassungs- und konventionsrechtlich gewährleisteten Rechte des Beschwerdeführers ist zu verneinen.
3. Die weiteren Rechtsbegehren (oben Bst. C) stehen im Zusammenhang mit einer Gutheissung der Beschwerde und sind nicht selbstständig begründet. Darauf ist nicht einzutreten.
Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Ausgangsgemäss sind die Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Das Gesuch um unentgeltliche Rechtspflege ist wegen Aussichtslosigkeit der Rechtsbegehren abzuweisen (Art. 64 BGG). Die Vorinstanz geht von einer Mittellosigkeit des Beschwerdeführers aus (angefochtenes Urteil S. 7). Seiner finanziellen Lage ist mit herabgesetzten Gerichtskosten Rechnung zu tragen (Art. 65 Abs. 2 und Art. 66 Abs. 1 BGG).
Mit dem Entscheid in der Sache ist das Gesuch um aufschiebende Wirkung gegenstandslos geworden.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 22. Juni 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Briw