Sachverhalt:
A. Die Ehe von X._ wurde nach einem langwierigen Prozess vom Bezirksgericht Meilen am 15. Dezember 2008 geschieden. Im Verlauf des Scheidungsverfahrens, und auch nach dessen Abschluss, stellte X._ dem zuständigen Gerichtspräsidenten Y._ verschiedene Drohschreiben zu. Teilweise legte er kopierte Zeitungsartikel mit Schlagzeilen wie "Bei Scheidungsprozess Blutbad im Gerichtssaal" oder "Sorgerechtsstreit endet tödlich" bei. Auch änderte er einen Artikel der Zeitung "20minuten" ab, versah diesen mit einem Bild des Gerichtspräsidenten und verfasste als Bildunterschrift den Titel "Rechtloser Vater tötet korrupten Richter".
B. Das Bezirksgericht Zürich verurteilte X._ am 10. März 2011 wegen mehrfacher versuchter Gewalt und Drohung gegen Behörden und Beamte sowie wegen einer weiteren, hier nicht interessierenden, Straftat zu einer Geldstrafe von 360 Tagessätzen zu Fr. 30.-- und einer Busse von Fr. 100.--. Den Vollzug der Geldstrafe schob es auf und setzte die Probezeit auf drei Jahre fest.
Auf Berufung von X._ bestätigte das Obergericht des Kantons Zürich am 27. August 2012 im Wesentlichen das erstinstanzliche Urteil. Es sprach ihn zusätzlich der mehrfachen Drohung schuldig und bestrafte ihn mit einer bedingten Geldstrafe von 300 Tagessätzen zu Fr. 20.-- sowie einer Busse von Fr. 100.--.
C. X._ erhebt Beschwerde in Strafsachen. Er beantragt, das obergerichtliche Urteil aufzuheben, die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen und ihm die unentgeltliche Rechtspflege zu gewähren.
Erwägungen:
1.1 Der Beschwerdeführer macht eine Verletzung des Anklagegrundsatzes geltend. Im Zusammenhang mit dem Vorwurf der versuchten Gewalt und Drohung gegen Behörden und Beamte bezeichne die Anklage nicht, zu welchen konkreten Amtshandlungen er mit welchen Briefen das Bezirksgericht Meilen zu nötigen versucht habe.
1.2 Die Vorinstanz hält fest, dass die Anklage zunächst die dem Beschwerdeführer zum Vorwurf gemachten Schreiben mit den darin enthaltenen Drohungen im Einzelnen aufführe. Im Anschluss daran umschreibe sie aber auch, was der Beschwerdeführer mit seinen Drohbriefen beabsichtigt habe. Im Zusammenhang mit dem bevorstehenden Entscheid über das Sorge- und Besuchsrecht habe er Druck auf den zuständigen Richter ausüben und damit seinen im Scheidungsprozess gestellten Begehren Nachdruck verschaffen wollen. Damit bringe die Anklage in hinreichend konkretisierter Art zum Ausdruck, was dem Beschwerdeführer vorgeworfen wird.
1.3 Nach Art. 9 Abs. 1 StPO kann eine Straftat nur gerichtlich beurteilt werden, wenn die Staatsanwaltschaft gegen eine bestimmte Person wegen eines genau umschriebenen Sachverhalts beim zuständigen Gericht Anklage erhoben hat. Der aus Art. 29 Abs. 2 und Art. 32 Abs. 2 BV sowie aus Art. 6 Ziff. 1 und Ziff. 3 lit. a und b EMRK abgeleitete Anklagegrundsatz verlangt, dass die Anklage einerseits die Person bestimmt, gegen die sich das Strafverfahren richtet und andererseits den Sachverhalt umreisst, der Gegenstand der gerichtlichen Beurteilung bildet (Umgrenzungsfunktion). Die Anklage hat die der beschuldigten Person zur Last gelegten Delikte in ihrem Sachverhalt so präzise zu umschreiben, dass die Vorwürfe genügend konkretisiert sind. Das Anklageprinzip bezweckt zugleich den Schutz der Verteidigungsrechte der beschuldigten Person (Informationsfunktion) und garantiert den Anspruch auf rechtliches Gehör (BGE 126 I 19 E. 2a mit Hinweisen). Das Gericht ist an den in der Anklage wiedergegebenen Sachverhalt gebunden, nicht aber an dessen rechtliche Würdigung durch die Anklagebehörde (vgl. BGE 133 IV 235 E. 6.3 mit Hinweisen). Überspitzt formalistische Anforderungen dürfen an die Anklageschrift nicht gestellt werden (vgl. Urteil 6B_966/2009 vom 25. März 2010 E.3.3).
Die Anklageschrift schildert den Sachverhalt hinreichend präzise, sodass die Vorwürfe in objektiver und subjektiver Hinsicht genügend konkretisiert sind. Sie bestimmt das Prozessthema und ermöglicht eine wirksame Verteidigung. Die dem Beschwerdeführer zur Last gelegten Schreiben werden in der Anklageschrift unter Angabe des Empfängers, des Datums, des wesentlichsten Inhalts und der Beilagen aufgeführt. Der Beschwerdeführer ist grundsätzlich geständig, diese Schreiben verfasst und zugestellt zu haben, sodass er nicht ernsthaft behaupten kann, er habe seine Verteidigungsrechte wegen fehlender Kenntnis der ihm vorgeworfenen Handlungen nicht hinreichend wahren können.
2. 2.1 Der Beschwerdeführer macht weiter geltend, dass er allenfalls indirekte Drohungen ausgesprochen, diese aber nicht auf eine bestimmte Amtshandlung bezogen habe.
2.2 Die Vorinstanz erwägt, dass der Beschwerdeführer mit seinen Drohbriefen Druck auf den für das anhängige Scheidungsverfahren zuständigen Richter habe ausüben wollen. Damit habe er erreichen wollen, dass dieser seinen Anträgen bezüglich Sorge- und Besuchsrecht stattgebe. Die mit den Drohungen erfolgte Nötigung sei somit klar auf die vom Gerichtspräsidenten im Rahmen des Scheidungsprozesses vorzunehmenden Amtshandlungen ausgerichtet gewesen.
2.3 Das vom Beschwerdeführer mit seinen nötigenden Handlungen angestrebte Ziel ist hinreichend konkretisiert. Entscheidend ist nicht, welche konkreten Anordnungen er mit seinen Drohbriefen bewirken wollte. Vielmehr muss es genügen, dass der Beschwerdeführer "Recht und Gerechtigkeit" schaffen (Beschwerde S. 5) und damit konkret Einfluss auf sein hängiges Scheidungsverfahren nehmen wollte. Bezeichnenderweise führte er denn auch anlässlich der psychiatrischen Begutachtung aus, mit den Drohbriefen habe sich alles geändert. Schnell habe er gemerkt, dass er nur auf diese Weise seine Anliegen und Wünsche zumindest teilweise habe umsetzen können (kantonale Akten, ER/HD act. 20/9).
3. 3.1 Schliesslich macht der Beschwerdeführer geltend, er habe sich in einer psychischen Ausnahmesituation befunden. Dadurch seien seine Handlungsoptionen in einer Weise beschränkt gewesen, welche sein Vorgehen jedenfalls zu entschuldigen vermöge. Mit dieser, bereits im Berufungsverfahren vorgebrachten, Argumentation habe sich die Vorinstanz nicht befasst.
3.2 Entgegen der Darstellung des Beschwerdeführers hat sich die Vorinstanz mit der Frage der psychischen Ausnahmesituation unter dem Gesichtspunkt der Schuldfähigkeit intensiv auseinandergesetzt (Urteil S. 27-31). Sie gelangt gestützt auf das von ihr eingeholte Ergänzungsgutachten (kantonale Akten, act. 93/1) zum Schluss, dass es dem Beschwerdeführer jederzeit möglich war, das Unrecht seiner Taten einzusehen, jedoch seine Fähigkeit, gemäss dieser Einsicht zu handeln, aufgrund der schweren Persönlichkeitsstörung in geringem Grad eingeschränkt war.
3.3 Der Beschwerdeführer bringt nichts vor, das geeignet wäre, die zutreffenden Ausführungen der Vorinstanz in Zweifel zu ziehen. Die von ihm aufgeworfene Frage der "Entschuldbarkeit" bildet in strafrechtsdogmatischer Hinsicht einen Bestandteil der Schuldfähigkeit, welche die Vorinstanz mit zutreffenden Erwägungen ausführlich gewürdigt hat.
4. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Sein Gesuch um Gewährung der unentgeltlichen Rechtspflege ist abzuweisen, da die Beschwerde von vornherein aussichtslos erschien. Seiner finanziellen Lage ist mit herabgesetzten Gerichtskosten Rechnung zu tragen (Art. 65 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'600.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Strafkammer, schriftlich mitgeteilt.
Lausanne, 6. Februar 2013
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Briw