Sachverhalt:
A. Z._, geb. xxxx 1968, und X._, geb. xxxx 1966, heirateten am xxxx 1991. Sie haben die gemeinsamen Kinder S._, geb. xxxx 1994, und T._, geb. xxxx 1998. Während der Ehe widmete sich die vorher berufstätige Ehefrau hauptsächlich der Haushaltsführung und Kinderbetreuung. Am 27. Juli 2005 erlitt sie einen Hirnschlag. Seit Januar 2010 erhält sie eine volle IV-Rente, die zur Zeit Fr. 1'967.-- beträgt.
B. Am 8. Juli 2005 stellte die Ehefrau ein Eheschutzgesuch. Mit Entscheid des Bezirksgerichts Kreuzlingen vom 20. Oktober 2005 wurde festgestellt, dass die Parteien seit dem 15. Juli 2005 getrennt leben. Die Kinder wurden unter die Obhut der Mutter gestellt, indes verbunden mit der Weisung, dass sie mit ihnen nicht nach Brasilien auswandern dürfe.
Am 27. Juni 2006 verlangte der Ehemann, dass die Kinder unter seine Obhut zu stellen seien. Am 11. August 2006 zog er sein Gesuch wieder zurück.
Am 21. August 2007 wurde dem Bezirksgericht Hinwil das gemeinsame Scheidungsbegehren überwiesen. Mit Massnahmeverfügung vom 19. Oktober 2007 entzog dieses der Mutter mit sofortiger Wirkung die Obhut über die Kinder und stellte sie unter die väterliche Obhut. Mit Beschluss des Obergerichtes des Kantons Zürich vom 17. April 2008 wurde der Sohn unter die Obhut des Vaters und die Tochter unter diejenige der Mutter gestellt. Nachdem die Mutter im Rahmen von Gewaltschutzmassnahmen in Gewahrsam genommen worden war, wurde T._ mit superprovisorischer Verfügung des Bezirksgerichts Hinwil vom 20. Juni 2008 wieder unter die Obhut des Vaters gestellt. Am 25. Juni 2008 wurden die Kinder angehört. Im Massnahmeentscheid vom 20. August 2008 wurde die superprovisorische Verfügung bestätigt. Den hiergegen erhobenen Rekurs wies das Obergericht am 21. Oktober 2008 ab. Am 15. Juli 2009 wurde betreffend Kinderbelange das psychologische Gutachten erstattet.
Am 26. Oktober 2010 erging das Ehescheidungsurteil des Bezirksgerichts Hinwil, in welchem die Kinder unter die elterliche Sorge des Vaters gestellt wurden, unter detaillierter Regelung des Kontaktrechts der Mutter und Weiterführung der Erziehungs- und Besuchsrechtsbeistandschaft. Ausserdem wurde der Ehemann zu nachehelichem Unterhalt von Fr. 900.-- bis Februar 2013 verpflichtet. Ferner wurde die Schuldneranweisung aufgehoben und das Pensionskassenguthaben des Ehemannes geteilt.
Mit Bezug auf die elterliche Sorge über die Tochter, die Beistandschaft und den nachehelichen Unterhalt erhob die Ehefrau kantonale Berufung. Mit Urteil vom 17. Oktober 2011 stellte das Obergericht die Tochter T._ unter die elterliche Sorge des Vaters, unter detaillierter Regelung des Kontaktrechts der Mutter. Sodann hob es die Beistandschaft bezüglich S._ auf und bestätigte diejenige betreffend T._. Schliesslich sprach es der Ehefrau nachehelichen Unterhalt von Fr. 900.-- bis Januar 2013 und von Fr. 480.-- ab Februar 2013 bis zum Eintritt des Ehemannes ins ordentliche Pensionierungsalter zu mit der Feststellung, dass der Bedarf der Ehefrau bis Januar 2013 im Umfang von Fr. 792.-- und ab Februar 2013 im Umfang von Fr. 1'212.-- nicht gedeckt ist, und unter entsprechender Schuldneranweisung gegenüber der Arbeitgeberin des Ehemannes.
C. Gegen dieses Urteil hat die Ehefrau am 18. November 2011 eine Beschwerde in Zivilsachen eingereicht (Nr. 5A_801/2011) mit den Begehren, die Tochter T._ sei unter ihre elterliche Sorge zu stellen, unter Aufhebung der Beistandschaft, und der Ehemann sei zu einem Unterhaltsbeitrag von Fr. 900.-- (zzgl. Kinderzulagen) für T._ sowie zu nachehelichem Unterhalt von Fr. 2'252.-- bis zum Erreichen seines ordentlichen Pensionsalters zu verpflichten, unter Anpassung der festgestellten Unterdeckung und der Schuldneranweisung. Ferner wird die unentgeltliche Rechtspflege verlangt.
Am 21. November 2011 hat der Ehemann seinerseits eine Beschwerde in Zivilsache erhoben (Nr. 5A_808/2011) mit den Begehren, ab Februar 2013 sei von einer Unterhaltspflicht abzusehen und die Schuldneranweisung sei aufzuheben. Ferner wird die unentgeltliche Rechtspflege verlangt. Am 29. November 2011 reichte der Ehemann eine CD mit vom Telefonbeantworter überspielten Drohungen der Ehefrau ein. Am 7. Februar 2012 gab er das am 17. Januar 2012 versandte Strafurteil des Bezirksgerichts Hinwil vom 22. September 2011 zu den Akten, mit welchem die Ehefrau wegen Tätlichkeiten, mehrfacher Sachbeschädigung, mehrfachen Missbrauchs einer Fernmeldeanlage, mehrfachen Drohungen, mehrfachen Hausfriedensbruchs, mehrfachen Entziehens von Unmündigen, mehrfachen Ungehorsams gegen amtliche Verfügungen und geringfügigen Diebstahls zu einer Freiheitsstrafe von zwölf Monaten verurteilt worden war (das Urteil wurde von allen Seiten an das Obergericht des Kantons Zürich weitergezogen).
Zu den Beschwerden wurden keine Vernehmlassungen eingeholt, aber die kantonalen Akten beigezogen.

Erwägungen:
1. Namentlich mit Blick auf den von beiden Seiten angefochtenen nachehelichen Unterhalt, der unter dem speziellen Blickpunkt von <ref-law> festgesetzt wurde, scheint eine getrennte Beurteilung der beiden Beschwerden nicht sachgerecht, sind doch die darin konträr geltend gemachten Vorbringen geradezu ineinander verquickt. Zumal die Parteien identisch sind und sich beide Beschwerden gegen den gleichen Entscheid richten, rechtfertigt es sich deshalb, die Verfahren Nrn. 5A_801/2011 und 5A_808/2011 zu vereinigen.
In beiden Beschwerden sind u.a. nicht vermögensrechtliche Punkte eines kantonal letztinstanzlichen Endurteils in einer Zivilsache angefochten, so dass streitwertunabhängig die Beschwerde in Zivilsachen offensteht (Art. 72 Abs. 1, Art. 75 Abs. 1 und Art. 90 BGG).
Auf Seiten des Ehemannes unzulässig sind indes die nachgereichten Unterlagen (Novenverbot, <ref-law>), und zwar handelt es sich beim (ohnehin noch nicht rechtskräftigen) Strafurteil um ein echtes Novum, welches generell nicht berücksichtigt werden kann (vgl. <ref-ruling> E. 2.1 S. 344; Urteil 2C_94/2009 vom 16. Juni 2009 E. 2.2), und bei der CD, auf welcher mehrheitlich Anrufe aus der Zeit vor dem obergerichtlichen Urteil überspielt sind, um ein insoweit unechtes Novum, welches einzig dann zulässig wäre, wenn erst der angefochtene Entscheid dazu Anlass gegeben hätte (<ref-ruling> E. 3 S. 395; Urteil 4A_18/2010 vom 15.03.2010 E. 2.1, nicht publ. in <ref-ruling>), was vorliegend nicht der Fall ist. Ohnehin erwähnt aber auch das Obergericht mehrere Tonträger, auf welchen die Telefonattacken dokumentiert sind, und gibt das Strafurteil nur das wieder, was an strafrechtlich relevantem Verhalten bereits im angefochtenen Entscheid erwähnt ist.
2. Die Ehefrau verlangt die Zuteilung der elterlichen Sorge über die Tochter T._ an sich selbst.
2.1 Das Obergericht hat auf das im erstinstanzlichen Entscheid ausführlich behandelte Gutachten von Dr. phil. U._ vom 14. Juli 2009 verwiesen, wonach das Verhalten der Mutter auf eine schwere psychische Störung hinweist. T._ lebe in grosser Abhängigkeit zur Mutter und möchte bei ihr wohnen. Als Mädchen identifiziere sie sich mit der Mutter und ihr Alter erlaube ihr nicht, sich von dieser abzugrenzen. Sie werde von der Mutter vereinnahmt und im Kampf gegen den Vater instrumentalisiert. Das Verhalten der Mutter und die langjährige psychische Terrorisierung des Vaters, der sich um die Kinder bemühe, stelle eine erhebliche Gefahr für das Kindeswohl dar. S._ schütze sich durch emotionale Einkapselung. T._ sei dagegen dem mütterlichen Einfluss und deren feindseliger Weltsicht hilflos ausgeliefert. Sie laufe Gefahr, ähnliche psychische Strukturen auszubilden oder später psychisch zu erkranken. Ihre eigenen emotionalen Bedürfnisse könne sie nicht altersgemäss entwickeln, solange sie von der Mutter in diesem Ausmass vereinnahmt werde. Demgegenüber drehe sich beim Vater das ganze Bemühen um das Wohl der Kinder. Er unterstütze diese und ermögliche ihnen möglichst viele Kontakte zur Mutter, ohne Stellung zu beziehen. Er könne allerdings zu wenig klare Forderungen stellen, wenn die Kinder andere Wünsche hätten. Es falle ihm schwer, auf die Bedürfnisse der Kinder altersgerecht einzugehen.
Das Obergericht hat sodann festgestellt und erwogen, dass die Ehefrau die Kinder nach den Angaben des Ehemannes bis zur Trennung im Sommer 2005 gut erzogen und betreut habe. Zu berücksichtigen sei indes auch die anschliessende Situation und das Verhalten der Parteien. S._ habe sein erstes Lehrjahr mit guten Noten abgeschlossen. Auch T._, die nach der Trennung der Eltern und dem Umzug mit der Mutter nach A._ während 60 Tagen in der Schule gefehlt habe und deshalb die 2. Klasse habe repetieren müssen, werde nunmehr in der 5. Klasse mit guten Noten beurteilt. Das weise darauf hin, dass die Kinder unter der Obhut des Vaters in ihrer Ausbildung bisher erfolgreich seien und er seinen Erziehungsaufgaben durchaus gewachsen sei; die im Gutachten U._ festgehaltenen neuropsychologischen Befunde (minimale diffuse Hirnstörung) falle nicht ins Gewicht, zumal daraus auch bloss abgeleitet werde, dass der Vater "im erzieherischen Umgang unsicher und in mancherlei Hinsicht etwas zu gutgläubig oder naiv sei". Er sei "mit leichter Einschränkung" erziehungsfähig und könne die Kinder angemessen betreuen; insbesondere sei auch während seiner beruflichen Abwesenheit für die Betreuung von T._ gesorgt. Hingegen lasse es das Verhalten der Mutter als fraglich erscheinen, dass sie die Kinder bzw. T._ ebenso unterstützen könne. So werde in der Gefährdungsmeldung des Jugendamtes vom 31. August 2010 festgehalten, dass sie kürzlich aus der psychiatrischen Klinik entlassen worden sei und sich bereits wieder auf T._ "fixiere" und sich nicht an Abmachungen halte. Sie bringe die Tochter in einen Loyalitätskonflikt. Wesentlich sei sodann der Vermerk, dass T._ in der Zeit, in welcher die Mutter in Haft bzw. in der Klinik gewesen sei, aufgeblüht sei und sich die ganze Situation entspannt habe. In der Gefährdungsmeldung werde schliesslich festgehalten, dass es nicht zu verantworten sei, T._ wieder der Mutter zu überlassen. Hinzu komme, dass diese mit T._ nach Brasilien auswandern wolle, und es sei auch offensichtlich, dass sie mit ihren derzeitigen Wohnverhältnissen nicht in der Lage sei, T._ ständig bei sich zu haben und angemessen zu fördern. Gemäss dem ärztlichen Gutachten V._ und W._ sei die bei der Mutter seit Langem bestehende Persönlichkeitsstörung nur noch schwer einer Therapie zugänglich, zumal sie eine solche Behandlung strikt ablehne. Dies spreche gegen eine Zuweisung der elterlichen Sorge an die Mutter.
Das Obergericht hat weiter festgestellt und erwogen, dass indes T._ den Wunsch äussere, bei der Mutter zu wohnen. Dies sei grundsätzlich zu berücksichtigen, aber nur, soweit mit dem Kindeswohl vereinbar. Vorliegend würde die Zuteilung der elterlichen Sorge an die Mutter dazu führen, dass T._ aus dem bisherigen Umfeld und auch der engen Verbundenheit mit S._ sowie der Schule herausgerissen und sie in ein ganz anderes Umfeld verpflanzt würde, zumal die Mutter nach Brasilien auswandern wolle. Demgegenüber garantiere der Vater Kontinuität, und er ermögliche trotz der Anfeindungen eine Beziehung zwischen Tochter und Mutter, was für eine Zuteilung an den Vater spreche.
2.2 Soweit die Mutter die obergerichtlichen Sachverhaltsfeststellungen kritisiert, ist sie nicht zu hören: Diese sind für das Bundesgericht verbindlich (<ref-law>) und es könnte diesbezüglich einzig geltend gemacht werden, dass der Sachverhalt offensichtlich unrichtig festgestellt worden sei (<ref-law>), wobei "offensichtlich unrichtig" mit "willkürlich" gleichzusetzen ist (Botschaft, BBl 2001 IV 4338; <ref-ruling> E. 7.1 S. 398), oder er auf einer anderen Rechtsverletzung im Sinn von <ref-law> beruhe (z.B. <ref-law> oder <ref-law>). Für all diese Elemente gilt das strenge Rügeprinzip (<ref-law>; <ref-ruling> E. 1.4.2 S. 255). Das bedeutet, dass das Bundesgericht nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Lage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 2.2 S. 246). Diesen Anforderungen vermögen die rein appellatorischen Ausführungen, in deren Zusammenhang kein einziges verfassungsmässiges Recht als verletzt angerufen wird, nicht zu genügen.
2.3 In rechtlicher Hinsicht macht die Beschwerdeführerin geltend, dass sie nach den obergerichtlichen Feststellungen immer gut zu den Kindern geschaut habe und für einen Verbleib beim Vater einzig das Kriterium der Kontinuität spreche. Demgegenüber könne sie eine persönliche Betreuung gewährleisten, während der Vater auf die Mithilfe von Dritten angewiesen sei. Vor diesem Hintergrund komme dem Wunsch von T._ besondere Bedeutung zu. Sie habe konstant und mehrfach ausgesagt, dass sie zur Mutter möchte, und zwar auch dann, wenn diese nicht in Freiheit gewesen sei und entsprechend keinerlei Einfluss auf die Tochter habe nehmen können. Zudem sei die von den Kindern gewünschte Situation (Tochter zur Mutter, Sohn zum Vater) schon einmal gelebt worden und dies habe zu keinen Problemen zwischen den Geschwistern geführt.
2.4 Dem Sachgericht kommt bei der Kinderzuteilung ein Ermessen zu (<ref-law>), in welches das Bundesgericht nur mit einer gewissen Zurückhaltung eingreift (<ref-ruling> E. 3 S. 355). Die kantonalen Gerichte haben sich bei ihrem Entscheid auf die gutachterlichen Empfehlungen und im Übrigen auf sachliche Kriterien abgestützt (fehlende Frustrations- und Bindungstoleranz sowie gegenüber der Tochter völlig vereinnehmendes Verhalten der Mutter [zu ihrem Verhalten vgl. im Übrigen auch E. 3.2], während der Vater Bindungstoleranz aufweise und die Kinder unterstütze, welche unter seiner Obhut aufgeblüht seien und schulische Erfolge zeigten).
Sodann hat das Obergericht den Wunsch der Tochter keineswegs ausser Acht gelassen, diesem aber das letztlich ausschlaggebende Kindeswohl gegenüber gestellt (Entscheid 5A_591/2008 vom 24. Oktober 2008 E. 5.1) und mit sachlichen Argumenten begründet, weshalb das Wohl von T._ bei der Zuteilung der elterlichen Sorge der Mutter akut gefährdet wäre (völlige Identifikation mit der Mutter; fehlende Möglichkeit der Abgrenzung bzw. hilfloses Ausgeliefertsein; Gefahr, selbst ähnliche psychische Strukturen auszubilden oder später psychisch zu erkranken).
Aus dem Gesagten ergibt sich, dass entgegen der Behauptung der Mutter keineswegs nur die Kontinuität für eine Zuteilung an den Vater spricht und bei einer Zuteilung an sie klarerweise von einer Gefährdung des Kindeswohles ausgegangen werden müsste. Der angefochtene Entscheid ist deshalb zu schützen.
2.5 Bei diesem Ergebnis ist das mit Blick auf die gewünschte Zuteilung gestellte Begehren der Mutter um Zuspruch von Unterhaltsbeiträgen für die Tochter gegenstandslos.
3. Die Mutter kritisiert ferner, dass im Unterschied zu S._ nicht auch die Beistandschaft bezüglich T._ aufgehoben worden sei.
3.1 Das Obergericht hat erwogen, dass es gemäss Aussagen des Vaters auch mit T._ "eigentlich sehr gut läuft" und dass die Besuche bei der Mutter keine Schwierigkeiten bereiten, welche eine Beistandschaft erfordern würden; ebenso könne mit Bezug auf die schulische Ausbildung davon ausgegangen werden, dass T._ genug gefördert werde. Anlässlich der Berufungsverhandlung habe der Vater indes vorgebracht, dass er auf Unterstützung durch die Beiständin angewiesen sei und T._ ein gutes Verhältnis zu ihr habe. Ungefähr alle drei Monate finde ein Treffen statt und er könne sich bei allfälligen Problemen mit ihr aussprechen. Vor diesem Hintergrund erscheine es sinnvoll, die Beistandschaft für die 13-jährige Tochter weiterzuführen, und zwar mit dem Auftrag, den Vater bei allfälligen Schwierigkeiten zu unterstützen (beispielsweise kieferorthopädische Behandlung für T._, welche wegen der Intervention der Mutter noch nicht habe durchgeführt werden können).
3.2 Die Behauptung der Mutter, das Verhältnis der Tochter zur Beiständin sei schlecht und sie lehne diese ab, ist ebenso wenig zu hören wie ihre Kritik an der Beiständin (deren Tätigkeit sei wirkungslos bzw. sie vergrössere die Probleme nur) und die Rechtfertigung ihrer Intervention bezüglich kieferorthopädischer Behandlung; all dies betrifft den Sachverhalt, ohne dass die Verletzung verfassungsmässiger Rechte angerufen wird (vgl. E. 2.2). In rechtlicher Hinsicht werden keine Ausführungen gemacht, weshalb die Anwendung des Bundesrechts nicht zu überprüfen ist (<ref-law>; <ref-ruling> E. 1.1. S. 104 f.).
4. In Bezug auf den nachehelichen Unterhalt wirft der Ehemann dem Obergericht vor, im Zusammenhang mit dem für die Zeit von Februar 2013 bis zur Pensionierung festgesetzten Unterhalt <ref-law> falsch angewandt zu haben.
4.1 Dass die Ehe lebensprägend war, wird nicht bestritten. Vielmehr macht der Ehemann geltend, das Obergericht habe ausschliesslich das Vorliegen einer schweren Straftat im Sinn von <ref-law> verneint und ausser Acht gelassen, dass aufgrund des Wortes "insbesondere" auch andere als die in Ziff. 1 bis 3 genannten Ausschlussgründe denkbar seien. Vorliegend sei eine offensichtliche Unbilligkeit gegeben, weil das Stalking und die Drohungen der Ehefrau an Intensität einer schweren Straftat glichen.
Soweit dies mit den neu eingereichten Beweismitteln begründet wird, kann auf die Ausführungen infolge des Novenverbotes nicht eingegangen werden (vgl. E. 1). Soweit für die offensichtliche Unbilligkeit auf die für das Bundesgericht verbindlichen Sachverhaltsfeststellungen (<ref-law>) abgestellt wird, ergibt sich, was nachfolgend dargestellt wird.
4.2 Das Obergericht hat dem Ehemann vorgehalten, es im Berufungsverfahren unterlassen zu haben, detailliert aufzuzeigen, weshalb ein Unterhaltsbeitrag ganz zu verweigern oder zu kürzen sei. Er habe lediglich auf die "Deliktserie" sowie die Gewaltschutzmassnahmen verwiesen und geltend gemacht, die Ehefrau terrorisiere ihn mit Morddrohungen, nächtlichen Telefonaten, Sachbeschädigungen und tätlichen Angriffen. Aus den Akten ergebe sich, dass mit Verfügung vom 4. Mai 2008 Massnahmen nach dem Gewaltschutzgesetz erlassen und mit Verfügung vom 9. Mai 2008 gegenüber der Ehefrau ein Rayonverbot ausgesprochen und das Kontaktverbot verlängert worden sei. Im Rahmen eines weiteren Gewaltschutzverfahrens sei am 17. Juni 2008 der Polizeigewahrsam verlängert worden, nachdem die Ehefrau mehrmals gegen die Gewaltschutzmassnahmen verstossen habe. Sie habe bestätigt, den Ehemann geschlagen und bedroht zu haben, wobei die Drohungen nicht ernst gemeint gewesen seien. Mit Verfügung vom 26. September 2008 habe der Haftrichter die mit Verfügung der Kantonspolizei angeordneten Schutzmassnahmen aufgrund wiederholter Belästigungen, Drohungen und körperlicher Angriffe bestätigt und bis 15. November 2008 verlängert. Auch im Rahmen der vorsorglichen Massnahmen im Scheidungsverfahren seien Kontaktverbote angeordnet worden. Aus einer Verfügung der Haftrichterin vom 16. März 2009 gehe schliesslich hervor, dass die Ehefrau seit Oktober 2008 in Untersuchungshaft gewesen und eine Haftentlassung aufgrund der Wiederholungsgefahr abgewiesen worden sei. Aus dem Beschluss des Bezirksgerichts Hinwil vom 9. Dezember 2010 gehe schliesslich hervor, dass der Antrag der Staatsanwaltschaft, das Verfahren einzustellen und eine stationäre Massnahme im Sinn von <ref-law> (psychische Störung) anzuordnen, abgewiesen und das Verfahren zur Anklageerhebung zurückgewiesen worden sei mit der Begründung, dass aufgrund der Begutachtung von einer paranoid-querulatorischen Persönlichkeitsstörung auszugehen sei, welche eine Verminderung, aber nicht die gänzliche Aufhebung der Einsichts- und Steuerungsfähigkeit zur Folge habe, denn die Ehefrau habe nicht im Wahn, sondern im Bewusstsein delinquiert, etwas Unrechtes zu tun in der (fehlerhaften) Überzeugung, es sei ihr ebenfalls Unrecht angetan worden; sie habe erklärt, ausgerastet zu sein, weil sie Angst gehabt habe, dass der Mann ihr die Kinder für immer wegnehme. Im Rahmen der Begutachtung seien folgende Vorwürfe zur Sprache gekommen: Einschlagen mit einem Pflasterstein auf das Auto des Ehemannes; Hausfriedensbruch; mehrfache Tätlichkeiten; mehrfacher Missbrauch einer Fernmeldeanlage; Verkleben der Türschlösser des Autos des Ehemannes. Die Delikte seien in hoher Zahl und jeweils kurzfristig nach erlebter Frustration und Kränkung durch den Ehemann oder aufgestauter Wut, die sich in Affekthandlungen entladen habe, verübt worden. Dabei spielten eine verminderte Frustrationstoleranz und erhöhte Kränkbarkeit sowie eine reduzierte Impulskontrolle eine Rolle, und besonders ins Auge falle das streitsüchtige und beharrliche, situationsunangemessene Bestehen auf eigenem Recht, auch wenn die Aussichten auf dessen Durchsetzung objektiv betrachtet unrealistisch seien.
4.3 Ausgehend von diesen Feststellungen hat das Obergericht befunden, diese Vorwürfe genügten nicht, um gestützt auf <ref-law> eine Unterhaltspflicht gänzlich zu verneinen. Es könne nicht von einer schweren Straftat im Sinn von <ref-law> ausgegangen werden. Die Vorfälle stünden in direktem Zusammenhang mit dem Scheidungsverfahren und seien quasi im Affekt erfolgt. Völlig ausser Acht gelassen werden könne das Verhalten der Ehefrau indes nicht, zumal auch wiederholte Beschimpfungen mit den vom Gesuchsteller eingereichten Tonträgern belegt seien. Insgesamt grenze das Verhalten der Ehefrau an einen Sachverhalt, der mit den Bestimmungen von <ref-law> gleichgesetzt werden könne. Im Ergebnis bedeute dies, dass bei der Ermittlung des vom Gesuchsteller zu leistenden Unterhaltsbeitrages jedenfalls die Deckung seines gebührenden Bedarfes und ein grosszügiger Unterhalt der Kinder zu gewährleisten sei.
4.4 Wie bereits vor Obergericht stellt der Ehemann den Unterhaltsbeitrag von Fr. 900.-- bis Januar 2013 nicht in Frage und ebenso wenig, dass er den Beitrag von Fr. 480.-- ab Februar 2013 finanziell tragen kann. Er ist jedoch der Ansicht, dass der über Januar 2013 hinausgehende Unterhaltsbeitrag angesichts des Verhaltens der Ehefrau offensichtlich unbillig im Sinn von <ref-law> sei.
Diesbezüglich ist zunächst festzuhalten, dass die Aufzählung in Ziff. 1 bis 3 von <ref-law> nicht abschliessend ist, wie das Wort "insbesondere" verdeutlicht (<ref-ruling> E. 2a S. 66 f. mit ausführlicher Darstellung des parlamentarischen Differenzbereinigungsverfahrens zur betreffenden Norm; sodann Urteile 5C.238/2000 vom 8. Dezember 2000 E. 2a; 5P.142/2003 vom 9. Juli 2003 E. 2.1; 5C.232/2004 vom 10. Februar 2005 E. 2.3). Gleichzeitig wird in der bundesgerichtlichen Rechtsprechung aber deutlich hervorgehoben, dass der Revision des Scheidungsrechtes die Idee zugrunde lag, dass im Grundsatz vom Verschuldensprinzip abzukehren sei, und deshalb die Ausnahmenorm von <ref-law> mit grosser Zurückhaltung anzuwenden sei (<ref-ruling> E. 2a S. 66; Urteile 5C.238/2000 vom 8. Dezember 2000 E. 2a; 5C.232/2004 vom 10. Februar 2005 E. 2.3). So ist beispielsweise jahrelange Untreue ebenso wenig ein Ausschlussgrund (<ref-ruling> E. 2b S. 67) wie ein jähzorniger und agressiver Charakter, der gar in Todesdrohungen mündet (Urteile 5C.232/2004 vom 10. Februar 2005 E. 2.4; 5C.286/2006 vom 12. April 2007 E. 3.4.2).
Freilich geht im vorliegenden Fall das Verhalten der Ehefrau noch über das im Urteil 5C.232/2004 vom 10. Februar 2005 E. 2.4 Geschilderte hinaus, so dass sich angesichts des chronischen Stalkings und der verbalen wie physischen Angriffe in der Tat die Frage stellt, ob die Schwelle zur "offensichtlichen Unbilligkeit" im Sinn von <ref-law> erreicht sei. Es ist aber auch zu berücksichtigen, dass die Ehefrau an einer in mehreren Gutachten dokumentierten Persönlichkeitsstörung leidet und ihre Aggressionen jeweils durch die Angst, es würden ihr die Kinder entzogen, ausgelöst wurden und sich quasi im Affekt entluden.
Das Obergericht hat in dieser spezifischen Konstellation zu Recht erwogen, dass ein Grenzfall gegeben sei, und es hat von seinem Ermessen, welches im Zusammenhang mit <ref-law> besteht, sachgerechten Gebrauch gemacht, wenn es der Norm, die von einem gänzlichen Ausschluss oder von einer Reduktion des Unterhaltes spricht, durch eine grosszügigen Bemessung des schuldnerischen Bedarfes Rechnung getragen hat, was faktisch eine deutliche Reduktion des potenziell geschuldeten Unterhaltes bedeutet. Vor dem Hintergrund der lebensprägenden Ehe (lange Dauer; Aufgabe der Erwerbstätigkeit; Haushaltsführung; Kindererziehung) einerseits und dem Verhalten im Zusammenhang mit der Scheidung und Kinderzuteilung andererseits wird eine Rente von Fr. 480.-- bei einem Nettoeinkommen von Fr. 6'600.-- allen Billigkeitsüberlegungen gerecht.
5. Eben diese in E. 4.4 angesprochene grosszügige Bemessung des Bedarfes des Ehemannes kritisiert die Ehefrau.
5.1 Das Obergericht ist von einem Bedarf des Ehemannes von Fr. 6'820.-- (beinhaltend u.a. Fr. 600.-- Grundbetrag pro Kind, Fr. 1'929.-- Wohnkosten, Fr. 250.-- für kieferorthopädische Behandlung, Fr. 200.-- für Tagesmutter und Fr. 500.-- Steuern) sowie einem Nettoeinkommen von Fr. 6'600.-- (zzgl. IV-Kinderrenten und Kinderzulagen) ausgegangen. Es hat sodann räsoniert, dass der effektive Bedarf der Kinder höher sei als der rechnerisch berücksichtigte Betreibungsansatz, nämlich angesichts ihres Alters je rund Fr. 1'300.--, wovon Fr. 250.-- bzw. Fr. 330.-- durch die Kinderzulagen gedeckt werde. An die verbleibenden Beträge seien die IV-Kinderrenten von je Fr. 787.-- anzurechnen, so dass der Vater mit insgesamt rund Fr. 500.-- aus seinem Einkommen an den Kinderunterhalt beizutragen habe. Ersetze man die betreibungsrechtlichen Ansätze der Kinder von je Fr. 600.-- durch diesen Betrag, verringere sich der Bedarf des Ehemannes auf Fr. 6'120.-- pro Monat, womit er einen Überschuss von Fr. 480.-- pro Monat aufweise, der als Basis für den nachehelichen Unterhalt dienen könne.
5.2 Die Ehefrau wirft dem Obergericht vor, verschiedene Bemessungsmethoden vermengt zu haben und verlangt, dass die Berechnung sich streng nach dem betreibungsrechtlichen Existenzminimum richte, dass die Wohnkosten des Ehemannes herabzusetzen, die Kinderrenten sowie der Lehrlingslohn von Samuel zu berücksichtigen und ferner die Krankenkassenprämien für die Kinder sowie andere Positionen abzuziehen seien.
5.3 Vor dem Hintergrund des in E. 4.4 Gesagten ist das obergerichtliche Vorgehen nicht zu beanstanden. Angesichts der Tatsache, dass es sich beim Verhalten der Ehefrau um einen Grenzfall handelt, bei welchem sich auch eine gänzliche Aufhebung des nachehelichen Unterhaltes vertreten liesse, entspricht es Recht und Billigkeit, wenn das Obergericht den Ehemann und die Kinder nicht auf das nackte Existenzminimum gesetzt, sondern ihre Aufwendungen mit einer gewissen Grosszügigkeit bemessen hat. Die vom Obergericht getroffene Lösung hält vor Bundesrecht nicht nur stand, sondern wendet dieses vielmehr sachgerecht an.
6. Der Ehemann macht weiter geltend, das Obergericht habe mit der Schuldneranweisung gegen <ref-law> und <ref-law> verstossen. Zuständig hierfür sei nämlich nicht der Scheidungsrichter; vielmehr handle es sich um eine im summarischen Verfahren anzuordnende Zwangsvollstreckungsmassnahme.
Der Ehemann überliest den Gesetzestext von <ref-law>, mit welchem die betreffende Zuständigkeit ausserhalb eines Prozesses über den nachehelichen Unterhalt geregelt wird. Innerhalb des Scheidungsprozesses gibt direkt <ref-law> dem Scheidungsrichter die Kompetenz zur Schuldneranweisung.
Soweit der Ehemann ausführt, weshalb es ihm nicht immer möglich gewesen sei, die Unterhaltsbeiträge zu bezahlen - die obergerichtliche Feststellung, dass die Unterhaltsbeiträge in der Vergangenheit wiederholt nicht bezahlt wurden und betrieben werden mussten, wird nicht in Frage gestellt -, ist darauf hinzuweisen, dass die Anweisung verschuldensunabhängig an die Vernachlässigung der Unterhaltspflicht anknüpft (SCHWENZER, FamKomm Scheidung, N. 2 zu <ref-law>; BREITSCHMID, Basler Kommentar, N. 7 zu Art. 131/132 ZGB; SUTTER/FREIBURGHAUS, Kommentar zum neuen Scheidungsrecht, N. 7 zu <ref-law>), weshalb die Ausführungen nicht geeignet sind, einen Verstoss gegen Bundesrecht darzutun.
7. Zusammenfassend ergibt sich, dass beide Beschwerden in Zivilsachen abzuweisen sind, soweit darauf eingetreten werden kann. Sie können jedoch nicht als von Anfang an aussichtslos bezeichnet werden, weshalb den prozessarmen Parteien die unentgeltliche Rechtspflege zu bewilligen ist (<ref-law>) und sie je durch ihre Rechtsvertreter zu verbeiständen sind (<ref-law>). Die infolge Beschwerdeabweisung je zur Hälfte von den Parteien zu tragenden Gerichtskosten (<ref-law>) sind deshalb einstweilen auf die Bundesgerichtskasse zu nehmen und die Rechtsvertreter sind aus der Bundesgerichtskasse zu entschädigen.

Demnach erkennt das Bundesgericht:
1. Die Verfahren Nrn. 5A_801/2011 und 5A_808/2011 werden vereinigt.
2. Die Beschwerden in Zivilsachen werden abgewiesen, soweit darauf einzutreten ist.
3. Beiden Parteien wird die unentgeltliche Rechtspflege erteilt.
4. Die Gerichtskosten von Fr. 2'000.-- werden den Parteien je zur Hälfte auferlegt, jedoch einstweilen auf die Gerichtskasse genommen.
5. Die Rechtsanwälte Christian Koch und Christian Schroff werden aus der Gerichtskasse mit je Fr. 1'000.-- entschädigt.
6. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 29. Februar 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Möckli