Sachverhalt:
A. Mit Urteil vom 13. Mai 2011 schied das Bezirksgericht Dielsdorf die Ehe zwischen X._ (1970) und Z._ (1972). Das gemeinsame Kind Y._ (geb. 27. April 2004) wurde unter die elterliche Sorge der Mutter gestellt, unter Regelung des Besuchsrechts des Vaters und Verpflichtung desselben zu Kindesunterhaltsbeiträgen von Fr. 815.-- (zzgl. Kinderzulagen).
Mit Urteil vom 27. Dezember 2011 bestätigte das Obergericht des Kantons Zürich die Regelung der Kinderbelange.
B. Diesbezüglich hat der Vater am 8. Februar 2012 eine Beschwerde in Zivilsachen eingereicht, mit welcher er beantragt, das Kind Y._ sei unter seine elterliche Sorge zu stellen, unter Festlegung des Besuchsrechts der Mutter und deren Verpflichtung zu Kindesunterhaltsbeiträgen von Fr. 650.--, eventualiter sei die Sache zur Vornahme weiterer Abklärungen zum Kindeswohl an das Obergericht zurückzuweisen. Ferner wird die hälftige Verteilung der kantonalen Kosten (statt 2/3 der erstinstanzlichen sowie gesamte oberinstanzliche Kosten zulasten des Vaters) sowie die unentgeltliche Rechtspflege verlangt. Mit Präsidialverfügung vom 24. Februar 2012 wurde antragsgemäss die aufschiebende Wirkung erteilt. In der Sache selbst wurden keine Vernehmlassungen eingeholt.

Erwägungen:
1. Angefochten sind vermögensrechtliche und nicht vermögensrechtliche Nebenfolgen eines kantonal letztinstanzlichen Scheidungsurteils; somit steht die Beschwerde in Zivilsachen streitwertunabhängig offen (Art. 72 Abs. 1, Art. 74 Abs. 1, Art. 75 Abs. 1 und Art. 90 BGG).
2. In rechtlicher Hinsicht sind bei der Beschwerde in Zivilsachen alle Rügen gemäss Art. 95 f. BGG zulässig und das Bundesgericht wendet in diesem Bereich das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), was heisst, dass es behauptete Rechtsverletzungen (Art. 42 Abs. 2 BGG) mit freier Kognition prüft.
Dagegen ist das Bundesgericht an den festgestellten Sachverhalt grundsätzlich gebunden (Art. 105 Abs. 1 BGG). Diesbezüglich kann einzig vorgebracht werden, er sei offensichtlich unrichtig festgestellt worden (Art. 97 Abs. 1 BGG), wobei "offensichtlich unrichtig" mit "willkürlich" gleichzusetzen ist (Botschaft, BBl 2001 IV 4338; <ref-ruling> E. 1.2.2 S. 252; <ref-ruling> E. 7.1 S. 398), oder er beruhe auf einer anderen Rechtsverletzung im Sinn von Art. 95 BGG (z.B. Art. 29 Abs. 2 BV oder Art. 8 ZGB). Ausserdem muss in der Beschwerde aufgezeigt werden, inwiefern die Behebung der vorerwähnten Mängel für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; <ref-ruling> E. 2.2.2 S. 22). Für all diese Elemente gilt das strenge Rügeprinzip (Art. 106 Abs. 2 BGG; <ref-ruling> E. 1.4.2 S. 255). Das bedeutet, dass das Bundesgericht nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Lage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 2.2 S. 246).
In der Beschwerde in Zivilsachen dürfen überdies keine neuen Tatsachen und Beweismittel vorgebracht werden, es sei denn, erst der Entscheid der Vorinstanz habe dazu Anlass gegeben (Art. 99 Abs. 1 BGG). In der Beschwerde ist darzutun, inwiefern die Voraussetzung für eine nachträgliche Einreichung von Tatsachen und Beweismitteln erfüllt sein soll (BGE <ref-ruling> E. 3 S. 395).
3. In tatsächlicher Hinsicht hat das Obergericht (teilweise unter Verweis auf das erstinstanzliche Urteil) festgehalten, dass die Parteien seit dem 27. August 2007 getrennt lebten. Als sich die Wohnsituation bei der Mutter verschlechtert habe, hätten die Parteien Ende 2008 vereinbart, dass Y._ bis Mai 2009 bei den Grosseltern väterlicherseits im Kosovo betreut werde, damit sie beide ihre jeweilige Wohn- und Arbeitssituation in Ordnung bringen könnten. Die Rückkehr von Y._ in die Schweiz habe sich bis September 2009 verzögert. Seither wohne er beim Vater. Mit bezirksgerichtlicher Verfügung vom 29. Dezember 2009 sei ihm für die Dauer des Scheidungsverfahrens die alleinige Obhut zugeteilt worden. Das bei Dr. phil. W._ in Auftrag gegebene kinderpsychologische Gutachten zum Sorge- und Besuchsrecht komme zum Schluss, dass beide Elternteile grundsätzlich erziehungsfähig seien, die Mutter allerdings für die Übernahme der elterlichen Sorge als geeigneter erscheine. Als Gründe hierfür würde die etwas günstigere Infrastruktur (Wohnung, Betreuung, Arbeit) sowie die höhere Bereitschaft zur zuverlässigen und nachhaltigen Zusammenarbeit aufgeführt. Die Erziehungsvorstellungen der Mutter würden den mitteleuropäischen Zielsetzungen entsprechen und mit den schulischen Anforderungen in der Schweiz weitgehend übereinstimmen. Sie fordere Y._ stärker und rege ihn zur Selbständigkeit und Rücksichtnahme gegenüber Erwachsenen und Gleichaltrigen an. Sie sei sich ihrer Unsicherheiten bewusst und zeige eine gute Bereitschaft, sich beraten zu lassen. Sodann lasse sich den Ausführungen des Vaters anlässlich der Befragung durch das Gericht entnehmen, dass dieser sich nicht mit wirklichem Willen dafür einsetze, die Besuche des Sohnes bei der Mutter zu fördern. Er bringe immer wieder vor, dass er seinen Sohn auf keinen Fall zu etwas zwingen möchte, was dieser nicht wolle. Gemäss dem Gutachten seien seine Erziehungsvorstellungen stark durch den Kulturkreis des Kosovo geprägt. Kleine Jungen würden allzu viel Hingabe und Bewunderung erfahren und reagierten später mit Verärgerung und Zorn, wenn sie mit der Forderung nach Selbständigkeit konfrontiert würden. Insbesondere mache der Vater dem Sohn auch keinen Gefallen damit, dass sie gemeinsam in einem Bett schliefen; dies sei für dessen Entwicklung ungünstig und führe dazu, dass er immer mehr von der Mutter entfremdet werde. Aus dem Gutachten ergebe sich ausserdem, dass Y._ seine Mutter möge, jedoch in Anwesenheit des Vaters nicht offen darüber sprechen könne.
Das Obergericht ist (teilweise unter Verweis auf das erstinstanzliche Urteil) zum Schluss gekommen, dass die enge und oft auch allzu fürsorgliche Betreuung durch den Vater nicht im Kindeswohl sei. Die momentane Besuchsrechtsregelung genüge für einen weiteren Beziehungsaufbau zur Mutter nicht und es habe sich im Verlauf des Scheidungsverfahrens gezeigt, dass der Vater nicht in der Lage sei, bei der Errichtung eines normalen Besuchsrechts zur Mutter zu helfen; dieses scheitere immer wieder an der sturen Haltung des Vaters, dass jede Verweigerungshaltung des Sohnes akzeptiert und nicht durchbrochen werde. Die väterliche Behauptung, ein normales Besuchsrecht der Mutter fördern zu wollen, sei leere Versprechung geblieben. Der Vater habe sich auch im Rahmen der psychologischen Begutachtung als unzuverlässig und nicht kooperationsbereit gezeigt: Zur ersten Sitzung sei er gar nicht erst erschienen und den Folgetermin habe er beschränkt mit der Begründung, Y._ aus dem Kindergarten abholen zu müssen; die für Y._ vereinbarte Sitzung habe er ebenfalls unbenutzt verstreichen lassen und dies einige Tage später mit eigener Krankheit begründet; eine weitere Sitzung habe er eine halbe Stunde vorher krankheitshalber abgesagt; gemeinsame Besprechungen mit der Mutter habe er verweigert und sich immer wieder in Vorwürfen ihr gegenüber verloren. Sodann habe er auf Lösungsvorschläge der Mutter unkonstruktiv reagiert. Beim Verlesen eines Vergleichsvorschlages habe er wütend den Gerichtssaal verlassen. Die Mutter ihrerseits habe die Zeit, in welcher Y._ im Kosovo gewesen sei, genutzt und könne diesem heute stabile Wohn- und Betreuungsverhältnisse bieten. Sie sei bereit, den Kontakt zum Vater zu unterstützen und ein übliches Besuchsrecht zu fördern, weshalb das Gericht in Übereinstimmung mit dem Gutachten davon überzeugt sei, dass sie geeigneter sei, die elterliche Sorge zu übernehmen.
Spezifisch mit Bezug auf die obergerichtlichen Vorbringen des Vaters - die Mutter sei seinerzeit wegen des Unfalles schwer depressiv geworden; er habe Y._ seither gut betreut, was sich an dessen aufgeweckter und unauffälliger Art zeige; er habe die Mutter nie gezwungen, ein Kopftuch zu tragen; er trage nicht traditionelle islamische Kleidung, sondern T-Shirt und Jeans, und er habe nicht einen islamischen, sondern einen kurzen europäischen Bart; Y._ sperre sich mit Händen und Füssen dagegen, zur Mutter zu gehen bzw. bei ihr statt bei ihm zu übernachten; die Verlustangst sei mit der Vorgeschichte erklärbar und man habe dieser traumatisierenden Vorgeschichte viel zu wenig Gewicht beigemessen, sondern die Fehler bei ihm als Vater gesucht; die Mutter stamme als Italienerin ebenfalls aus einem fremden Kulturkreis und spreche nach wie vor nicht einwandfrei Deutsch, während er als früherer Jurastudent immerhin über eine gute Bildung verfüge - hat das Obergericht erwogen, dass es keines ergänzenden Beweisverfahrens bedürfe und das Gutachten W._ nach wie vor aktuell sei. Vorliegend sei beiden Elternteilen die Erziehungsfähigkeit zu attestieren. Indes würde bei einer Sorgerechtszuteilung an den Vater die Beziehung von Y._ zur Mutter verkümmern, weil dieser das Kind nicht davon überzeugen könne und wolle, die Mutter zu besuchen und bei ihr zu übernachten, sondern lediglich für ein minimales begleitetes Besuchsrecht von drei Stunden pro Woche Hand biete. Er verkenne, dass er als gegenwärtiger Obhutsinhaber die Pflicht habe, darauf hinzuwirken, dass die Mutter das Besuchsrecht tatsächlich ausüben könne, und es bestehe kein Grund zur Annahme, dass er seine Haltung in Zukunft ändern würde, womit es zu einer für die Entwicklung von Y._ ungünstigen Entfremdung zur Mutter käme. Diese wäre demgegenüber bereit, (falls nötig mit Dritthilfe) darauf hinzuwirken, dass zu beiden Elternteilen eine gute und tragfähige Beziehung bestehe. Schliesslich könne aus dem Kontinuitätsprinzip insofern nichts abgeleitet werden, als dieses Prinzip bei den Kindern mit dem Älterwerden schrittweise an Bedeutung verliere und eine allfällige Belastung infolge Umgebungswechsels hinzunehmen sei, wenn im Gegenzug eine angemessene Beziehung zu beiden Elternteilen erreicht werde.
4. Der Vater wirft dem Obergericht vor, ungeachtet der Offizial- und Untersuchungsmaxime ausschliesslich auf die Akten und dabei insbesondere auf das veraltete Gutachten vom November 2010 und die erstinstanzliche Anhörung der Parteien im Dezember 2010 abgestellt zu haben. Die betreffenden Sachverhaltserhebungen seien nicht mehr aktuell, nachdem er in der Zwischenzeit eine Stelle gefunden habe und das Kind nun regelmässig im Hort platziert sei, womit dieses ganz andere Kontakte zur Aussenwelt habe.
In Kinderbelangen bei familienrechtlichen Verfahren gilt der Offizial- und Untersuchungsgrundsatz (Art. 296 ZPO). Dies kann dazu führen, dass das befasste Sachgericht gegebenenfalls weitere Beweise zu erheben, namentlich eine erneute Anhörung durchzuführen oder ein weiteres Gutachten einzuholen hat; massgeblich ist dabei, ob neue Erkenntnisse zu erwarten oder ob die Ergebnisse der früheren Untersuchungen nach wie vor aktuell sind (<ref-ruling> E. 4 S. 555). Soweit sich die tatsächlichen Verhältnisse nicht wesentlich verändert haben, ist im Zusammenhang mit der Kinderzuteilung insbesondere keine erneute Anhörung durch das obere kantonale Gericht erforderlich (Urteile 5C.19/2002 vom 15. Oktober 2002 E. 2.1; 5A_444/2008 vom 14. August 2008 E. 2.1).
Vorliegend hat das Obergericht die Bindungstoleranz der Eltern in den Mittelpunkt der Erwägungen gestellt und befunden, einzig bei einer Zuteilung an die Mutter sei eine Beziehung von Y._ zu beiden Elternteilen gewährleistet, während mit einer völligen Entfremdung zur Mutter zu rechnen sei, wenn das Kind beim Vater belassen werde. Was dessen neue Arbeitsstelle und die Platzierung des Kindes in einem Hort mit der Frage der Bindungstoleranz bzw. der Ermöglichung einer normalen Beziehung zu beiden Elternteilen zu tun haben soll, ist unerfindlich; diese beiden Sachverhaltselemente können jedenfalls nicht Anlass zu einer neuerlichen Begutachtung oder Anhörung des Kindes geben. Ebenso scheinen zu dieser Frage weitere Berichte seitens des Jugendsekretariates und des Hortes bzw. der Schule entbehrlich. Schliesslich ist der Sinn eines Amtsberichtes zur Besuchsrechtsausübung nicht einsichtig, wenn der Vater selbst festhält, dass diese nicht klappt, mithin der betreffende Sachverhalt gar nicht umstritten ist.
Wirkliche Gründe, welche weitere Abklärungen als erforderlich hätten erscheinen lassen, zeigt der Vater entgegen seinen qualifizierten Rüge- und Substanziierungspflichten im Zusammenhang mit der Sachverhaltsfeststellung (dazu E. 2) nicht auf. Es geht wie gesagt um die Grundlagen für die Beurteilung der Bindungstoleranz der Elternteile, welche das Obergericht als ausschlaggebendes materielles Zuteilungskriterium angesehen hat (dazu E. 5). Der Vater hatte in der kantonalen Berufung - und auch in der vorliegenden Beschwerde - nirgends zum Ausdruck gebracht, dass er von seinem Standpunkt, wonach die Beziehung des Sohnes zu seiner Mutter in dessen freiem Belieben stehen soll, Abstand nehmen und eine vernünftige Mutter-Kind-Beziehung aktiv fördern würde. Beim erstinstanzlichen Verfahren war Y._ 6 bis 7 Jahre alt, inzwischen ist er 8-jährig. Damit ist er nach wie vor in einem Alter, in welchem er den Ansichten und Erwartungen des hauptbetreuenden Elternteils vollständig ausgeliefert ist: Weder kann er aus eigener Anschauung über die entwicklungspsychologische Bedeutung einer tragfähigen Beziehung zu beiden Elternteilen und deren Wichtigkeit für seine gedeihliche Entwicklung wissen, noch kann er sich der Erwartungshaltung des Vaters entgegenstellen und aus eigener Kraft eine Bindung zur Mutter aufbauen. Insofern durfte das Obergericht davon ausgehen, dass die sich aus dem Gutachten und den erstinstanzlichen Aussagen ergebenden tatsächlichen Grundlagen unverändert geblieben und deshalb weitere Abklärungen entbehrlich seien.
Neu und damit von vornherein nicht zu hören (vgl. E. 2) ist sodann das Vorbringen, der Gutachter sei kein Psychiater, sondern nur Psychologe, was angesichts der Vorgeschichte (stark traumatisierendes Unfallereignis) ungenügend sei und ein neues Gutachten erfordere.
Das Eventualbegehren um Rückweisung der Sache zu weiteren Abklärungen ist nach dem Gesagten unbegründet.
5. In materieller Hinsicht ist vorauszuschicken, dass dem Sachgericht in Zuteilungsfragen ein weites Ermessen zukommt (Art. 4 ZGB; <ref-ruling> E. 3 S. 355), bei dessen Überprüfung sich das Bundesgericht grosse Zurückhaltung auferlegt (<ref-ruling> E. 1 S. 99; <ref-ruling> E. 2 S. 123 f.).
Im Zusammenhang mit der Zuteilung der elterlichen Sorge im Rahmen des Scheidungsverfahrens sind nicht die Wünsche und Vorstellungen der Eltern von zentraler Bedeutung, sondern ist das Kindeswohl die oberste Leitmaxime (<ref-ruling> E. 4a S. 209; <ref-ruling> E. 2 S. 319; <ref-ruling> E. 3 S. 355). Zu den wesentlichen Kriterien gehören die mit der Ermöglichung einer altersgerechten und optimalen Entfaltung in geistig-psychischer, körperlicher und sozialer Hinsicht verbundene Erziehungsfähigkeit der Eltern, die Möglichkeit zu weitgehend persönlicher Betreuung, die bisher gelebte Situation bzw. die Stabilität der Verhältnisse und die Bindungstoleranz der Elternteile (vorgenannte publizierte Entscheide sowie Urteile 5A_181/2008 vom 25. April 2008 E. 3.1; 5A_444/2008 vom 14. August 2008 E. 3.1; 5A_591/2008 vom 24. Oktober 2008 E. 5.4; 5A_742/2008 vom 22. Januar 2009 E. 3.1; 5A_823/2008 vom 27. März 2009 E. 3.1; 5A_94/2010 vom 27. Mai 2010 E. 3.1). Zwischen diesen Kriterien gibt es keine eigentliche Hierarchie; vielmehr ist auf die Besonderheiten des Einzelfalles einzugehen (Urteil 5A_591/2008 vom 24. Oktober 2008 E. 5.4).
Die Kritik des Vaters, das Gutachten sei über weite Strecken ein Sammelsurium von anti-balkanischen Vorurteilen, geht an der Sache vorbei: Entgegen dem, was in der Beschwerde insinuiert wird, hat das Obergericht nicht auf Dinge wie Religion, Bart und Kleidung, sondern ausschlaggebend darauf abgestellt, welcher der beiden Elternteilen die nötige Bindungstoleranz aufweist. Im Übrigen hat es entgegen der impliziten Behauptung in der Beschwerde den Kontinuitätsfaktor nicht ausgeblendet, sondern die beiden Kriterien wertend gegeneinander abgewogen und befunden, eine Umteilung von Y._ sei vorliegend unumgänglich, damit er in Zukunft zu beiden Elternteilen eine gesunde Beziehung haben könne.
Wenn das Obergericht auf die leicht bessere Eigenbetreuungs- und Wohnsituation der Mutter hingewiesen, andererseits den Kontinuitätsfaktor erwähnt, letztlich jedoch der Bindungstoleranz im vorliegenden Fall eine ganz besondere Bedeutung zugemessen hat, so hat es nicht nur die rechtlich relevanten Zuteilungskriterien gewürdigt, sondern auch eine im vorliegenden Einzelfall sachlich gerechtfertigte Begründungslinie verfolgt: Soweit an sich beiden Elternteilen die Erziehungsfähigkeit zu attestieren ist, kann die Bereitschaft und die Fähigkeit eines Elternteils, mit dem anderen Teil in Kinderbelangen zusammenzuarbeiten und insbesondere eine normale Beziehung zum anderen Teil zuzulassen und aktiv zu fördern, eine entscheidende Bedeutung bei der Sorgerechtszuteilung erhalten (Urteile 5A_444/2008 vom 14. August 2008 E. 3.1; 5A_823/2008 vom 27. März 2009 E. 3.4.3; 5A_223/2009 vom 30. April 2009 E. 2; 5A_94/2010 vom 27. Mai 2010 E. 3.2), denn aufgrund des schicksalhaften Eltern-Kind-Verhältnisses ist die Beziehung des Kindes zu beiden Elternteilen wichtig, kann sie doch bei der Identitätsfindung eine entscheidende Rolle spielen (<ref-ruling> E. 2.2.2 S. 590; <ref-ruling> E. 4 S. 211 f.). Ein weiteres einschlägiges Zuteilungskriterium hat das Obergericht befolgt, wenn es ausserdem gewürdigt hat, dass die Mutter bereit ist, mit Dritten zusammenzuarbeiten und auf die hiesigen Anforderungen und Anschauungen im schulischen und im allgemeinen kulturellen Umfeld Rücksicht zu nehmen; dies kann einem Kind, welches in der Schweiz aufwächst, demnach hier zur Schule geht, hier seinen Freundeskreis aufbaut und sich dereinst dem hiesigen Arbeitsmarkt wird stellen müssen, nur zum Vorteil gereichen. Vor dem Hintergrund, dass das Kindeswohl die oberste Zuteilungsmaxime darstellt, ist dem Obergericht mithin in rechtlicher Hinsicht nichts vorzuwerfen.
In tatsächlicher Hinsicht hat das Obergericht die Bindungstoleranz anhand der diesbezüglichen Feststellungen im Gutachten und der Aussagen der Eltern - namentlich auch anhand des Standpunktes des Vaters, die Beziehung zur Mutter sei dem freien Willen des Sohnes zu überlassen - beurteilt. Dies wird vom Vater denn auch nicht bestritten; vielmehr bringt er diese Haltung in der Beschwerde erneut zum Ausdruck. Er zweifelt aber, ob die Verweigerungshaltung des Kindes tatsächlich auf sein väterliches Verhalten zurückgeführt werden könne, nachdem das Kind ja nunmehr massiv gestiegene Aussenkontakte habe (Beistand, Hort, Schule), und er wirft dem Obergericht vor, die traumatisierenden Ereignisse rund um den Autounfall zu wenig berücksichtigt, sondern auf das Gutachten abgestellt zu haben, gemäss welchem der Sohn einfach dem Vater gefallen wolle bzw. dessen ablehnender Haltung folge. Indes lässt sich mit solch vagen Andeutungen keine willkürliche Sachverhaltsfeststellung aufzeigen (zu den Begründungsanforderungen von Willkürrügen siehe E. 2), zumal ein Kind im Alter von Y._ naturgemäss der Erwartungshaltung des hauptbetreuenden Elternteils entsprechen will und sich diesem nicht entgegenstellt; wenn das Gutachten festhält, dass Y._ seine Mutter möge, jedoch in Anwesenheit des Vaters nicht offen darüber sprechen könne, spiegelt dies die typische Haltung eines Kindes im Alter von Y._, welches weitgehend vom anderen Elternteil abgeschirmt wird.
6. Zusammenfassend ergibt sich, dass die Beschwerde in Zivilsachen abzuweisen ist, soweit auf sie eingetreten werden kann. Die kantonalen Kosten sind folglich nicht neu zu verlegen, zumal es dem betreffenden Antrag auch an einer Begründung fehlt.
7. Vor dem Hintergrund, dass vorliegend zwar erstmalig über die Zuteilung des Sorgerechts befunden wird, indes die Zuteilung an die Mutter aufgrund der bisherigen Obhutsregelung faktisch die Umplatzierung des Kindes bedeutet, so dass namentlich auch das Kontinuitätsprinzip ins Spiel kam, lässt sich nicht sagen, die Beschwerde sei von Anfang an aussichtslos gewesen. Es rechtfertigt sich deshalb, dem Beschwerdeführer, der immer noch als bedürftig gelten kann, auch für das bundesgerichtliche Verfahren die unentgeltliche Rechtspflege zu erteilen, unter Verbeiständung durch den ihn vertretenden Rechtsanwalt (Art. 64 BGG). Demzufolge sind die ausgangsgemäss dem Beschwerdeführer aufzuerlegenden Gerichtskosten (Art. 66 Abs. 1 BGG) einstweilen auf die Gerichtskasse zu nehmen, und sein Rechtsvertreter ist aus der Gerichtskasse zu entschädigen. Hingegen hat der Beschwerdeführer ausgangsgemäss die Kosten für die Stellungnahme zum Gesuch um aufschiebende Wirkung zu übernehmen (Art. 68 Abs. 2 BGG), weil von der unentgeltlichen Rechtspflege nur die eigenen, nicht aber die Kosten der Gegenpartei erfasst werden. Zufolge Entschädigung durch den Beschwerdeführer ist das von der Beschwerdegegnerin ihrerseits gestellte Gesuch um unentgeltliche Rechtspflege nur unter dem Vorbehalt der Uneinbringlichkeit der Kosten beim Beschwerdeführer gutzuheissen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde in Zivilsachen wird abgewiesen, soweit darauf einzutreten ist.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und er wird durch Rechtsanwalt Hans Hegetschweiler verbeiständet.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt, jedoch einstweilen auf die Gerichtskasse genommen.
4. Rechtsanwalt Hans Hegetschweiler wird aus der Gerichtskasse mit Fr. 1'000.-- entschädigt.
5. Der Beschwerdeführer hat die Beschwerdegegnerin mit Fr. 300.-- zu entschädigen.
6. Der Beschwerdegegnerin wird die unentgeltliche Rechtspflege gewährt und sie wird durch Rechtsanwältin Manuela Schiller verbeiständet. Diese wird für den Fall der Uneinbringlichkeit der Entschädigung gemäss Ziff. 5 aus der Gerichtskasse mit Fr. 300.-- entschädigt.
7. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 26. Juni 2012
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Möckli