Sachverhalt: A. YA._, geb. 1942, nachfolgend Beschwerdegegner 1, ist der Vater von YB._, geb. 1975, nachfolgend Beschwerdegegner 2, und YC._, geb. 1976, nachfolgend Beschwerdegegner 3. Die X._ AG, nachfolgend Beschwerdeführerin, gewährte dem Beschwerdegegner 1 am 8. Februar 1991 ein verzinsliches Darlehen über Fr. 1'300'000.--. Dieser leistete in den Jahren 1992 bis 1994 Abzahlungen, so dass sich der Darlehensbetrag auf Fr. 1'160'000.-- verringerte. Die Beschwerdeführerin hat nach ihrer Darstellung noch Anspruch auf Fr. 1'839'694.25 (inkl. Zinsen). Am 7. Februar 2001 betrieb die Beschwerdeführerin den Beschwerdegegner 1 für Fr. 1'467'400.--. Auf dessen Rechtsvorschlag hin machte sie am 29. Januar 2002 beim Bezirksgericht Q._ eine Teilforderung über Fr. 428'916.67 (gemäss Klage) bzw. Fr. 359'316.67 (gemäss Replik) gerichtlich geltend. Mit Urteil des Kantonsgerichts Basel-Landschaft vom 6. Dezember 2005 wurde der Beschwerdegegner 1 verurteilt, der Beschwerdeführerin Fr. 359'316.67 nebst Zinsen zu bezahlen. Eine hiergegen erhobene Berufung wurde vom Bundesgericht am 3. Juli 2006 abgewiesen (Urteil 4C.98/2006). Die gegen den Beschwerdegegner 1 eingeleitete Betreibung führte am 13. Februar 2007 zu einem definitiven Verlustschein über Fr. 508'246.55. Am 18. Dezember 2002 schloss der Beschwerdegegner 1 mit seiner Mutter Z._ einen Erbverzichtsvertrag, mit dem er zu Gunsten seiner beiden Söhne auf sein Erbe verzichtete. Am 2. Dezember 2007 verstarb Z._. Sie hinterliess den Beschwerdegegner 1 sowie dessen Geschwister D._ und E._. Mit Verfügung vom 13. Februar 2009 ging der Einzelrichter im summarischen Verfahren in Erbschaftssachen des Bezirkes R._ aufgrund des Erbverzichtes des Beschwerdegegners 1 und des Testamentes von Z._ davon aus, dass D._, E._, die Beschwerdegegner 2 und 3 sowie F._, G._ und H._ gesetzliche bzw. eingesetzte Erben seien. B. Am 6. August 2008 klagte die X._ AG beim Bezirksgericht R._ gegen die Beschwerdegegner 1-3 mit dem Hauptbegehren, es seien die Zustimmung des Beschwerdegegners 1 zum Erbverzichtsvertrag sowie dieser Vertrag gemäss Art. 578 ZGB aufzuheben, eventualiter sei deren Anfechtbarkeit im Sinn von 578 ZGB festzustellen, und es sei die amtliche Liquidation des Nachlasses anzuordnen; eventualiter verlangte sie, es seien die Beschwerdegegner unter solidarischer Haftbarkeit zu verpflichten, ihr Fr. 508'246.55 zu bezahlen, subeventualiter seien die Erbteile bzw. Zuwendungen an die Beschwerdegegner 2 und 3 im Sinn von Art. 522 ff. ZGB proportional auf jenen Bruchteil ihres Wertes herabzusetzen, der dem Beschwerdegegner 1 einen Wertanteil von Fr. 508'246.55, maximal jedoch seinen vollen Pflichtteil von einem Viertel des Gesamtnachlasses verschaffe. Mit Urteilen vom 12. Januar 2010 bzw. 5. Dezember 2011 wiesen sowohl das Bezirksgericht R._ als auch das Obergericht des Kantons Zürich die Klage ab. C. Gegen das obergerichtliche Urteil hat die X._ AG am 23. Januar 2012 eine Beschwerde in Zivilsachen eingereicht, im Wesentlichen mit den Anträgen auf dessen Aufhebung und Zuspruch der vorgenannten Klagebegehren, eventualiter um Rückweisung der Sache an das Obergericht zur Neubeurteilung. Mit Verfügung vom 25. Januar 2012 wurde das Gesuch um aufschiebende Wirkung abgewiesen. Es wurden keine Vernehmlassungen eingeholt.