Sachverhalt:
A. Z._ senior verstarb am 30. August 2007. Mit Klageschrift vom 19. Mai 2008 erhob seine Tochter W._ am Bezirksgericht Winterthur Erbteilungsklage gegen die Witwe Y._ sowie ihre beiden Geschwister Z._ junior und X._.
In der Klageschrift wurde Y._ als Zustellungsempfängerin des im US-Bundesstaat Florida wohnhaften Z._ junior bezeichnet. Y._ lehnte es indes am 11. Juli 2008 gegenüber dem Bezirksgericht Winterthur ab, als Zustellungsempfängerin zu fungieren. Mit Entscheid vom 16. Juli 2008 wurde Z._ junior in Anwendung von § 30 ZPO/ZH aufgefordert, einen Zustellungsempfänger in der Schweiz zu bezeichnen. Trotz erfolgreicher rechtshilfeweiser Zustellung leistete Z._ junior dieser Aufforderung keine Folge, worauf der Erbteilungsprozess seinen Lauf nahm.
Nachdem X._ in seiner Duplik vom 12. April 2010 Widerklage erhoben hatte, stellte er am 5. November 2010 mehrere prozessuale Anträge. Mit diesen verlangte er im Wesentlichen, das Verfahren sei einstweilen zu sistieren, und es sei - mit Blick auf die spätere Vollstreckung des Erbteilungsurteils in Florida - Z._ junior Weisung, Klageschrift und Klagebeilagen (je inklusive deren Übersetzung ins Englische) rechtshilfeweise zuzustellen; die blosse Aufforderung, einen Zustellungsempfänger zu bezeichnen, genüge den Anforderungen an das sog. verfahrenseinleitende Schriftstück gemäss anwendbarem amerikanischem Recht nicht.
W._ und Y._ nahmen am 10. Januar 2011 zu X._s prozessualen Anträgen Stellung. Am 12. Januar 2011 ersuchte X._ um Ansetzung einer zwanzigtägigen Frist, um sich seinerseits wieder zu den eingegangenen beiden Stellungnahmen zu äussern. Mit Entscheid vom 19. Januar 2011 teilte die Ersatzrichterin des Bezirksgerichts Winterthur X._ mit, es gebe keinen Anlass einen weiteren Schriftenwechsel anzuordnen, es stehe ihm aber (im Lichte von BGE 133 I 98 sowie BGE 132 I 42) frei, "innert gebotener Frist" eine weitere Stellungnahme einzureichen, sofern er dies für nötig halte. Dieser Entscheid wurde am 27. Januar 2011 versandt und von X._ am 4. Februar 2011 in Empfang genommen.
Am 14. Februar 2011 entschied das Bezirksgericht Winterthur über X._s prozessuale Anträge vom 5. November 2010. Es ordnete an, Z._ junior sei rechtshilfeweise je eine Kopie der bis dahin vorliegenden Rechtsschriften zuzustellen und es sei ihm eine Frist zur Einreichung einer Klageantwort bzw. zu weiteren Stellungnahmen zu den übrigen Rechtsschriften anzusetzen. Im Übrigen wies das Bezirksgericht die gestellten prozessualen Anträge (soweit nicht ohnehin gegenstandslos geworden) ab.
Dieser Entscheid wurde am 17. Februar 2011 versandt, von X._ aber erst am 25. Februar 2011 in Empfang genommen.
Wenige Tage vor Inempfangnahme des vorgenannten Entscheids wandte sich X._ mit Eingabe vom 21. Februar 2011 erneut an das Bezirksgericht Winterthur (dortiger Eingang per 23. Februar 2011). Darin griff er die bereits in seiner Eingabe vom 5. November 2011 dargelegte Thematik betreffend prozessuale Anträge auf 38 Seiten wieder auf und verwies auf ein beigelegtes 19-seitiges rechtliches Kurz-Gutachten von Dr. U._ vom 18. Februar 2011. Am 2. März 2011 entschied das Bezirksgericht Winterthur, diese Eingabe sei verspätet und ohne Weiterungen zu den Akten zu nehmen.
B. Gegen den (ersten) Entscheid des Bezirksgerichts Winterthur vom 14. Februar 2011, welcher 11 Seiten umfasst, reichte X._ am 7. März 2011 eine 73-seitige Beschwerde an das Obergericht des Kantons Zürich ein. Gegen den 4-seitigen (zweiten) Entscheid des Bezirksgerichts vom 2. März 2011 folgte am 14. März 2011 eine 93-seitige Beschwerdeschrift wiederum zuhanden des Obergerichts.
Am 17. März 2011 taxierte das Zürcher Obergericht die gegen den bezirksgerichtlichen Beschluss vom 14. Februar 2011 gerichtete 73-seitige Beschwerde als weitschweifig im Sinne von Art. 132 Abs. 2 ZPO und ordnete deren Nachbesserung innert einer einmaligen und nicht erstreckbaren Nachfrist von fünf Tagen an; die Eingabe sei massiv zu kürzen und auf das Wesentliche zu beschränken, ansonsten sie in Anwendung von Art. 132 Abs. 1 ZPO als nicht erfolgt gelte. Dieser Aufforderung leistete X._ am 4. April 2011 Folge, indem er dem Obergericht eine 25-seitige Beschwerdeschrift einreichte.
Am 24. März 2011 befand das Zürcher Obergericht, die gegen den bezirksgerichtlichen Beschluss vom 2. März 2011 gerichtete 93-seitige Beschwerde sei ebenfalls weitschweifig und daher im vorerwähnten Sinne zu verbessern, und zwar wiederum innert einer einmaligen und nicht erstreckbaren Frist von fünf Tagen. Auch dieser Aufforderung kam X._ mit einer 16-seitigen Eingabe vom 4. April 2011 nach.
C. X._ (nachfolgend Beschwerdeführer) ficht die beiden vorgenannten obergerichtlichen Entscheide betreffend Kürzung seiner Eingaben (nachfolgend: Kürzungsverfügungen) je mit einer Beschwerde in Zivilsachen sowie mit einer subsidiären Verfassungsbeschwerde vor Bundesgericht an, d.h. den Entscheid vom 17. März 2011 mit Beschwerdeschrift vom 27. April 2011 (bundesgerichtliches Verfahren 5A_307/2011) sowie den Entscheid vom 24. März 2011 mit Beschwerdeschrift vom 28. April 2011 (bundesgerichtliches Verfahren 5A_310/2011).
Der Beschwerdeführer beantragt die Aufhebung der angefochtenen beiden obergerichtlichen Entscheide sowie die ungekürzte Zulassung seiner Beschwerdeschriften vom 7. März 2011 bzw. vom 14. März 2011 im kantonalen Rechtsmittelverfahren. Er rügt eine Verletzung des rechtlichen Gehörs (Art. 29 Abs. 2 BV), da die beiden Kürzungsverfügungen es ihm letztlich verunmöglichten, seine Argumente gebührend vorzutragen.
Mit Präsidialverfügungen vom 1. Juni 2011 hat das Bundesgericht den beiden Beschwerden die aufschiebende Wirkung zuerkannt. Es wurden die Akten, in der Hauptsache aber keine Vernehmlassungen eingeholt.
Erwägungen:
1. Die beiden Beschwerden richten sich gegen zwei inhaltlich gleichlautende kantonale Entscheide, die auf einem ähnlichen Sachverhalt beruhen, dieselben Rechtsfragen aufwerfen und identische Parteien betreffen. Es rechtfertigt sich deshalb, die beiden Beschwerdeverfahren (d.h. 5A_307/2011 und 5A_310/2011) zu vereinigen und in einem einzigen Urteil zu erledigen (Art. 71 BGG i.V.m. Art. 24 BZP analog).
2. Angefochten sind zwei kantonal letztinstanzliche Entscheide, mit denen der Beschwerdeführer zur Kürzung seiner als weitschweifig erachteten Eingaben im kantonalen Rechtsmittelverfahren aufgefordert wurde (vgl. Art. 132 Abs. 2 ZPO). Diese prozessleitenden Verfügungen stellen Zwischenentscheide im Sinne von Art. 93 BGG dar.
Bei Zwischenentscheiden folgt der Rechtsweg jenem der Hauptsache. Diese bildet vorliegend ein Erbteilungsverfahren, d.h. eine vermögensrechtliche Zivilsache, deren Streitwert Fr. 30'000.-- übersteigt. Dagegen steht die Beschwerde in Zivilsachen offen (Art. 72, Art. 74 Abs. 1 lit. b, Art. 75 und Art. 90 BGG), weshalb sie auch gegen die angefochtenen Zwischenentscheide ergriffen werden kann. Steht die Beschwerde in Zivilsachen zur Verfügung, bleibt für die ebenfalls erhobene subsidiäre Verfassungsbeschwerde kein Raum (Art. 113 BGG bzw. Art. 117 i.V.m. Art. 93 Abs. 1 lit. a BGG).
Selbständig eröffnete Zwischenentscheide können - von hier nicht massgeblichen Ausnahmen abgesehen - nur angefochten werden, wenn der Zwischenentscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (Art. 93 Abs. 1 lit. a BGG). Ein solcher Nachteil muss - nach der von sämtlichen Abteilungen des Bundesgerichts befolgten Rechtsprechung - rechtlicher Natur und somit auch mit einem für den Beschwerdeführer günstigen Endentscheid nicht oder nicht vollständig behebbar sein (BGE 136 II 165 E. 1.2.1 S. 170; 133 III 629 E. 2.3 S. 632). Die blosse Möglichkeit eines nicht wieder gutzumachenden Nachteils rechtlicher Natur genügt (BGE 134 III 188 E. 2.1 S. 191). Dagegen reichen rein tatsächliche Nachteile wie die Verfahrensverlängerung oder -verteuerung nicht aus (BGE 133 III 629 E. 2.3.1 S. 632). Schliesslich ist es auch nicht nötig, dass sich der Nachteil schon im kantonalen Verfahren durch einen günstigen Endentscheid beheben lässt; es reicht aus, wenn er in einem anschliessenden bundesgerichtlichen Verfahren beseitigt werden kann (BGE 134 III 188 E. 2.1 S. 191).
Der Beschwerdeführer hat den beiden Kürzungsverfügungen innert Frist Folge geleistet. Somit kann die Rechtmässigkeit derselben im Rahmen einer Gehörsrüge (Art. 29 Abs. 2 BV) später geprüft werden. Demzufolge kann auf beide Beschwerden in Zivilsachen nicht eingetreten werden.
3. Bei diesem Verfahrensausgang wird der Beschwerdeführer für beide Verfahren kostenpflichtig (Art. 66 Ab. 1 BGG). Eine Parteientschädigung an die Beschwerdegegner ist nicht zuzusprechen, da sie zum Gesuch um aufschiebende Wirkung keine Vernehmlassung eingereicht haben und in der Sache dazu nicht eingeladen wurden (vgl. Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Verfahren 5A_307/2011 und 5A_310/2011 werden vereinigt.
2. Auf die Beschwerden in den Verfahren 5A_307/2011 und 5A_310/2011 wird nicht eingetreten.
3. Die Gerichtskosten von insgesamt Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 13. Juli 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Hohl Schwander