Sachverhalt:
A. Z._ verstarb am xxxx 2009 im Alter von 87 Jahren. Aus seiner ersten (geschiedenen) Ehe stammen der heutige Beschwerdeführer X._ und die Tochter S._. Aus der zweiten Ehe stammt die Tochter Y._. Die zweite Ehefrau verstarb am 26. Januar 1988.
Mit Verfügung vom 29. September 2009 eröffnete das Bezirksgericht Uster den drei Kindern einen Erbvertrag vom 7. Juli 1986 und ein eigenhändiges Testament vom 18. Februar 1989. Beide Dokumente setzten die zwei Kinder aus erster Ehe zugunsten von Y._ auf den Pflichtteil. Im Erbvertrag setzten sich die Eheleute für die verfügbare Quote gegenseitig als Vorerben und Y._ als Nacherbin auf den Überrest ein. Im Testament wurde ferner der Treuhänder T._ als Willensvollstrecker eingesetzt.
B. Mit Rekurs vom 19. Oktober 2009 verlangte X._ zusammengefasst, dass das Bezirksgericht Uster den Erbvertrag vollständig zu eröffnen habe, einschliesslich Inventar bei Nacherbschaft, und dass Sicherheitsvorkehren denkbar seien. Zur Begründung fügte er an, die Vermögensverhältnisse seien undurchsichtig und Y._ habe ihre Nacherbschaft faktisch schon zu Lebzeiten des Erblassers angetreten. Richtigerweise hätte beim Tod der zweiten Ehefrau ein Inventar erstellt werden müssen. Er sei auf Angaben über die zu erwartende Erbschaft angewiesen, weil noch ein Stipendiendarlehen aus den 70er Jahren offen sei und der Darlehensvertrag vom 10. Oktober 1976 eine Reduktion oder einen Erlass der Darlehensschuld vorsehe, wenn das väterliche Erbe weniger als Fr. 115'000.-- betrage.
Das Obergericht des Kantons Zürich, II. Zivilkammer, wies den Rekurs mit Beschluss vom 6. November 2009 ab, soweit es darauf eintrat, und auferlegte X._ eine Gerichtsgebühr von Fr. 2'000.--. Es erwog, das Bezirksgericht habe den drei Kindern Erbenscheine ausgestellt und von der Annahme des Willensvollstreckermandates Vormerk genommen; dagegen wende der Beschwerdeführer nichts ein. Er stelle sich aber auf den Standpunkt, es hätte zudem die Aufnahme eines Inventars angeordnet oder andere Sicherungsvorkehrungen getroffen werden sollen. Gemäss Art. 490 Abs. 1 ZGB hätte beim Tod der zweiten Ehefrau ein Inventar aufgenommen werden sollen. Es sei nicht aktenkundig, ob das geschehen sei; dies könne aber offen gelassen werden, weil damalige Versäumnisse heute jedenfalls nicht mehr nachgeholt werden könnten. Das Bezirksgericht sei deshalb nicht zur Anordnung einer Inventaraufnahme verpflichtet gewesen und insofern sei der Rekurs abzuweisen. Eine Inventaraufnahme sei gemäss Art. 553 Abs. 1 Ziff. 3 ZGB auch anzuordnen, wenn ein Erbe dies verlange. Dies geschehe jedoch erstmals im Rekurs und im Rekursverfahren seien neue Anträge unzulässig. Insofern sei auf den Rekurs nicht einzutreten. Gründe für andere Sicherungsvorkehren seien nicht ersichtlich, da ein Willensvollstrecker eingesetzt worden sei und demnach keiner der Erben über den Nachlass verfügen könne. Sicherungsvorkehren könnten im Übrigen nichts bewirken mit Bezug auf die Befürchtung des Beschwerdeführers, er sei durch Übertragung von Vermögenswerten auf Y._ bereits zu Lebzeiten des Erblassers benachteiligt worden. Mit Bezug auf die Festsetzung der Gerichtsgebühr stellte das Obergericht als Streitwert auf den Pflichtteil des Beschwerdeführers ab. Es erwog, dass der Erblasser zuletzt ein Vermögen von Fr. 432'000.-- versteuert habe. Wie viel davon auf die Vorerbschaft entfalle, an welcher der Beschwerdeführer keinen Pflichtteil habe, sei nicht bekannt. Angesichts der 30jährigen Ehe entfalle schätzungsweise rund die Hälfte auf die Vorerbschaft. Der Pflichtteil des Beschwerdeführers betrage somit rund Fr. 50'000.--.
C. Mit Eingabe vom 18. Oktober 2009 reichte X._ einen "Antrag zur Kosteneinsprache" ein und machte geltend, der Pflichtteil berechne sich "nach dem tatsächlichen, persönlichen Vermögen des Erblassers, nach Abzug der damit verbundenen Kosten vor der Erbschaftsverteilung". Der Verweis auf die geschätzte persönliche Erbschaft von Fr. 50'000.--, obwohl in Wahrheit praktisch keine Werte mehr zu erben seien, könne sich für ihn bezüglich der Rückzahlung des Stipendiendarlehens negativ auswirken. Gemäss der Darstellung des Willensvollstreckers betrage der gesamte Nachlass nur noch rund Fr. 30'000.--; nach Abzug der Steuern und Kosten betrage er Null oder weise sogar ein Minus auf.
Das Plenum des Obergerichts wies die Eingabe mit Beschluss vom 28. Mai 2010 ab. Es erwog, nach § 11 Abs. 2 der Gerichtsgebührenverordnung bemesse sich die Gebühr für nicht streitige Erbschaftssachen nach dem Interessenwert und dem Aufwand; sie betrage in der Regel Fr. 100.-- bis Fr. 7'000.--. Bemessungskriterien innerhalb dieses Rahmens seien das tatsächliche Streitinteresse, der Zeitaufwand und die Schwierigkeit. Praxisgemäss bemesse sich das "Streitinteresse" nach dem Wert der Hinterlassenschaft, wobei jeweils auf die Angaben der Steuerbehörden über das versteuerte Gesamtvermögen abgestellt werde. Im vorliegenden Fall sei nach diesen Modalitäten vorgegangen worden und die Festsetzung der Gerichtsgebühr erweise sich damit als korrekt, zumal im Entscheidzeitpunkt (und auch heute) keine anderen Angaben als jene der Steuerbehörden vorhanden (gewesen) seien. Im Übrigen sei zugunsten des Beschwerdeführers gar nicht vom zuletzt versteuerten Vermögen des Erblassers, sondern nur von seinem Pflichtteil ausgegangen worden.
D. Mit als "Staatsrechtliche Beschwerde zur tatsächlichen Kostenberechnung" betitelter Eingabe vom 1. Juli 2010 (Postaufgabe: 7. Juli 2010) wendet sich X._ an das Bundesgericht. Er stellt das Rechtsbegehren: "Die Wahl eines Gerichts, die letzte Vermögensbesteuerung eines Erblassers als Bezugsgrösse für die Kosten zu wählen, verpflichtet das (gleiche) Gericht, die gewählte Bezugsgrösse wirklich in der Kostenberechnung anzuwenden und nicht durch die Grösse einer andern, früheren Steuerrechnung zu ersetzen. Ein nachträglicher und nicht erwünschter Ersatz der letzten Vermögensbesteuerung durch eine andere, frühere Vermögensbesteuerung ist eine Willkürhandlung, die ein zu stark verzerrtes Ergebnis bringen kann."
Es wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1. Die Rechtsmittel an das Bundesgericht werden seit dem 1. Januar 2007 durch das Bundesgerichtsgesetz (BGG, SR 173.110) geregelt. Dieses kennt das unter dem früheren Bundesgesetz über die Organisation der Bundesrechtspflege gegebene Rechtsmittel der staatsrechtlichen Beschwerde nicht. Zur Verfügung stehen vielmehr - wie in der Rechtsmittelbelehrung korrekt bezeichnet - die Beschwerde in Zivilsachen (Art. 72 ff. BGG) oder, wo diese nicht gegeben ist, die subsidiäre Verfassungsbeschwerde (Art. 113 ff. BGG).
Angefochten ist ein Entscheid des Obergerichtsplenums über eine von der II. Zivilkammer auf Fr. 2'000.-- festgesetzte Gerichtsgebühr in einem Rekursverfahren. Die nach Art. 75 Abs. 1 BGG geforderte Letztinstanzlichkeit des angefochtenen Entscheides ist damit gegeben. Hingegen fehlt es an dem für die Beschwerde in Zivilsachen erforderlichen Mindeststreitwert von Fr. 30'000.-- gemäss Art. 74 Abs. 1 lit. b BGG. Demnach ist die Eingabe des Beschwerdeführers als subsidiäre Verfassungsbeschwerde im Sinn von Art. 113 ff. BGG entgegenzunehmen.
2. Nach der Verfahrensvorschrift von Art. 42 Abs. 1 BGG hat die subsidiäre Verfassungsbeschwerde - wie jedes andere Rechtsmittel, aber auch wie jede Klage oder jedes Gesuch - ein Rechtsbegehren zu enthalten. Dieses muss so bestimmt sein, dass es im Fall seiner Gutheissung zum Urteil erhoben werden kann. Wegen der reformatorischen Natur der subsidiären Verfassungsbeschwerde (Art. 107 Abs. 2 i.V.m. Art. 117 BGG) muss ein Antrag in der Sache gestellt werden. Der Beschwerdeführer muss mithin angeben, welche Punkte des Entscheides angefochten und welche Abänderungen beantragt werden. Es reicht grundsätzlich nicht, bloss die Rückweisung der Sache an die Vorinstanz zu verlangen oder blosse Aufhebungsanträge zu stellen (zum Ganzen: BGE 133 III 489 E. 3.1 S. 489 m.w.H.).
Das vom Beschwerdeführer gestellte Rechtsbegehren (siehe Lit. D) vermag diese Anforderungen offensichtlich nicht zu erfüllen. Es könnte nicht zum Urteil erhoben werden und es ist daraus auch nicht sinngemäss ersichtlich, in welchen Punkten und inwieweit der Beschwerdeführer das Dispositiv des angefochtenen Entscheides abgeändert haben will.
Mangels eines tauglichen Rechtsbegehrens kann auf die Beschwerde nicht eingetreten werden.
3. Noch aus einem weiteren Grund ist nicht einzutreten: Mit subsidiärer Verfassungsbeschwerde kann einzig die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Hierfür gilt das strenge Rügeprinzip (Art. 106 Abs. 2 i.V.m. Art. 117 BGG). Das bedeutet, dass das Bundesgericht nur klar und detailliert erhobene und soweit möglich belegte Rügen prüft, während es auf ungenügend begründete Rügen und rein appellatorische Kritik am angefochtenen Entscheid nicht eintritt. Wird die Verletzung des Willkürverbots gerügt, reicht es sodann nicht aus, die Lage aus Sicht des Beschwerdeführers darzulegen und den davon abweichenden angefochtenen Entscheid als willkürlich zu bezeichnen; vielmehr ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.2 S. 246).
Diesen Anforderungen vermag die Beschwerdebegründung nicht zu genügen. Es werden zwar die Art. 8 und 9 BV als verletzt angerufen, aber die Begründung ist appellatorischer Natur, indem der Beschwerdeführer geltend macht, es könne nicht einfach auf die letzte Besteuerung abgestellt werden, denn die Realitäten würden stark davon abweichen und der tatsächliche Wert des Nachlasses sei nebulös. Damit setzt sich der Beschwerdeführer nicht in der erforderlichen Weise mit den Erwägungen des angefochtenen Entscheides auseinander, wonach praxisgemäss auf die letzten Steuerzahlen abgestellt wird, zumal keine anderen Anhaltspunkte für die Bestimmung der Nachlasshöhe greifbar sind, und er zeigt nicht auf, inwiefern diese gegen die als verletzt angerufenen verfassungsmässigen Rechte verstossen sollen. Im Gegenteil hält er unterhalb der Überschrift seiner Eingabe fest: "Der Inhalt des Entscheides und die theoretische Darlegung der Kostenberechnung werden akzeptiert und sind hier nicht angefochten". Der Beschwerdeführer scheint sich in erster Linie daran zu stossen, dass in den Erwägungen von einem in seinen Augen zu hohen Nachlasswert die Rede ist und die Erziehungsdirektion deshalb das seinerzeitige Stipendiendarlehen ganz oder teilweise zurückfordern könnte mit dem Vorwurf, er habe sich zu wenig für seine Erbschaft eingesetzt. Indes erwächst allein das Dispositiv eines Entscheides in Rechtskraft und Erwägungen könnten als solche nur dann ausnahmsweise angefochten werden, wenn sie dieses beeinflussen (Urteil 4C.332/2003 vom 7. Mai 2004 E. 1.2) bzw. mit diesem zusammen den Streitgegenstand ausmachen (vgl. BGE 121 III 474 E. 4a S. 478; 123 III 16 E. 2a S. 18 f.). Inwiefern dies vorliegend der Fall sein soll und dabei gegen verfassungsmässige Rechte verstossen worden wäre, tut der Beschwerdeführer nicht dar.
4. Kann auf die subsidiäre Verfassungsbeschwerde mangels eines tauglichen Rechtsbegehrens und mangels genügend begründeter Verfassungsrügen nicht eingetreten werden, sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die als subsidiäre Verfassungsbeschwerde entgegenzunehmende Eingabe des Beschwerdeführers wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 700.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien schriftlich mitgeteilt.
Lausanne, 1. September 2010
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Escher Möckli