Zulassung zur Anwaltsprüfung, hat sich ergeben:
A.- Lic. iur. B._ ist seit dem 1. Januar 1999 als juristischer Sekretär bei der Steuerrekurskommission II des Kantons Zürich tätig. Am 14. März 2000 stellte er beim Obergericht des Kantons Zürich den Antrag auf Zulassung zur Anwaltsprüfung, wobei er geltend machte, seine Tätigkeit bei der Steuerrekurskommission sei eine praktische Tätigkeit im Sinne von § 5 lit. g der kantonalen Verordnung vom 26. Juni 1974 über die Fähigkeitsprüfung für den Rechtsanwaltsberuf (PVO). Die Verwaltungskommission des Obergerichts wies das Gesuch am 31. März 2000 ab. Sie erwog, die Tätigkeit bei einer Steuerrekurskommission lasse sich nicht einer von der Verordnung verlangten Tätigkeit bei einem zürcherischen Gericht gleichstellen, weshalb sie nicht vollumfänglich als Praxisjahr im Sinne von § 5 lit. g PVO, sondern lediglich im Umfang von vier Monaten gemäss § 7 Abs. 2 PVO angerechnet werden könne.
B.- B._ erhebt staatsrechtliche Beschwerde beim Bundesgericht mit dem Antrag, den Entscheid der Verwaltungskommission des Obergerichts aufzuheben. Er rügt eine Verletzung von Art. 8, 9 und 27 BV.
C.- Das Obergericht verzichtete mit Schreiben vom 7. Juni 2000 auf eine Vernehmlassung.
D.- Der Instruktionsrichter forderte mit Verfügung vom 23. Juni 2000 das Obergericht auf, dem Bundesgericht mitzuteilen, welche Tätigkeiten als genügende praktische Tätigkeit anerkannt würden. Das Obergericht beantwortete diese Fragen mit Eingabe vom 28. Juni 2000. Der Beschwerdeführer erhielt Gelegenheit, sich dazu zu äussern.

Das Bundesgericht zieht in Erwägung:
1.- Der Entscheid der Verwaltungskommission des Obergerichts stützt sich auf kantonales Recht und ist letztinstanzlich (§ 21 der zürcherischen Verordnung vom 30. Juni 1976 über die Organisation des Obergerichts). Die staatsrechtliche Beschwerde ist zulässig (Art. 84, Art. 86 Abs. 1 und Art. 87 OG) und der Beschwerdeführer legitimiert (Art. 88 OG). Auf die Beschwerde ist einzutreten.
2.- a) Die Tätigkeit des Anwalts untersteht der Wirtschaftsfreiheit (<ref-law>). Das Erfordernis, für die Ausübung der Anwaltstätigkeit eine Bewilligung zu erlangen, die erst nach Bestehen einer Prüfung erteilt wird, ist eine Einschränkung der Wirtschaftsfreiheit und bedarf einer gesetzlichen Grundlage (Art. 27 und Art. 36 Abs. 1 BV; <ref-ruling> E. 3b/bb S. 134). Der Beschwerdeführer beanstandet nicht das Fehlen einer gesetzlichen Grundlage, aber eine willkürliche Auslegung des massgebenden kantonalen Rechts.
b) Das Bundesgericht prüft die Auslegung des kantonalen Rechts nur unter dem Gesichtspunkt der Willkür, sofern die Einschränkung nicht besonders schwer wiegt. Frei prüft das Bundesgericht, ob das willkürfrei ausgelegte Recht mit der Wirtschaftsfreiheit vereinbar ist (<ref-ruling> E. 4a und c S. 422 f.; <ref-ruling> E. 3 S. 313 f.; Walter Kälin, Das Verfahren der staatsrechtlichen Beschwerde, 2. Aufl. , Bern 1994, S. 175 ff.). Die Bewilligungspflicht für die Ausübung eines Berufes bzw. die Nichtzulassung zu einem Beruf ist an sich ein schwerer Eingriff (<ref-ruling> E. 3a S. 217; <ref-ruling> E. 3b/bb S. 134). Vorliegend wird dem Beschwerdeführer jedoch der Zugang zur Anwaltstätigkeit nicht generell verwehrt.
Streitig ist einzig, ob seine Tätigkeit bei der Steuerrekurskommission vollumfänglich oder nur teilweise als Praktikum anerkannt wird. Letzteres hätte für den Beschwerdeführer zur Folge, dass er ein anderweitiges Praktikum im Umfang von acht Monaten zu absolvieren hätte, um zur Prüfung zugelassen zu werden. Dies kann nicht als besonders schwerer Eingriff betrachtet werden. Die Auslegung des kantonalen Rechts ist daher nur auf Willkür hin zu überprüfen.
c) Willkürlich ist ein Entscheid nicht schon dann, wenn eine andere Lösung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre, sondern erst dann, wenn er offensichtlich unhaltbar ist, zur tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Willkür liegt sodann nur vor, wenn nicht bloss die Begründung eines Entscheides, sondern auch das Ergebnis unhaltbar ist (<ref-ruling> E. 2a S. 168; <ref-ruling> E. 5 S. 250; <ref-ruling> E. 4a S. 5; je mit Hinweisen).
d) Nach § 5 lit. g PVO wird für die Zulassung zur Anwaltsprüfung eine mindestens einjährige praktische Tätigkeit "bei einem zürcherischen Gericht als Richter, Gerichtsschreiber, Sekretär, Substitut oder Auditor oder als Substitut bei einem zürcherischen Rechtsanwalt" vorausgesetzt.
Es ist nicht bestritten, dass der Beschwerdeführer ein Jahr lang als juristischer Sekretär bei einer Steuerrekurskommission gearbeitet hat. Umstritten ist einzig, ob die Steuerrekurskommission ein "Gericht" im Sinne von § 5 lit. g PVO darstelle.
e) Die zürcherischen Steuerrekurskommissionen beurteilen Rekurse gegen Einspracheentscheide in Steuersachen (§ 147 des kantonalen Steuergesetzes vom 8. Juni 1997, StG). Sie sind in ihrer rechtsprechenden Tätigkeit unabhängig (§ 116 StG) und entscheiden mit voller Kognition (§ 147 Abs. 3 StG; nicht publiziertes Urteil des Bundesgerichts vom 1. Februar 2000 i.S. M., E. 2c/aa und 2d).
Verwaltungsunabhängige Rekurskommissionen werden in der allgemein gebräuchlichen juristischen Terminologie als Gerichte bezeichnet und erfüllen auch die Anforderungen an ein unabhängiges Gericht gemäss Art. 6 Ziff. 1 EMRK (Alfred Kölz/Isabelle Häner, Verwaltungsverfahren und Verwaltungsrechtspflege des Bundes, 2. Aufl. , Zürich 1998, S. 9; Ulrich Zimmerli/Walter Kälin/Regina Kiener, Grundlagen des öffentlichen Verfahrensrechts, Bern 1997, S. 71 und 99; <ref-ruling> E. 1 b S. 451 f.; <ref-ruling> E. 4a S. 377 f.; <ref-ruling> E. 4b S. 381 f.; nicht publ. Urteil des Bundesgerichts vom 7. Juni 1993 i.S. K., E. 1 b; Entscheid 23399/94 der Europäischen Menschenrechtskommission vom 31. August 1994 i.S. K., betreffend Bundessteuer-Rekurskommission).
Die Steuerrekurskommission ist somit als Gericht zu betrachten.
f) Die Verwaltungskommission hat erwogen, die Steuerrekurskommissionen seien lediglich Steuer-Gerichte mit entsprechend eingeschränkter prozessualer und materieller Entscheidungsbefugnis. Die in § 5 lit. g PVO vorausgesetzte praktische Tätigkeit habe den Zweck, eine hinreichende Berufserfahrung im Privat- und Strafrecht, das heisst im Monopolbereich der Rechtsanwälte, zu erlangen.
Diese Begründung steht in klarem Widerspruch zur Verordnung und zur tatsächlichen Situation: § 5 lit. g PVO spricht von "Gericht", ohne zu spezifizieren, dass es sich um ein Zivil- oder Strafgericht handeln muss. Nach landläufigem juristischem Verständnis wäre es jedenfalls unhaltbar, unter den Begriff "Gericht" ausschliesslich Zivil- und Strafgerichte zu subsumieren. Die kantonale Praxis geht denn auch offensichtlich nicht von einer derart engen Auffassung aus.
Zur Prüfung werden nämlich unbestrittenerweise auch Personen zugelassen, die ausschliesslich am Verwaltungsgericht oder am Sozialversicherungsgericht gearbeitet haben. Das Obergericht räumt ein, dass Kandidaten selbst dann zugelassen werden, wenn sie nur an einer einzigen Abteilung des Verwaltungsgerichts eingesetzt wurden. Solche Kandidaten haben in ihrer praktischen Tätigkeit keine Berufserfahrung im Privat- und Strafrecht erlangen können. Ihre praktische Erfahrung ist materiell nicht breiter gefächert als diejenige eines Sekretärs bei der Steuerrekurskommission. Daran ändert auch nichts, dass - wie das Obergericht in seiner Stellungnahme vom 28. Juni 2000 ausführt - Anmeldungen von Kandidaten, die ausschliesslich beim Ober-, Verwaltungs-, Sozialversicherungs- oder Kassationsgericht gearbeitet haben, selten seien und diese Kandidaten in der Regel vorher bei einer unteren Instanz tätig gewesen seien. Ausschlaggebend ist, dass nach Aussagen des Obergerichts derartige Kandidaten zugelassen werden.
g) Für die Nicht-Zulassung des Beschwerdeführers findet sich somit im massgebenden kantonalen Erlass keine Grundlage. Sie schafft zudem eine Ungleichheit gegenüber denjenigen Kandidaten, die ihre praktische Tätigkeit an einem anderen Gericht absolviert haben. Das Obergericht macht keine sachlichen Gründe geltend, welche einen Unterschied zwischen einer Abteilung des Verwaltungsgerichts oder dem Sozialversicherungsgericht einerseits und der Tätigkeit in der Steuerrekurskommission andererseits rechtfertigen könnten. Es bringt vor allem vor, dass das Praktikum den angehenden Anwälten die Möglichkeit verschaffen soll, eine forensische Ausbildung und praktische Erfahrung auf prozessualen Rechtsgebieten zu erwerben. Es ist indessen nicht ersichtlich, inwiefern die Tätigkeit eines juristischen Sekretärs am Sozialversicherungsgericht oder Verwaltungsgericht mehr forensische, prozessuale Erfahrung bieten sollte als bei der Steuerrekurskommission.
h) Es mag zwar durchaus einem berechtigten Interesse entsprechen, von künftigen Rechtsanwälten eine praktische Erfahrung im Zivil- und Strafrecht zu verlangen. Ein kantonaler Erlass, welcher eine solche Anforderung enthielte, könnte grundsätzlich kaum als unhaltbar oder unverhältnismässig betrachtet werden. § 5 lit. g PVO enthält jedoch dieses Erfordernis nicht. Es geht nicht an, bei der Anwendung der Verordnung eine Anforderung aufzustellen, die zwar an sich sinnvoll sein mag, in der Verordnung aber nicht enthalten ist.
3.- Die staatsrechtliche Beschwerde ist daher gutzuheissen und der angefochtene Entscheid wegen willkürlicher Auslegung von § 5 lit. g PVO aufzuheben. Damit erübrigt es sich, auf die weiteren Rügen einzugehen. Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (Art. 156 Abs. 2 OG). Der Kanton Zürich hat dem obsiegenden Beschwerdeführer eine Parteientschädigung auszurichten (Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die staatsrechtliche Beschwerde wird gutgeheissen und der Entscheid der Verwaltungskommission des Obergerichts des Kantons Zürich vom 31. März 2000 wird aufgehoben.
2.- Es werden keine Kosten erhoben.
3.-Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4.- Dieses Urteil wird dem Beschwerdeführer und dem Obergericht des Kantons Zürich, Verwaltungskommission, schriftlich mitgeteilt.
_
Lausanne, 24. August 2000
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: