Erwägungen:
1. 1.1 Die Universität Bern verfügte am 27. Januar 2006, X._ sei zu allen nichtmedizinischen Studiengängen an der Universität Bern zuzulassen, wenn er vorgängig vor der Maturitätskommission des Kantons Bern eine Aufnahmeprüfung im Fach Mathematik bestehe. Grund für diese Auflage war, dass er gemäss seinem im Jahr 1998 erworbenen Reifezeugnis das Fach Mathematik nicht durchgehend bis zur Abiturprüfung belegt hatte. Mit Zwischenverfügung vom 16. März 2006 wies die Erziehungsdirektion des Kantons Bern das Gesuch von X._ ab, ihn schon während der Dauer des dort anhängig gemachten Rechtsmittelverfahrens ohne Ablegen einer Maturitätsprüfung einstweilen zum Studium der Rechtswissenschaften zuzulassen, wobei sie ihm die Kosten für diesen Zwischenentscheid von Fr. 300.-- auferlegte; die dagegen erhobene Beschwerde wies der Regierungsrat des Kantons Bern am 5. April 2006 ab und auferlegte X._ seinerseits Verfahrenskosten von Fr. 500.--. Dieser gelangte am 19. April 2006 gegen diesen regierungsrätlichen Entscheid bzw. gegen die diesem zugrunde liegende Zwischenverfügung der Erziehungsdirektion mit staatsrechtlicher Beschwerde ans Bundesgericht (Verfahren 2P.106/2006).
Nachdem die Erziehungsdirektion ihren Beschwerdeentscheid in der Sache selbst am 24. April 2006 gefällt und dabei Verfahrenskosten von Fr. 500.-- erhoben hatte (Bestätigung der Ausgangsverfügung der Universität vom 27. Januar 2006), erklärte das Bundesgericht den Rechtsstreit als erledigt und schrieb ihn vom Geschäftsverzeichnis ab. Im betreffenden Beschluss 2P.106/2006 vom 23. Mai 2006 wurde festgehalten, dass X._ nach Vorliegen eines wie auch immer ausfallenden kantonal letztinstanzlichen Entscheids in der Sache selbst staatsrechtliche Beschwerde (gegebenenfalls allein) hinsichtlich der umstrittenen Kostenregelung für das kantonale Verfahren betreffend vorsorglichen Rechtsschutz (Zwischenverfügung der Erziehungsdirektion vom 16. März bzw. diesbezüglicher Rechtsmittelentscheid des Regierungsrats vom 5. April 2006) erheben könnte (E. 2.2).
1.2 X._ wurde schliesslich mit Verfügung der Universität Bern vom 23. August 2006, welche jene vom 27. Januar 2006 ersetzte, zum Studium der Rechtswissenschaften zugelassen. Die vor dem Regierungsrat hängige Beschwerde gegen den Beschwerdeentscheid der Erziehungsdirektion vom 24. April 2006 betreffend die Verfügung vom 27. Januar 2006 wurde am 20. November 2006 durch die Justiz-, Gemeinde- und Kirchendirektion des Kantons Bern als Instruktionsbehörde des Regierungsrats abgeschrieben, wobei die Verfahrenskosten in der Höhe von Fr. 300.-- X._ auferlegt wurden. Dagegen bzw. gegen einen diesbezüglichen Revisionsentscheid vom 29. November 2006 erhob X._ mit Rechtsschriften vom 18. und 26. Dezember 2006 staatsrechtliche Beschwerde ans Bundesgericht; zugleich angefochten wurden auch die Zwischenverfügung der Erziehungsdirektion vom 16. März 2006, der diesbezügliche Entscheid des Regierungsrats vom 5. April 2006 und der (materielle) Beschwerdeentscheid der Erziehungsdirektion vom 24. April 2006, wobei namentlich Bezug auf die jeweiligen Kostenregelungen dieser Entscheide bzw. Verfügungen genommen wurde.
Mit Urteil 2P.2/2007 vom 9. April 2008 hiess das Bundesgericht die staatsrechtliche Beschwerde gut, soweit sie sich gegen die Kostenauflage der Abschreibungsverfügung der Justiz-, Gemeinde- und Kirchendirektion vom 20. November 2006 richtete; die entsprechende Ziffer des Verfügungsdispositivs wurde aufgehoben. In allen übrigen Punkten trat das Bundesgericht auf die Beschwerde nicht ein. In den Erwägungen ist festgehalten, dass die staatsrechtliche Beschwerde fristgerecht nur gegen die Abschreibungsverfügung vom 20. November bzw. den diesbezüglichen Revisionsentscheid vom 29. November 2006 erhoben worden sei. Gestützt auf Art. 87 Abs. 3 OG und auf den Hinweis in E. 2.2 des Abschreibungsbeschlusses 2P.106/2006 vom 23. Mai 2006 liess das Bundesgericht es jedoch zu, dass (einzig) die Kostenregelungen der Zwischenverfügung vom 16. März 2006 und des diesbezüglichen Rechtsmittelentscheids des Regierungsrats vom 5. April 2006 nachträglich noch zum Gegenstand der Beschwerde gegen die Entscheidungen vom 20. und 29. November 2006 gemacht werden konnten. Es trat jedoch in dieser Hinsicht auf die Beschwerde nicht ein, weil die Rechtsschriften vom 18. und 26. Dezember 2006 eine verfassungsrelevante Auseinandersetzung mit den Kostenerwägungen besagter Entscheidungen vermissen liessen und diese nicht mit einer den Anforderungen von Art. 90 OG genügenden Begründung angefochten worden seien (Urteil 2P.2/2007 vom 9. April 2008 E. 2.3.4). Als ohne Einschränkungen verspätet erachtet wurde die staatsrechtliche Beschwerde in Bezug auf die Kostenregelung des materiellen Beschwerdeentscheids der Erziehungsdirektion vom 24. April 2006, weil diesbezüglich keine Zwischenentscheid-Problematik mit nachträglicher Anfechtungsmöglichkeit vorlag.
Gestützt auf dieses bundesgerichtliche Urteil auferlegte die Justiz-, Gemeinde- und Kirchendirektion des Kantons Bern die Kosten des mit Abschreibungsverfügung vom 20. November 2006 abgeschriebenen Beschwerdeverfahrens vor dem Regierungsrat dem Kanton Bern. Die entsprechende Verfügung vom 22. April 2008 blieb unangefochten.
1.3 Am 28. Mai 2011 gelangte X._ an die Erziehungsdirektion des Kantons Bern, die er darum ersuchte, die Nichtigkeit ihres Entscheids vom 24. April 2006 festzustellen. Anlass dazu gab ihm die Tatsache, dass er 2011 nun für die mit diesem Entscheid auferlegten Verfahrenskosten von Fr. 500.-- betrieben worden war. Mit Verfügung vom 8. November 2011 trat die Erziehungsdirektion auf das als Revisionsgesuch gedeutete Feststellungsbegehren nicht ein, wobei sie zugleich ein Gesuch um unentgeltliche Rechtspflege wegen Aussichtslosigkeit abwies und Verfahrenskosten von Fr. 300.-- erhob. Bereits vor Erlass dieser Verfügung hatte X._ den in Betreibung gesetzten Betrag vollständig bezahlt.
Mit Urteil vom 5. Juni 2012 hob das Verwaltungsgericht des Kantons Bern die Verfügung der Erziehungsdirektion vom 8. November 2011 in teilweiser Gutheissung der dagegen gerichteten Beschwerde auf; im Übrigen wies es die Beschwerde ab und verweigerte die Rückerstattung von Fr. 500.-- an X._. Es erhob keine Kosten und erklärte auch das Verfahren vor der Erziehungsdirektion bzw. deren Verfügung vom 8. November 2011 für kostenlos, womit die Gesuche um unentgeltliche Rechtspflege vor Verwaltungsgericht und Erziehungsdirektion sich als gegenstandslos erwiesen. Die teilweise Gutheissung der Beschwerde bezieht sich darauf, dass die Erziehungsdirektion das dort gestellte Feststellungsbegehren nicht (förmlich) behandelt hatte.
1.4 Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten, datiert vom 5. Juli, zur Post gegeben am 7. Juli 2012, beantragt X._ dem Bundesgericht hauptsächlich, es sei unter Aufhebung des Urteils des Verwaltungsgerichts die Verfügung der Erziehungsdirektion des Kantons Bern aufzuheben und der Betrag von Fr. 500.-- (zuzüglich Mahn- und Betreibungskosten sowie die betriebenen und aufgelaufenen Verzugszinsen von 5 %, seit zwangsweiser Bezahlung der Nichtschuld per 4. August 2011) an ihn zu erstatten.
1.5 Es ist weder ein Schriftenwechsel noch sind andere Instruktionsmassnahmen angeordnet worden.
2. 2.1 Rechtsschriften haben gemäss Art. 42 Abs. 1 und 2 BGG die Begehren und deren Begründung zu enthalten. In der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletze. Nicht unmittelbar gerügt werden kann die Verletzung von kantonalem Gesetzesrecht, sondern allein die Verletzung von schweizerischem Recht (<ref-law>). Beruht ein Entscheid, wie vorliegend, auf kantonalem Recht, kann im Wesentlichen bloss gerügt werden, dessen Anwendung verstosse gegen verfassungsmässige Rechte; entsprechende Rügen bedürfen gemäss <ref-law> spezieller Geltendmachung und Begründung (<ref-ruling> E. 4.3 S. 521 f.; <ref-ruling> E. 4.2.2 S. 158; <ref-ruling> E. 3 S. 351 f.; <ref-ruling> E. 2.3 S. 466).
2.2 Der Beschwerdeführer will im Wesentlichen geltend machen, mit der Abschreibungsverfügung der Justiz-, Gemeinde- und Kirchendirektion des Kantons Bern vom 20. November 2006 sei nicht nur das eigentliche Beschwerdeverfahren vor dem Regierungsrat als solches dahingefallen, vielmehr gelte dies für das gesamte Verfahren, namentlich auch für die mit dem Rechtsmittelentscheid der Erziehungsdirektion vom 24. April 2006 verbundene Kostenauflage. Dieser Kostenspruch sei nicht in Rechtskraft erwachsen und zudem nichtig.
Das Verwaltungsgericht hat sich als Beschwerde- und ergänzend als Klagebehörde umfassend mit dem Bestand der streitigen Gebührenforderung von Fr. 500.-- befasst und dabei die Rechtsfiguren Feststellungsinteresse, Rechtskraft, Revision sowie Nichtigkeit untersucht und ausgeleuchtet. Es hat namentlich die Abschreibungsverfügung vom 20. November 2006 in Berücksichtigung des gesamten Verfahrensverlaufs ab Januar 2006, einschliesslich die diesbezüglichen bundesgerichtlichen Entscheidungen 2P.106/2006 und 2P.2/2007, interpretiert und ist zum Schluss gekommen, dass damit nur das eigentliche Beschwerdeverfahren vor dem Regierungsrat abgeschrieben worden sei und dass weder dadurch noch durch die Verfügung vom 22. April 2008 die Rechtskraft des Kostenspruchs vom 24. April 2006 beseitigt worden sei oder dieser seither nichtig erscheine. Der Beschwerdeführer müsste aufzeigen, dass diese Interpretation der Abschreibungsverfügung bzw. die grundsätzlichen Erwägungen im angefochtenen Urteil über die Tragweite solcher Akte sowie die über die Problematik der Nichtigkeit willkürlich seien (s. zum Begriff der Willkür <ref-ruling> E. 2.4 S. 5; <ref-ruling> E. 4.2 S. 560; <ref-ruling> E. 1.3 S. 4 f.; <ref-ruling> E. 4.1 S. 133). Dies vermag er mit seinen ausufernden Ausführungen selbst nicht im Ansatz aufzuzeigen. So ist nicht erkennbar, inwiefern das Verwaltungsgericht den für die zu lösende Rechtsfrage erheblichen Sachverhalt, etwa durch "Verstoss gegen die Bindungswirkung des am 9. April 2008 ergangenen Rückweisungsentscheids BGE 2P.2/2007", offensichtlich unrichtig oder unter Verletzung des rechtlichen Gehörs festgestellt hätte. Wiewohl der Beschwerdeführer dabei das Willkürverbot erwähnt, erweist sich die Kritik an den für sich allein das Ergebnis des angefochtenen Urteils rechtfertigenden Erwägungen des Verwaltungsgerichts (namentlich E. 4.3 bis 4.7) als rein appellatorisch und ist nicht zu hören (vgl. <ref-ruling> E. 2.2 S. 246; <ref-ruling> E. 3 S. 399 f.).
2.3 Die Beschwerde enthält insgesamt offensichtlich keine hinreichende Begründung (<ref-law>). Es ist darauf mit Entscheid des Einzelrichters im vereinfachten Verfahren nach <ref-law> nicht einzutreten.
2.4 Da die Beschwerde aussichtslos erschien, kann dem Gesuch um unentgeltliche Rechtspflege nicht entsprochen werden (<ref-law>).
Damit sind die Gerichtskosten dem Beschwerdeführer als unterliegende Partei aufzuerlegen (Art. 66 Abs. 1 erster Satz BGG). Bei der Festsetzung der Gerichtsgebühr ist der Art der Prozessführung Rechnung zu tragen (<ref-law>).

Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, Einzelrichterin, schriftlich mitgeteilt.
Lausanne, 25. Juli 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Feller