Sachverhalt:
A. In einem interkantonalen Rechtsstreit holte die Regierung des Kantons St. Gallen ein Rechtsgutachten bei Prof. Dr. X._ ein; dieser lehrt als Professor an der Universität St. Gallen. In der Folge verhandelten die am interkantonalen Konflikt beteiligten Parteien unter Begleitung einer Bundesbehörde mit dem Ziel, eine gütliche Einigung zu finden. Im Laufe dieser Verhandlungen zog das in der Sache federführende Departement des Kantons St. Gallen Prof. Dr. X._ weiterhin im Hintergrund beratend bei. Im März 2005 erstattete er dem Departement ein Zusatzgutachten in der Angelegenheit. Noch bevor dieses Zusatzgutachten bestellt worden war, gelangte ein Assistent von Prof. Dr. X._ in dessen Auftrag mit einer Anfrage an eine Stelle; diese Stelle befasst sich mit Fragen der Art, die auch im Zusatzgutachten eine Rolle spielten. Es ist ungeklärt, wie der Auftrag zu dieser Anfrage genau lautete. Immerhin gab der Assistent zu erkennen, dass er an der Universität St. Gallen tätig war, und lieferte zusätzliche Angaben zum Hintergrund seiner Anfrage; er nannte aber insbesondere den Namen von Prof. Dr. X._ nicht. Aus Gründen, die hier nicht von Interesse sind, erhielt die in die Verhandlungen involvierte Bundesbehörde Kenntnis von der Anfrage und leitete diese Meldung vertraulich an die Verhandlungsdelegationen weiter. Diese Weiterleitung der Meldung geschah, nachdem das Zusatzgutachten bereits abgeliefert war.
B. Die St. Galler Kantonsregierung sandte der Bundesbehörde, von der sie die Meldung erhalten hatte, am 2. Mai 2005 einen Brief mit Kopie an Behördenmitglieder bzw. leitende Vertreter der Verhandlungspartner auf der Gegenseite. In diesem Schreiben äusserte die Kantonsregierung unter anderem, sie werte das Verhalten von Prof. Dr. X._ bzw. des ihm unterstellten und von ihm offensichtlich beauftragten Assistenten als nicht akzeptierbar und distanziere sich in aller Form davon. Gleichzeitig teilte sie mit, dass sie Prof. Dr. X._ im Wiederholungsfall rechtliche Schritte (aus dem Auftragsverhältnis wie aus seinem Dienstverhältnis an der Universität) angedroht habe. Prof. Dr. X._ erhielt erst später, im Rahmen der Akteneinsicht, Kenntnis vom Wortlaut des Schreibens. Er war am 3. Mai 2005 vom federführenden kantonalen Departement mit separatem Brief über die eingegangene Meldung und die daraus gezogenen Konsequenzen orientiert worden. Diese Konsequenzen bestanden zur Hauptsache darin, dass mit sofortiger Wirkung auf eine beratende Mitwirkung von Prof. Dr. X._ in der Angelegenheit verzichtet wurde.
C. Prof. Dr. X._ stellte mit Eingabe vom 20. Februar 2006 den Antrag, die Kantonsregierung habe förmlich festzustellen, dass die Schreiben vom 2. und 3. Mai 2005 in verschiedener Hinsicht rechtsverletzend gewesen seien. Insbesondere behauptete er dabei, das Schreiben der Regierung vom 2. Mai 2005 habe seine Persönlichkeitsrechte verletzt. Mit Entscheid vom 23. Januar 2007 trat die Kantonsregierung im Wesentlichen auf die Rechtsbegehren von Prof. Dr. X._ nicht ein. Stattdessen verwies sie ihn auf den Weg der öffentlich-rechtlichen Klage an das Verwaltungsgericht.
D. Am 14. Februar 2007 erhob Prof. Dr. X._ beim Verwaltungsgericht des Kantons St. Gallen Beschwerde gegen den Entscheid vom 23. Januar 2007. Eventualiter stellte er den Antrag, seine Eingabe als öffentlich-rechtliche Klage zu behandeln. Wie im Verfahren vor der Kantonsregierung behielt sich Prof. Dr. X._ ausdrücklich Schadenersatz- und Genugtuungsansprüche in der Angelegenheit vor.
Mit Urteil vom 19. September 2007 hiess das Verwaltungsgericht die Beschwerde insoweit gut, als es die Kosten des regierungsrätlichen Entscheids herabsetzte. Im Übrigen wurde die Beschwerde abgewiesen, soweit darauf eingetreten wurde. Die öffentlich-rechtliche Klage wurde ebenfalls abgewiesen, soweit darauf eingetreten wurde.
E. Gegen das verwaltungsgerichtliche Urteil führt Prof. Dr. X._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiäre Verfassungsbeschwerde.
Die Kantonsregierung schliesst auf Abweisung der Beschwerde. Das Verwaltungsgericht ersucht um Abweisung der Beschwerde in öffentlich-rechtlichen Angelegenheiten und um Nichteintreten auf die subsidiäre Verfassungsbeschwerde. In der Replik hat der Beschwerdeführer seine Rechtsbegehren präzisiert und im Wesentlichen daran festgehalten.
Erwägungen:
1. Auf das Beschwerdeverfahren ist das Bundesgesetz vom 17. Juni 2005 über das Bundesgericht (BGG; SR 173.110) anwendbar (vgl. Art. 132 Abs. 1 BGG).
1.1 Das angefochtene Urteil besteht, grob betrachtet, aus zwei Teilen: Zum einen wird die Beschwerde gegen einen Nichteintretensentscheid der Kantonsregierung behandelt. Zum andern wird eine gegen den Kanton gerichtete, öffentlich-rechtliche Klage beurteilt. Diese Klage hat das Verwaltungsgericht zur Hauptsache abgewiesen; bezüglich gewisser Aspekte ist es auf die Klage nicht eingetreten. Der Beschwerdeführer erklärt, er fechte das Urteil nur insoweit an, als damit seine öffentlich-rechtliche Klage behandelt worden ist (Ziffern 3 und 5-7 des Urteilsdispositivs). Den Beschwerdeentscheid des Verwaltungsgerichts zieht er nicht weiter; in diesem Umfang ist der angefochtene Entscheid in Rechtskraft erwachsen.
1.2 Die soeben angesprochene Klage machte der Beschwerdeführer im Wesentlichen zur Wahrung seiner Persönlichkeitsrechte und insbesondere seines guten Rufs anhängig. Er berief sich auch auf die Wissenschaftsfreiheit (Art. 20 BV). Der Rechtsbehelf, der dem Beschwerdeführer vom Kanton zur Durchsetzung dieser Ansprüche zur Verfügung gestellt wird, untersteht dem öffentlichen Recht. Im Rahmen des angefochtenen Urteils wurde allerdings auf eine Teilfrage nicht eingetreten, weil diese nach Meinung des Verwaltungsgerichts zivilrechtlicher Natur sei. Unter anderem gegen diesen Nichteintretensentscheid wehrt sich der Beschwerdeführer.
Insoweit ist klärungsbedürftig, ob es sich um eine Beschwerde in Zivilsachen nach Art. 72 ff. BGG oder um eine solche in öffentlich-rechtlichen Angelegenheiten nach Art. 82 ff. BGG handelt. Erst anschliessend kommt die Prüfung der Zulässigkeit einer subsidiären Verfassungsbeschwerde nach Art 113 ff. BGG in Betracht. Im Hinblick auf die Abgrenzung zwischen zivil- und öffentlich-rechtlicher Beschwerde kann an die Rechtsprechung zu Art. 46 des Bundesrechtspflegegesetzes vom 16. Dezember 1943 (OG) angeknüpft werden. Danach beurteilt sich die Frage, ob eine Zivilrechtsstreitigkeit vorliegt, nach der Rechtsnatur des Streitgegenstands. Entscheidend ist nicht, welches Verfahren die kantonalen Behörden eingeschlagen haben, sondern ob die Parteien Ansprüche des Bundeszivilrechts erhoben haben und ebensolche streitig sind (vgl. BGE 129 III 415 E. 2.1 S. 415 mit Hinweisen). Der Beschwerdeführer verfolgt in der Sache einen öffentlich-rechtlichen Anspruch und ein solcher ist auch objektiv streitig. Folglich ist bezüglich dieses Nichteintretensentscheids von einer öffentlich-rechtlichen Angelegenheit im Sinne von Art. 82 lit. a BGG auszugehen. Dasselbe gilt für die übrigen Aspekte der Beschwerde.
Gestützt auf Art. 36 i.V.m. Art. 29 Abs. 2 lit. d des Reglements vom 20. November 2006 für das Bundesgericht (SR 173.110.131) ist die I. öffentlich-rechtliche Abteilung für die Behandlung der Beschwerde zuständig.
1.3 Die Beschwerde richtet sich gegen einen kantonal letztinstanzlichen Entscheid (Art. 86 Abs. 1 lit. d BGG). Es handelt sich um einen Endentscheid im Sinne von Art. 90 BGG; dies gilt ebenfalls, soweit das angefochtene Urteil einen Nichteintretensentscheid bildet. Ein Ausschlussgrund nach Art. 83 BGG ist nicht gegeben. Insbesondere gelangt Art. 83 lit. g BGG nicht zur Anwendung. Schwergewichtig ging es im kantonalen Klageverfahren um die Frage, ob Rechte des Beschwerdeführers ausserhalb seines öffentlich-rechtlichen Arbeitsverhältnisses an der Universität St. Gallen verletzt worden waren.
1.4 Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen. Für die subsidiäre Verfassungsbeschwerde verbleibt kein Raum (Art. 113 BGG).
2. In verfahrensrechtlicher Hinsicht macht der Beschwerdeführer unter anderem geltend, der teilweise Nichteintretensentscheid auf seine öffentlich-rechtliche Klage missachte seinen Gehörsanspruch im Sinne einer formellen Rechtsverweigerung. Gleichzeitig rügt er insoweit eine Verletzung von Art. 28 ZGB.
2.1 Das Verwaltungsgericht qualifizierte das umstrittene Schreiben der Kantonsregierung vom 2. Mai 2005 an sich als Verwaltungsmassnahme im Sinne eines sog. Realakts. Es anerkannte dem Grundsatz nach seine Zuständigkeit zur Beurteilung einer Feststellungsklage des Inhalts, mit dem behördlichen Schreiben sei das Ansehen bzw. die Ehre des Beschwerdeführers verletzt worden. Dabei beschränkte das Verwaltungsgericht aber seine Zuständigkeit auf Aspekte des guten Rufs des Beschwerdeführers als Forscher und Universitätslehrer; insofern ortete das Verwaltungsgericht eine öffentlich-rechtliche Beziehung zwischen ihm und der Behörde. Hingegen lehnte das kantonale Gericht eine Zuständigkeit ab, soweit der gute Ruf als Gutachter tangiert sei. Es stellte darauf ab, dass der dem Beschwerdeführer erteilte Gutachtensauftrag privatrechtlicher Natur war; dies ist unbestritten. Gestützt darauf erwog das Verwaltungsgericht, es sei Sache des Zivilrichters zu prüfen, ob der Beschwerdeführer allenfalls gegen die aus dem Auftragsverhältnis resultierende Treuepflicht verstossen habe. Die Frage einer Persönlichkeitsverletzung im Zusammenhang mit der gutachterlichen Tätigkeit hänge eng mit dem entsprechenden privatrechtlichen Vertragsverhältnis zusammen. Deshalb sei es sachgerecht, wenn auch das dahingehende Persönlichkeitsschutzanliegen des Beschwerdeführers vom Zivilrichter beurteilt werde. Bei der Auseinandersetzung über die diesbezüglichen Äusserungen der Kantonsregierung gehe es nicht um eine öffentlich-rechtliche Streitigkeit.
2.2 Der Beschwerdeführer entgegnet, richtigerweise hätte einzig daran angeknüpft werden dürfen, dass die Behörde mit dem Schreiben vom 2. Mai 2005 nicht als privates Rechtssubjekt aufgetreten sei. Daher könne der privatrechtliche Persönlichkeitsschutz gemäss Art. 28 ff. ZGB im vorliegenden Zusammenhang nicht greifen. Der Zivilrichter sei damit auch für jenen Teil der Äusserungen im Schreiben vom 2. Mai 2005 nicht zuständig, die sich auf ein privates Vertragsverhältnis zum Beschwerdeführer bezögen. Vielmehr handle es sich bei der Frage, ob dieser allenfalls gegen eine vertragliche bzw. zivilrechtliche Pflicht verstossen habe, um eine Vorfrage; diese sei im öffentlich-rechtlichen Klageverfahren zu beurteilen.
2.3 Jede Person hat in Verfahren vor Gerichts- und Verwaltungsinstanzen Anspruch auf gleiche und gerechte Behandlung, auf Beurteilung innert angemessener Frist sowie auf rechtliches Gehör (Art. 29 Abs. 1 und 2 BV). Eine Gehörsverletzung im Sinne einer formellen Rechtsverweigerung liegt nach der Praxis des Bundesgerichts vor, wenn eine Behörde auf eine ihr frist- und formgerecht unterbreitete Sache nicht eintritt, obschon sie darüber entscheiden müsste. In welcher Form und in welchem Umfang die diesbezüglichen Verfahrensrechte zu gewährleisten sind, lässt sich nicht generell, sondern nur im Hinblick auf den konkreten Fall beurteilen (vgl. BGE 117 Ia 116 E. 3a S. 117 f.; Urteil 1P.338/2006 vom 12. Februar 2007, E. 3.2 in: ZBl 108/2007 S. 313).
2.4 Mit Blick auf den vorliegenden Fall gilt es zu präzisieren, dass das Verwaltungsgericht seine - nur teilweise bejahte - Zuständigkeit ausserhalb eines Staatshaftungsverfahrens für gegeben erachtet. Nach dem kantonalen Recht ist für Verantwortlichkeitsklagen gegen den Kanton der Zivilrichter zuständig (Art. 13bis des kantonalen Verantwortlichkeitsgesetzes vom 7. Dezember 1959 [VG/SG; sGS 161.1]; Art. 72 des kantonalen Verwaltungsrechtspflegegesetzes vom 16. Mai 1965 [VRP/SG; sGS 951.1]; vgl. dazu HANS RUDOLF SCHWARZENBACH, Staatshaftung bei verfügungsfreiem Verwaltungshandeln, Bern 2006, S. 43; URS PETER CAVELTI/THOMAS VÖGELI, Verwaltungsgerichtsbarkeit im Kanton St. Gallen - dargestellt an den Verfahren vor dem Verwaltungsgericht, 2. Aufl., St. Gallen 2003, Rz. 483; JOST GROSS, Schweizerisches Staatshaftungsrecht, 2. Aufl., Bern 2001, S. 80). Statt dessen hat das Verwaltungsgericht seine Zuständigkeit hier auf Art. 79 Abs. 1 lit. a i.V.m. Art. 76 lit. b VRP/SG gestützt. Es nahm an, damit werde eine Art "Auffangklage" zur vollumfänglichen Verwirklichung des Rechtsschutzes gegenüber Realakten zur Verfügung gestellt (dazu Yvo Hangartner, Recht auf Rechtsschutz, in: AJP 2002 S. 131 ff., 147 bei Fn. 133). Soweit das Verwaltungsgericht den Beschwerdeführer demgegenüber an den Zivilrichter verwiesen hat, geschah dies, weil es dem Rechtsstreit eine privatrechtliche Natur beimass (vgl. E. 2.1 hiervor). Der teilweise Nichteintretensentscheid ist somit sachlich nur zulässig, sofern dieser Teil der Streitsache dem Zivilrecht zuzurechnen ist.
3. 3.1 Nach Art. 28 Abs. 1 ZGB kann derjenige, der in seiner Persönlichkeit widerrechtlich verletzt wird, zu seinem Schutz gegen jeden, der an der Verletzung mitwirkt, das Gericht anrufen. Wie in der Botschaft des Bundesrates vom 5. Mai 1982 über die Teilrevision des ZGB betreffend den Persönlichkeitsschutz erläutert wird, kann Art. 28 ZGB indessen gegenüber dem Staat oder anderen Körperschaften des öffentlichen Rechts, die im Rahmen ihrer Befugnisse handeln, nicht angerufen werden (BBl 1982 II 636 ff., S. 658). Die Persönlichkeitsrechte regeln ausschliesslich die Beziehungen unter Privaten, während die Grundrechte das Verhältnis des Einzelnen zum Staat normieren (a.a.O., S. 684).
3.2 Entsprechend hielt das Bundesgericht in BGE 113 Ia 257 E. 4b S. 262 fest, dass die Regelung von Art. 28-28l ZGB eine Auswirkung des verfassungsrechtlichen Persönlichkeitsschutzes in den Beziehungen unter Privatpersonen darstelle. In der Lehre ist diese Abgrenzung nicht auf Widerspruch gestossen. So nennen einzelne Autoren das Beispiel einer Pressemitteilung einer Amtsstelle mit ehrverletzendem Inhalt; diesfalls sei gegen das Gemeinwesen nach öffentlichem Recht und gegen das private Presseorgan, das die amtliche Publikation übernehme, gemäss Art. 28 ff. ZGB auf dem Zivilweg zu prozessieren (Heinz HAUSHEER/REGINA E. AEBI-MÜLLER, Das Personenrecht des Schweizerischen Zivilgesetzbuches, Bern 2005, Rz. 10.60; CHRISTIAN BRÜCKNER, Das Personenrecht des ZBG, Zürich 2000, Rz. 384 bei Fn. 12). Immerhin weisen einige Autoren - ausdrücklich oder sinngemäss - auf die Regelung von Art. 61 Abs. 2 OR hin; sie lassen die direkte Anwendbarkeit von Art. 28 ZGB bei Klagen von Privaten, die den Staat ins Recht ziehen, dann zu, wenn zwischen dem Verursacher der Verletzung und dem Verletzten ein privatrechtlich beherrschtes Rechtsverhältnis vorliegt (vgl. Hausheer/Aebi-Müller, a.a.O., Rz. 10.36 ff.; Andreas Bucher, Natürliche Personen und Persönlichkeitsschutz, 3. Aufl., Basel 1999, Rz. 455; Pierre Tercier, Le nouveau droit de la personnalité, Zürich 1984, Rz. 308).
3.3 Der vorliegende Streit über die Eintretensfrage rührt daher, dass das Verwaltungsgericht dem Schreiben vom 2. Mai 2005 - je nach dem zur Diskussion stehenden Abschnitt - gleichzeitig eine privat- und eine öffentlich-rechtliche Natur zuerkannt hat. Ob ein behördliches Schreiben im Hinblick auf eine damit begangene Persönlichkeitsverletzung eine solche Doppelnatur haben kann, erscheint fraglich, muss aber nicht in allgemeiner Weise erörtert werden. Im konkreten Fall hält es jedenfalls nicht vor Art. 28 ZGB stand, dass das Verwaltungsgericht das gutachterliche Auftragsverhältnis zwischen der Kantonsregierung und dem Beschwerdeführer zum Anlass genommen hat, auf dessen Klage teilweise nicht einzutreten.
3.3.1 Zunächst ist es nicht zu beanstanden, wenn das Verwaltungsgericht das behördliche Schreiben dem Grundsatz nach dem öffentlichen Recht zugeordnet hat. Es liegt auf der Hand, dass dieser Brief nicht in Erfüllung einer gewerblichen Verrichtung im Sinne von Art. 61 Abs. 2 OR verfasst und versandt wurde.
3.3.2 Ferner weist das Schreiben vom 2. Mai 2005 eine Bedeutung auf, die über die Rechtsbeziehung aus dem Auftragsverhältnis hinausgeht. Dies zeigt sich nicht nur darin, dass der Beschwerdeführer seine Ehre aufgrund dieses Schreibens auch in anderen Aspekten als bezüglich seiner gutachterlichen Tätigkeit als verletzt ansieht. Die Adressaten des Schreibens vom 2. Mai 2005 waren nicht am auftragsrechtlichen Verhältnis zum Beschwerdeführer beteiligt. Sie erfuhren erst im Rahmen dieses Schreibens davon, dass die Kantonsregierung ihn persönlich für die Anfrage des Assistenten verantwortlich machte. Selbst wenn der Beschwerdeführer eine Verletzung gutachterlicher Pflichten begangen hätte, wäre damit noch nicht die im Zentrum stehende Frage beantwortet, ob und in welcher Art die Kantonsregierung eine solche Tatsache unbeteiligten Dritten gegenüber offenbaren durfte. Mit anderen Worten ändert die Bezugnahme im Schreiben vom 2. Mai 2005 auf ein privatrechtliches Verhältnis zum Beschwerdeführer insofern nichts an der öffentlich-rechtlichen Natur des Schreibens.
3.3.3 Der vom Verwaltungsgericht angesprochene enge Zusammenhang zum Rechtfertigungsgrund einer allfälligen Vertragsverletzung durch den Beschwerdeführer genügt ebenfalls nicht, um dem Streit über die Persönlichkeitsverletzung insoweit eine privatrechtliche Rechtsnatur beizulegen. Zu Unrecht beruft sich das Verwaltungsgericht für seine gegenteilige Auffassung auf eine allgemein gehaltene Aussage von Hangartner in dem bei E. 2.4 hiervor erwähnten Aufsatz (a.a.O., S. 149). Jene Äusserung erfolgte in einem ganz anderen Sachzusammenhang. Der Autor kritisierte damit das bundesgerichtliche Urteil 2P.96/2000 vom 8. Juni 2001, E. 5 (publ. in: ZBl 102/2001 S. 656). Dort war der verwaltungsrechtliche Rechtsschutz - gemäss dem Autor zu Unrecht - einer Privatperson gegenüber einer anderen Privatperson geöffnet worden, weil das zwischen diesen bestehende Rechtsverhältnis materiell vom öffentlichen Recht beherrscht war. Die in jenem Kontext geäusserten Aussagen von HANGARTNER lassen sich nicht auf die hier vorliegende Konstellation übertragen. Vielmehr ist dem Beschwerdeführer beizupflichten, wenn er die Frage einer allfälligen Vertragsverletzung als Vorfrage bezeichnet. Wie die Prüfung zivilrechtlicher Vorfragen im Rahmen eines öffentlich-rechtlichen Prozesses nach dem kantonalen Verfahrensrecht im Einzelnen vonstatten zu gehen hat, ist hier nicht zu entscheiden. Unabhängig davon ist festzuhalten, dass sich eine an sich sachlich zuständige, öffentlich-rechtliche Instanz ihrer Kompetenz nicht dadurch entledigen kann, dass sie den Rechtsuchenden in der Angelegenheit verfahrensabschliessend an eine Zivilinstanz verweist, damit diese eine Vorfrage des öffentlich-rechtlichen Verfahrens entscheide.
3.4 Zusammengefasst hat das Verwaltungsgericht den Beschwerdeführer im fraglichen Zusammenhang zu Unrecht auf den Zivilweg verwiesen. Dies führt zur Gutheissung der Beschwerde. Bei diesem Verfahrensausgang erübrigt es sich, auf die weiteren Rügen des Beschwerdeführers einzugehen. Zur Vermeidung unnötiger Weiterungen sind allerdings zu einem Beschwerdepunkt die folgenden Präzisierungen anzubringen.
4. 4.1 Vor Bundesgericht hat sich der Beschwerdeführer darüber beklagt, dass das Verwaltungsgericht in der Sache keine Parteiverhandlung durchgeführt hat. In der Vernehmlassung erwiderte das kantonale Gericht, der Beschwerdeführer habe keinen diesbezüglichen Antrag gestellt; folglich habe es annehmen dürfen, er habe auf dieses Parteirecht verzichtet. Dass der Beschwerdeführer keinen dahingehenden Antrag gestellt hatte, ist unbestritten.
4.2 Bei dem vom Beschwerdeführer verteidigten guten Ruf geht es um ein "civil right", das geeignet ist, in den Anwendungsbereich von Art. 6 Ziff. 1 EMRK zu fallen (vgl. BGE 130 I 388 E. 5.3 S. 398; 134 I 140 E. 5.2). Das Verwaltungsgericht stellt deshalb zu Recht nicht in Abrede, dass der Beschwerdeführer einen Anspruch auf Parteiverhandlung im kantonalen Gerichtsverfahren besass. Es macht jedoch geltend, die Rechtsuchenden hätten nach dem anwendbaren kantonalen Verfahrensrecht und seiner Praxis davon auszugehen, dass es in der Regel keine öffentlichen Verhandlungen durchführe, sondern solche nur auf entsprechenden Antrag hin anordne. Dies gelte sowohl für das Verwaltungsgerichtsbeschwerdeverfahren (vgl. Art. 64 VRP/SG) als auch für das öffentlich-rechtliche Klageverfahren (vgl. Art. 80 VRP/SG); die letztgenannte Bestimmung verweist auf die Vorschriften über die Beschwerde.
4.3 Es trifft zu, dass den soeben genannten Bestimmungen der Grundsatz der Schriftlichkeit des Verfahrens zugrunde liegt (vgl. Cavelti/ Vögeli, a.a.O., Rz. 999). Das Verwaltungsgericht kann in Anwendung von Art. 55 VRP/SG eine mündliche Verhandlung anordnen. Diese ist gemäss Art. 60 des kantonalen Gerichtsgesetzes vom 2. April 1987 (GerG/SG; sGS 941.1) öffentlich, sofern die Öffentlichkeit nicht aus besonderen Gründen ausgeschlossen wird. Eine öffentliche Verhandlung vor dem Verwaltungsgericht ist damit möglich. Werden aber Verfahren vor dem Verwaltungsgericht üblicherweise schriftlich durchgeführt, so hat die bisherige bundesgerichtliche Rechtsprechung die Annahme nicht beanstandet, der Rechtsuchende habe auf die Durchführung einer öffentlichen Verhandlung verzichtet, wenn er keinen entsprechenden Antrag gestellt hat (vgl. BGE 127 I 44 E. 2e/aa S. 48 mit Hinweisen).
4.4 Der Beschwerdeführer behauptet demgegenüber, bei fehlendem Antrag auf Parteiverhandlung dürfe ein Verzicht auf diesen Verfahrensanspruch nur dann bejaht werden, wenn gesetzlich geregelt sei, dass die Parteiverhandlung bloss auf Antrag hin erfolge. Dieser Einwand hilft ihm indessen nicht. Ob ein rechtsgültiger stillschweigender Verzicht auf einen Verfahrensanspruch vorliegt, ist nicht allein anhand der anwendbaren kantonalen Rechtsnormen, sondern gestützt auf die nach Treu und Glauben zu beurteilenden konkreten Sachumstände zu entscheiden. Der Beschwerdeführer hat sich vor Verwaltungsgericht von einem mit der kantonalen Rechtslage und Praxis vertrauten Anwalt vertreten lassen. In einem solchen Fall ist das kantonale Gericht nicht verpflichtet, den anwaltlich vertretenen Rechtsuchenden darauf hinzuweisen, dass er ausdrücklich um eine Parteiverhandlung ersuchen müsse, wenn er eine solche wünsche (vgl. BGE 121 I 30 E. 6a S. 41). Die vom Beschwerdeführer zitierte Aussage von CAVELTI/VÖGELI (a.a.O., Rz. 1010), wonach korrekterweise vom Gericht ausdrücklich auf die Möglichkeit der Parteiverhandlung hinzuweisen sei, erfolgte vor dem Hintergrund von Laienbeschwerden, und kann daher im vorliegenden Zusammenhang nicht zu einer anderen Beurteilung führen.
4.5 Angesichts des Verfahrensausgangs wird das Verwaltungsgericht die öffentlich-rechtliche Klage mit einem erweiterten Prozessstoff neu zu beurteilen haben. Da in diesem Verfahren in wesentlichen Aspekten etwas Neues zur Diskussion steht, liesse es sich nicht rechtfertigen, einen erst im neuen kantonalen Gerichtsverfahren gestellten Antrag auf mündliche Parteiverhandlung als verspätet zu bezeichnen. Das Fehlen eines Gesuchs um Anordnung einer Parteiverhandlung im ersten vorinstanzlichen Prozess könnte dem Beschwerdeführer somit nicht als Verzicht auf die Durchführung einer öffentlichen Verhandlung auch im zweiten kantonalen Gerichtsverfahren entgegengehalten werden (vgl. Urteil des EVG I 573/03 vom 8. April 2004 E. 3.7.2 in: EuGRZ 2004 S. 724).
5. Nach dem Gesagten ist die Beschwerde gutzuheissen und das Urteil des Verwaltungsgerichts, soweit angefochten, aufzuheben. Die Sache ist zu neuer Beurteilung an das Verwaltungsgericht zurückzuweisen (Art. 107 Abs. 2 BGG). Entsprechend dem Ausgang des bundesgerichtlichen Verfahrens sind keine Gerichtskosten zu erheben (Art. 66 Abs. 4 BGG). Dem Beschwerdeführer steht eine angemessene Parteientschädigung zu (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird gutgeheissen. Dispositiv-Ziffern 3 und 5-7 des Urteils des Verwaltungsgerichts des Kantons St. Gallen vom 19. September 2007 werden aufgehoben. Die Sache wird zu neuer Beurteilung an das Verwaltungsgericht zurückgewiesen.
3. Der Kanton St. Gallen hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 24. April 2008
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Aemisegger Kessler Coendet