Sachverhalt: A. Am 9. Juli 2002 kam es auf dem Grundstück von A._ in X._ (SO) nach heftigen Regenfällen zu einem Hangrutsch; dabei wurden der gepflasterte Vorplatz und der Sitzplatz (einschliesslich Gartenlampen) beschädigt. Mit Blick auf die Aufwendungen, welche er für die Wiederherstellung der beschädigten Grundstücksteile und die Absicherung des betroffenen Hangs getätigt hatte, verlangte A._ von der Solothurnischen Gebäudeversicherung die Zahlung von 103'903.79 Franken. Mit Verfügung vom 20. August 2003 sprach die Gebäudeversicherung A._ für den erlittenen Schaden 12'250 Franken zu. Im anschliessenden Rechtsmittelverfahren wurde am 15. April 2005 eine gerichtliche Expertise eingeholt. Diese bezifferte die gesamten Wiederherstellungskosten auf 82'532.65 Franken und die zusätzlichen Kosten für die Hangsicherung auf 31'584.05 Franken. Mit Urteil vom 26. Januar 2006 hob das Verwaltungsgericht des Kantons Solothurn die Verfügung der Gebäudeversicherung auf und wies diese an, entsprechend seinen Erwägungen im betreffenden Entscheid (vgl. E. 2.1) neu zu verfügen. B. In der Folge sprach die Solothurnische Gebäudeversicherung A._ einen Betrag von 43'458 Franken zu (Verfügung vom 7. August 2006). Die von A._ hiergegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Solothurn am 12. März 2007 ab. C. Am 7. Mai 2007 hat A._ beim Bundesgericht in einer einzigen Rechtsschrift sowohl Beschwerde in öffentlich-rechtlichen Angelegenheiten als auch subsidiäre Verfassungsbeschwerde eingereicht, je mit dem Antrag, den angefochtenen Entscheid aufzuheben und die Sache zu neuem Entscheid an die Vorinstanz zurückzuweisen. Die Solothurner Gebäudeversicherung und (sinngemäss) auch das Verwaltungsgericht des Kantons Solothurn beantragen die Abweisung beider Beschwerden.