Sachverhalt: A. Die Schweizerische Post AG baut in Härkingen ein Briefpostzentrum. Dafür hat sie am 7. Juni 2006 Gesuche gestellt für eine vorübergehende Bauwasserhaltung, für einen Einbau unter den höchsten Grundwasserspiegel sowie für die Versickerung von Meteorwasser. Am 20. Juni 2006 hat sie überdies ein Bewilligungsgesuch für eine Grundwasserwärmepumpe zu Kühlzwecken sowie für die Rückversickerung des gepumpten Grundwassers eingereicht. Gleichzeitig ersuchte sie um Erteilung der hierzu erforderlichen Konzession zur Grundwasserentnahme von maximal 7'200 l/min. Die Wasserversorgung Härkingen und der Zweckverband Regionale Wasserversorgung Gäu erhoben gegen das Gesuch um Grundwasserentnahme und Rückversickerung Einsprache. In einer gemeinsamen Einsprache wehrten sich zudem der Zweckverband Wasserversorgung Untergäu, die Einwohnergemeinde Hägendorf und die Städtischen Betriebe Olten gegen eine Konzession zur Grundwasserentnahme zu Kühlzwecken mit anschliessender Rückgabe des Pumpwassers über eine Versickerungsgalerie. Mit Beschluss vom 26. September 2006 (RRB 2006/1806) erteilte der Regierungsrat des Kantons Solothurn der Schweizerischen Post für den Neubau des Briefpostzentrums Härkingen die Bewilligung zur Erstellung und zum Betrieb einer Grundwasserwärmepumpe zu Kühlzwecken mit Rückversickerung. Gleichzeitig verlieh er für den Betrieb der Wärmepumpe die Konzession zur Entnahme von Wasser aus dem öffentlichen Grundwasser. Die Bewilligungen enthielten zahlreiche Bedingungen und Auflagen. Schliesslich bewilligte der Regierungsrat mit dem gleichen Beschluss das Versickerungsbauwerk inkl. Versickerungsleitung und die Versickerung von Meteorwasser für den Neubau. B. Den Regierungsratsbeschluss vom 26. September 2006 zogen der Zweckverband Wasserversorgung Untergäu, die Einwohnergemeinde Hägendorf und die Städtischen Betriebe Olten sowie die Bürgergemeinde Härkingen an das Verwaltungsgericht des Kantons Solothurn weiter. Dieses wies die Beschwerden mit Urteil vom 15. Januar 2007 ab, soweit es darauf eintreten konnte. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 21. Februar 2007 beantragen der Zweckverband Wasserversorgung Untergäu, die Einwohnergemeinde Hägendorf und die Bürgergemeinde Härkingen, das Urteil des Verwaltungsgerichts vom 15. Januar 2007 sei aufzuheben. Weiter verlangen sie, die beantragten Bewilligungen und die anbegehrte Konzession seien zu verweigern. Eventualiter seien sie unter Rückweisung des Verfahrens an die Vorinstanz an weitere Auflagen und Bedingungen zu knüpfen. D. Mit Präsidialverfügung vom 23. März 2007 wurde ein Gesuch der Beschwerdeführer um aufschiebende Wirkung abgewiesen. E. Die Schweizerische Post beantragt, die Beschwerde sei abzuweisen und die beantragten Bewilligungen sowie die Konzession seien zu erteilen. Der Regierungsrat schliesst auf Abweisung der Beschwerde. Das Verwaltungsgericht äussert sich unter Hinweis auf die Begründung des angefochtenen Entscheids nicht zur Beschwerde. Das Bundesamt für Umwelt (BAFU) gelangt zum Schluss, die vom Gesuchsteller vorgelegten Expertenberichte wiesen die Einhaltung der Anforderungen an den Schutz der Gewässer nach und die Auflagen des Regierungsrats gewährleisteten einen ausreichenden Schutz der Gewässer. Die Erteilung der gewässerschutzrechtlichen Bewilligung für die Erstellung und den Betrieb der Grundwasserwärmepumpe entspreche den Gewässerschutzvorschriften des Bundes. Das Verwaltungsgericht und die Schweizerische Post verzichten darauf, sich zur Vernehmlassung des BAFU zu äussern. Die Beschwerdeführer halten an den Ausführungen in ihrer Beschwerdeschrift fest.