Sachverhalt: A. H._ war Präsident des Stiftungsrates der Personalfürsorgestiftung der Firma C._ AG (nachfolgend Fürsorgestiftung) und Präsident des Verwaltungsrates der Firma C._ AG. Am 17. August 1989 gewährte die Fürsorgestiftung der Firma C._ AG ein Darlehen in Höhe von Fr. 131'703.45. Mit Schreiben vom 22. Juni 1993 gelangte die Kontrollstelle der Fürsorgestiftung an das Amt für berufliche Vorsorge des Kantons Aargau mit der Erklärung, mit dem genannten Betrag seien Arbeitgeberbeiträge an die neue BVG-Sammelstiftung der Firma C._ AG, der Rentenanstalt, bezahlt worden; sie ersuche darum, dieses Vorgehen nachträglich zu genehmigen. Die Aufsichtsbehörde erteilte indessen eine solche Erlaubnis mangels ausreichender Unterlagen nicht. Am 15. Dezember 1994 beschloss der Stiftungsrat der Fürsorgestiftung unter dem Vorsitz von H._, die Summe von Fr. 131'703.45 von der Firma C._ AG zurückzufordern. Mit Entscheid vom 29. August 1996 verpflichtete das Handelsgericht des Kantons Aargau die Firma C._ AG, den Betrag von Fr. 131'703.45 nebst Verzugszins von 5% ab 24. März 1996 der Fürsorgestiftung zurückzuerstatten, da seinerzeit die Zahlung als Darlehen erfolgt sei. B. Nachdem über die Nachfolgegesellschaft der Firma C._ AG der Konkurs eröffnet worden war, leitete die Personalfürsorgestiftung der Firma C._ AG am 17. August 2001 Klage gegen H._ ein mit dem Antrag, es sei der Beklagte zu verpflichten, der Klägerin den Betrag von Fr. 131'703.45 zuzüglich Zins zu 5 % seit dem 18. August 1989 zu bezahlen. Mit Entscheid vom 18. Dezember 2002 hiess das Versicherungsgericht des Kantons Solothurn die Klage teilweise gut und verpflichtete H._, der Pensionskasse der Firma C._ AG den Betrag von Fr. 131'703.45 als Schadenersatz zu bezahlen, zuzüglich 5 % Zins ab dem 1. Oktober 1991, sowie unter Abtretung einer allfälligen Dividende im Konkurs über die Firma C._ AG. C. H._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheides sei die Klage abzuweisen. Die Fürsorgestiftung schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Während das kantonale Gericht ebenfalls die Abweisung der Verwaltungsgerichtsbeschwerde beantragt, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.