Sachverhalt:
A. Die im Jahre 1974 gegründete Vorsorgestiftung der Firma X._ (im Folgenden: Vorsorgestiftung) erliess 1999 eine neue Stiftungsurkunde, welche diejenige von 1995 ersetzte, und verlegte im Jahr 1999 ihren Sitz nach Y._. Mit Verfügung des Amtes für berufliche Vorsorge und Stiftungsaufsicht des Kantons Zug vom 14. Mai 2003 wurden die drei Stiftungsräte, darunter Rechtsanwalt lic. iur. S._, ihres Amtes enthoben und als kommissarische Verwalterin der Vorsorgestiftung K._ eingesetzt. Mit Verfügung der Zentralschweizer BVG- und Stiftungsaufsicht vom 8. Februar 2006 wurde die Vorsorgestiftung in Liquidation versetzt und K._ als Liquidatorin ernannt.
Am 3. Februar 2006 liess die Vorsorgestiftung Klage erheben mit dem Rechtsbegehren, der Beklagte sei zu verpflichten, ihr Schadenersatz in Höhe von Fr. 489'462.- zuzüglich Zins von 5 % seit 10. Juli 2003 zu bezahlen. Das Verwaltungsgericht des Kantons Nidwalden führte einen doppelten Schriftenwechsel durch, verkündete O._ und U._ den Streit (Verfügungen vom 14. März 2006), verlangte von der Vorsorgestiftung die Edition zusätzlicher Akten und trat mit Entscheid vom 23. April 2007, zugestellt am 21. Februar 2008, auf die Klage nicht ein.
B. Die hiegegen von der Vorsorgestiftung erhobene Beschwerde hiess die II. sozialrechtliche Abteilung des Bundesgerichts mit Urteil vom 2. Juli 2008 (9C_193/2008) gut und wies die Streitsache zur materiellen Beurteilung der Klage vom 3. Februar 2006 an das kantonale Gericht zurück.
Ohne Durchführung eines weiteren Schriftenwechsels hiess das Verwaltungsgericht mit Entscheid vom 20. Oktober 2008, versandt am 18. Juni 2009, die Klage teilweise gut und verpflichtete S._, der Vorsorgestiftung Fr. 437'369.20 nebst Zins zu 5 % auf dem Betrag von Fr. 425'061.20 seit 10. Juli 2003 zu bezahlen. Im Übrigen wies es die Klage ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt S._ die Aufhebung des kantonalen Entscheides und die Abweisung der Klage. Eventuell sei die Sache zur materiellen Neubeurteilung an die Vorinstanz zurückzuweisen. Ferner ersucht er um Erteilung der aufschiebenden Wirkung der Beschwerde.
Die Vorsorgestiftung lässt auf Abweisung der Beschwerde schliessen, soweit darauf einzutreten ist. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung. O._ reicht unaufgefordert eine Stellungnahme ein.
D. Mit Verfügung vom 10. November 2009 wurde der Beschwerde die aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (BGE 134 V 250 E. 1.2 S. 252 mit Hinweisen; 133 III 545 E. 2.2 S. 550; 130 III 136 E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (BGE 133 II 249 E. 1.4.1 S. 254).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Eine unvollständige Sachverhaltsfeststellung stellt eine vom Bundesgericht ebenfalls zu korrigierende Rechtsverletzung im Sinne von Art. 95 lit. a BGG dar (SEILER/VON WERDT/GÜNGERICH, Kommentar zum Bundesgerichtsgesetz, Bern 2007 N 24 zu Art. 97).
2. In formeller Hinsicht macht der Beschwerdeführer eine Verletzung seines Anspruchs auf rechtliches Gehör geltend mit der Begründung, das kantonale Gericht habe ihm nach der Rückweisung zur materiellen Beurteilung der Klage durch das Bundesgericht keine Möglichkeit zur Stellungnahme gegeben, obwohl es sich um eine neue Entscheidgrundlage gehandelt habe. Die Rüge ist unbegründet. Gegenstand der Klage vom 3. Februar 2006 ist die Frage der Schadenersatzpflicht nach Art. 52 BVG. Zu den Voraussetzungen dieser Haftung konnte der Beschwerdeführer im vorinstanzlichen Verfahren in einem doppelten Schriftenwechsel Stellung nehmen. Ohne dass er die sachliche Zuständigkeit des Berufsvorsorgegerichts auch nur andeutungsweise in Frage gestellt hätte, trat das kantonale Gericht mit Entscheid vom 23. April 2007 auf die Klage mangels sachlicher Zuständigkeit nicht ein. Die im Urteil des Bundesgerichts vom 2. Juli 2008 entschiedene Frage, dass es sich bei der Vorsorgestiftung um eine nicht registrierte Personalvorsorgestiftung handle, deren Organe verantwortlichkeitsrechtlich nach Art. 52 BVG für Bestand und Erhalt des Stiftungsvermögens haften (Art. 89bis Abs. 6 Ziff. 6 ZGB), änderte daher an den Entscheidungsgrundlagen für die Verantwortlichkeitsklage nichts. Vielmehr stellte sich die klagende Vorsorgestiftung mit ihrer Klage gerade auf den Standpunkt, die Verantwortlichkeitsansprüche würden sich aus Art. 52 BVG herleiten.
3. 3.1 Gemäss Art. 52 BVG (in der bis Ende Dezember 2004 gültig gewesenen und hier anwendbaren Fassung; seit 1. Januar 2005 Art. 52 Abs. 1 BVG) sind alle mit der Verwaltung, Geschäftsführung oder Kontrolle der Vorsorgeeinrichtung betrauten Personen für den Schaden verantwortlich, den sie ihr absichtlich oder fahrlässig zufügen. Haftungsvoraussetzungen sind neben der hier nicht strittigen Organstellung der Eintritt eines Schadens, widerrechtliches bzw. pflichtwidriges Verhalten (BGE 130 V 277 E. 3.3 S. 283), Verschulden, wobei bereits leichte Fahrlässigkeit genügt (BGE 128 V 124 E. 4e S. 132), und ein natürlicher und adäquater Kausalzusammenhang zwischen der Pflichtverletzung und dem Schaden (BGE 128 V 124 E. 4a S. 127 f. und E. 4f S. 133).
3.2 Nach der verbindlichen Feststellung des kantonalen Gerichts gewährte die Vorsorgestiftung der Stifterfirma am 2. Mai 1998 ein Darlehen in Höhe von Fr. 70'000.- und überwies am 7. August sowie am 27. September 2002 je Fr. 160'000.-. Im am 10. Juli 2003 über die Stifterfirma eröffneten Konkurs blieben diese Geldbeträge uneinbringlich. Der Gesamtschaden (inkl. Zinsen und Kosten der kommissarischen Verwalterin) beträgt Fr. 437'369.20. Im Zusammenhang mit dem Darlehen über Fr. 70'000.- macht das kantonale Gericht dem Beschwerdeführer den Vorwurf, er habe es unterlassen, das der Stifterfirma im Jahre 1998 gewährte Darlehen zu kündigen, nachdem sich die wirtschaftliche Situation der Stifterfirma verschlechtert habe. Zwar habe die Gewährung des Darlehens die damals gültigen Anlagevorschriften nicht verletzt, doch habe sich die finanzielle Situation der Stifterfirma spätestens im dritten Quartal 2001 derart zugespitzt, dass der Stiftungsrat das Darlehen hätte kündigen müssen. Der Beschwerdeführer sei über die finanzielle Situation der Stifterfirma bestens unterrichtet gewesen, da er von Juni 1998 bis zum 11. März 2002 als einziges Mitglied des Verwaltungsrates geamtet habe. Gemäss der Rechtsprechung sei der Stiftungsrat dafür verantwortlich, dass ein Darlehensvertrag mit der Arbeitgeberfirma rechtzeitig gekündigt werde, wenn die Sicherheit des Darlehens nicht mehr gegeben sei (Hinweis auf BGE 122 IV 279 E. 2b S. 282). Weiter habe der Beschwerdeführer im Zusammenhang mit der Gewährung von zweimal je Fr. 160'000.- im August und September 2002 an die Stifterfirma Pflichtwidrigkeiten begangen. Gemäss Aktenlage sei erwiesen, dass per Ende 2002 rund 98 % des gesamten Vermögens der Vorsorgestiftung bei der Stifterfirma angelegt gewesen seien. Eine solche Konzentration der Vermögensanlage auf einen einzigen Schuldner widerspreche klar dem vom Gesetzgeber durch Art. 71 Abs. 1 BVG vorgegebenen Grundsatz der angemessenen Risikoverteilung bei der Vermögensanlage. Ein derartiges Klumpenrisiko verstosse rechtsprechungsgemäss per se gegen das zwingende Gesetzesrecht und sei damit unzulässig. Des Weitern sei durch die beiden Überweisungen auch die Anlagevorschrift von Art. 57 Abs. 2 BVV 2 verletzt worden, wonach ungesicherte Anlagen beim Arbeitgeber 20 % des Stiftungsvermögens nicht übersteigen dürften. In diesem Zusammenhang habe der Stiftungsrat auch gegen die gesetzlichen Meldepflichten verstossen (Art. 57a Abs. 2 BVV 2). Ferner stellte das kantonale Gericht fest, es sei nicht ersichtlich, dass die fraglichen Gelder, welche der Stifterfirma zur Finanzierung eines Sozialplanes überwiesen worden sein sollen, tatsächlich den betroffenen Arbeitnehmern und Destinatären ausbezahlt worden seien. Vielmehr müsse davon ausgegangen werden, dass diese Mittel in der Stifterfirma verblieben und eine Überweisung zu Gunsten der Arbeitnehmer unterblieben sei. So sei dem Gesuch der Stifterfirma vom 30. Juli 2002 an die Vorsorgeeinrichtung zu entnehmen, dass es bei der ersten Überweisung von Fr. 160'000.- um die Finanzierung der gesamten Lohnzahlungen bis zum Ablauf der Kündigungsfrist bzw. bis zu einem vorzeitigen neuen Stellenantritt sowie um Beiträge für die Sozialversicherungen und allfällige Rückforderungen von Zahlungen ging, die von den Arbeitslosenkassen geleistet worden seien. Ferner sei in keiner Art und Weise erstellt, dass die durch die Vorsorgestiftung zu finanzierenden Leistungen des Sozialplanes durch den Vorsorgezweck gedeckt gewesen seien und den allgemeinen Rechtsgrundsätzen, so namentlich dem Grundsatz der Gleichbehandlung, Rechnung getragen hätten. Dadurch habe der Stiftungsrat auch seine Pflicht zur zweckgemässen Vermögensverwendung verletzt.
3.3 Die Erwägungen des kantonalen Gerichts sind in tatsächlicher Hinsicht weder offensichtlich unrichtig noch ist darin eine willkürliche Beweiswürdigung oder sonstwie eine Bundesrechtsverletzung zu erblicken. Der Beschwerdeführer legt in der Beschwerde nicht dar, welche tatsächlichen Feststellungen des kantonalen Gerichts mangelhaft im Sinne von Art. 105 Abs. 2 BGG sein sollen. Soweit er im Zusammenhang mit dem Darlehen von Fr. 70'000.- vorbringt, es sei weder von der Beschwerdegegnerin noch von der Vorinstanz in Frage gestellt worden, dass das Darlehen gekündigt worden sei, geht er über die verbindliche Feststellung des kantonalen Gerichts hinweg, wonach das Darlehen eben gerade nicht gekündigt worden ist. Was die beiden Überweisungen von je Fr. 160'000.- betrifft, hat das kantonale Gericht verbindlich festgestellt, dass kein von der Aufsichtsbehörde genehmigter Verteilungsplan existierte oder diese Beträge nicht zur Finanzierung eines Sozialplanes verwendet worden, sondern in der Stifterfirma verblieben sind. Indem der Beschwerdeführer diesen tatsächlichen Feststellungen einfach seine Tatsachenbehauptungen gegenüberstellt, genügen seine Ausführungen im Lichte von Art. 105 Abs. 2 BGG nicht.
3.4 Ausgehend vom für das Bundesgericht verbindlich festgestellten Sachverhalt verletzen die rechtlichen Schlussfolgerungen des kantonalen Gerichts kein Bundesrecht. Da der Beschwerdeführer um die schlechte finanzielle Lage der Stifterfirma wusste, hat das kantonale Gericht ihm zu Recht die unterbliebene Kündigung des Darlehens als schuldhafte Pflichtverletzung angelastet. Dies gilt auch im Zusammenhang mit den beiden Überweisungen im August und September 2002. Es kann auf die ausführlichen Erwägungen im vorinstanzlichen Entscheid verwiesen werden. Was der Beschwerdeführer vorbringt, geht an der Sache vorbei und ist teilweise mutwillig. Die Zahlungen erfolgten an die zu diesem Zeitpunkt bekanntermassen finanziell angeschlagene Arbeitgeberin und nicht an die Arbeitnehmer. Sie widersprachen auch dem vom kantonalen Gericht angeführten Art. 3.2 der Stiftungsurkunde vom 12. Juli 1999. Ein von der Aufsichtsbehörde genehmigter Verteilungsplan lag nicht vor. Selbst der vom Beschwerdeführer bemühte Sozialplan ist aus den Akten in keiner Weise ersichtlich. Wie das kantonale Gericht festgestellt hat und sich unmissverständlich aus dem Gesuch der Arbeitgeberin vom 30. Juli 2002 sowie der Antwort des Beschwerdeführers in der Eigenschaft als Präsident des Stiftungsrates vom 2. August 2002 ergibt, sollten mit der ersten Zahlung von Fr. 160'000.- die Löhne der am 28. Februar 2002 fristlos entlassenen 14 Mitarbeiter, die Sozialversicherungsbeiträge und allfällige Rückforderungen der Arbeitslosenkassen beglichen werden. Die Übernahme solcher dem Arbeitgeber obliegenden Verpflichtungen wird mit Art. 3.2 der Stiftungsurkunde vom 12. Juli 1999 gerade untersagt, wonach aus dem Stiftungsvermögen ausser zu Vorsorgezwecken keine Leistungen entrichtet werden dürfen, "zu denen der Arbeitgeber rechtlich verpflichtet ist". In diesem Zusammenhang von einem Sozialplan zu sprechen, geht völlig an der Sache vorbei. Es kommt hinzu, dass der Stiftungsrat im Zeitpunkt der ersten Zahlung bereits von der Aufsichtsbehörde in Kenntnis gesetzt worden war, es werde der Tatbestand einer Teilliquidation geprüft (vgl. Verfügung des Amtes für berufliche Vorsorge und Stiftungsaufsicht des Kantons Zug vom 14. Mai 2003).
4. Der unterliegende Beschwerdeführer trägt die Gerichtskosten (Art. 66 Abs. 1 BGG) und hat der Beschwerdegegnerin - da es sich um einen Schadenersatzprozess nach Art. 52 BVG handelt - eine Parteientschädigung zu bezahlen (Art. 68 Abs. 2 BGG; BGE 128 V 124 E. 5b S. 133 f).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 9'000.- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Vorsorgestiftung der Firma X._ in Liquidation für das bundesgerichtliche Verfahren mit Fr. 6'000.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Nidwalden, Abteilung Versicherungsgericht, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 7. Mai 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Nussbaumer