Sachverhalt:
A. Der 1954 geborene S._ arbeitete vom 1. Februar 1996 bis 30. Juni 2004 als kaufmännischer Angestellter bei der Bank Y._ und war in dieser Eigenschaft bei der Stiftung X._ obligatorisch berufsvorsorgeversichert. Am 31. März 2005 meldete er sich zum Bezug von Leistungen der Invalidenversicherung an. Nach erwerblichen und medizinischen Abklärungen bejahte die IV-Stelle Basel-Stadt mit Verfügungen vom 3. Januar 2008 ab 1. Januar 2005 den Anspruch auf eine ganze Rente der Invalidenversicherung.
Am 2. Juni 2008 teilte die Stiftung X._ (nachfolgend auch Stiftung genannt) S._ mit, für die Einschränkung in der Erwerbsfähigkeit werde eine Leistungspflicht aus beruflicher Vorsorge wegen vorbestehender Arbeitsunfähigkeit abgelehnt. Daran hielt sie in der Mitteilung vom 3. Juli 2008 fest.
B. Am 26. September 2008 reichte S._ Klage gegen die Stiftung X._ beim Sozialversicherungsgericht Basel-Stadt ein und beantragte, die Beklagte sei zu verpflichten, mit Wirkung ab 1. Januar 2005 eine ganze Invalidenrente aus beruflicher Vorsorge, zuzüglich Verzugszinsen, auszurichten, und er sei von der Beitragspflicht zu befreien. Das Gericht hiess die Klage mit Entscheid vom 17. Dezember 2009 vollumfänglich gut.
C. Die Stiftung X._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, es sei das vorinstanzliche Urteil aufzuheben und die Klage abzuweisen; eventualiter sei der Entscheid vom 17. Dezember 2009 aufzuheben und die Sache an die Vorinstanz zu neuer Beurteilung zurückzuweisen.
S._ schliesst auf Abweisung der Beschwerde, währenddem sich das Bundesamt für Sozialversicherungen (BSV) der Stellungnahme enthält.

Erwägungen:
1. 1.1 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 1 und 2 BGG).
1.2 Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen, und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254).
2. 2.1 Der Leistungsanspruch aus (obligatorischer) beruflicher Vorsorge wegen Invalidität setzt voraus, dass die Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, während der Dauer des Vorsorgeverhältnisses (einschliesslich der Nachdeckungsfrist nach Art. 10 Abs. 3 BVG) eingetreten ist (Art. 23 BVG in der bis 31. Dezember 2004 gültig gewesenen Fassung und Art. 23 lit. b BVG in der ab 1. Januar 2005 gültigen Fassung). Unter Arbeitsunfähigkeit ist die Einbusse an funktionellem Leistungsvermögen im bisherigen Beruf oder Aufgabenbereich zu verstehen (<ref-ruling> E. 3.2.2 S. 23 mit Hinweisen). Sie muss mindestens 20 Prozent betragen (Urteil 9C_127/2008 vom 11. August 2008 E. 2.3, in: SVR 2008 BVG Nr. 34 mit Hinweisen). Hat die leistungsersuchende Person im fraglichen Zeitraum den vollen Lohn bezogen, so muss gemäss der Rechtsprechung zum Nachweis des Eintritts der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, eine berufsvorsorgerechtlich relevante Einbusse an funktionellem Leistungsvermögen (Erheblichkeitsschwelle von 20 Prozent; Urteile B 88/06 vom 13. August 2007 E. 3.2 und B 18/97 vom 29. April 1998 E. 4b) arbeitsrechtlich in Erscheinung getreten sein, so etwa durch einen Abfall der Leistungen mit entsprechender Feststellung oder gar Ermahnung des Arbeitgebers oder durch gehäufte, aus dem Rahmen fallende gesundheitlich bedingte Arbeitsausfälle. Eine erst nach Jahren rückwirkend festgelegte medizinisch-theoretische Arbeitsunfähigkeit, ohne dass der frühere Arbeitgeber die Leistungseinbusse bemerkt hätte, genügt nicht (Urteil B 75/01 vom 6. Februar 2003 E. 2.2). Es sind die vertraglich festgesetzte Pflicht zur Erbringung von Arbeit und die dafür vorgesehene Entlöhnung sowie weitere im Rahmen des Arbeitsverhältnisses getroffene Vereinbarungen in der Regel als den realen Gegebenheiten entsprechend zu werten. Nur beim Vorliegen besonderer Umstände darf die Möglichkeit einer abweichenden Lage - etwa in dem Sinne, dass ein Arbeitnehmer zwar zur Erbringung einer vollen Arbeitsleistung verpflichtet war und auch entsprechend entlöhnt wurde, tatsächlich aber doch keine volle Arbeitsleistung hat erbringen können - in Betracht gezogen werden (Urteile 9C_339/2007 vom 5. März 2008 E. 5.2 und 9C_182/2007 vom 7. Dezember 2007 E. 4.1.3 mit Hinweisen).
2.2 Der Leistungsanspruch gegenüber einer Vorsorgeeinrichtung für das erst nach Beendigung des Vorsorgeverhältnisses eingetretene Invaliditätsrisiko bedingt, dass zwischen der während des Vorsorgeverhältnisses eingetretenen Arbeitsunfähigkeit und der Invalidität ein enger sachlicher und zeitlicher Zusammenhang besteht. Die hinreichende sachliche Konnexität ist zu bejahen, wenn der Gesundheitsschaden, wie er der Invalidität zugrunde liegt, im Wesentlichen bereits Ursache der früheren Arbeitsunfähigkeit war (<ref-ruling> E. 1c S. 265; <ref-ruling> E. 2c/aa und bb S. 117 f.). Der zeitliche Zusammenhang zur später eingetretenen Invalidität als weitere Voraussetzung für den Anspruch auf Invalidenleistung gegenüber der früheren Vorsorgeeinrichtung beurteilt sich nach der Arbeitsfähigkeit in einer der gesundheitlichen Beeinträchtigung angepassten zumutbaren Tätigkeit. Diese Beschäftigung muss jedoch bezogen auf die angestammte Tätigkeit die Erzielung eines rentenausschliessenden Einkommens ermöglichen (<ref-ruling> E. 5.3 S. 27; Urteil 9C_12/2009 vom 29. Mai 2009 E. 2.1).
3. Streitig und zu prüfen ist, ob die Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, während der Zeit eingetreten ist, als der Beschwerdegegner bei der Beschwerdeführerin berufsvorsorgeversichert war. Die Leistungsbemessung liegt nicht im Streit (E. 1.2 hievor).
3.1 Gemäss Art. 26 Abs. 1 BVG gelten für den Beginn des Anspruchs auf Invalidenleistungen sinngemäss die entsprechenden Bestimmungen des Bundesgesetzes vom 19. Juni 1959 über die Invalidenversicherung (IVG). Aufgrund dieser Verweisung fällt in der Regel der berufsvorsorgerechtlich relevante Eintritt der Arbeitsunfähigkeit nach Art. 23 lit. a BVG mit dem Beginn der einjährigen Wartezeit nach <ref-law> (in der bis 31. Dezember 2007 in Kraft gestandenen Fassung) zusammen. Dies gilt vorliegend mangels einer anders lautenden Bestimmung im einschlägigen Vorsorgereglement auch für den weitergehenden Vorsorgebereich. In Bezug auf die Befugnis des Berufsvorsorgegerichts, den von der IV-Stelle festgelegten Beginn der Wartezeit zu überprüfen, ist zu differenzieren: Wurde die Vorsorgeeinrichtung (spätestens) ins Vorbescheidverfahren (aArt. 73bis IVV; seit 1. Juli 2006: <ref-law>) einbezogen und ihr die Rentenverfügung formgültig eröffnet, sind die wesentlichen Feststellungen und Beurteilungen für die Festsetzung der Leistung in dem das IV-Verfahren abschliessenden Entscheid für sie verbindlich, sofern diese nicht offensichtlich unhaltbar sind (<ref-ruling> E. 4.2.2 S. 76; <ref-ruling> E. 3c S. 108; Urteil 9C_414/2007 vom 25. Juli 2008 E. 2.2). Diese Bindung gilt im Bereich der weitergehenden Vorsorge nur, wenn das Vorsorgereglement ausdrücklich oder unter Hinweis auf das Gesetz vom selben Invaliditätsbegriff wie die Invalidenversicherung ausgeht (<ref-ruling> E. 1 in fine S. 311). Unterbleibt ein solches Einbeziehen ins Verfahren oder verwendet die Vorsorgeeinrichtung einen anderen Invaliditätsbegriff, ist die invalidenversicherungsrechtliche Festsetzung des Invaliditätsgrades und des Zeitpunkts der Entstehung des Rentenanspruchs resp. des Beginns der Wartezeit für das Berufsvorsorgegericht nicht verbindlich (<ref-ruling>; <ref-ruling>; <ref-ruling> E. 3c S. 108 f.; Urteil 9C_689/2008 vom 25. Februar 2009 E. 1.2).
3.2 Die Vorinstanz erkannte zutreffend, dass die IV-Stelle Basel-Stadt die Beschwerdeführerin in das Verfahren einbezogen hat: Vorbescheid wie auch Rentenverfügung sind ihr eröffnet worden. Die Rentenverfügungen vom 3. Januar 2008 sind unangefochten in Rechtskraft erwachsen. Da zudem reglementarisch jedenfalls dann eine Invalidität als eingetreten gilt, wenn eine versicherte Person im Sinne der Eidgenössischen Invalidenversicherung invalid ist (Ziffer 3.4.3 des Leistungsreglements der Stiftung), sind die wesentlichen Feststellungen und Beurteilungen für die Festsetzung der Leistung in dem das IV-Verfahren abschliessenden Entscheid für die Beschwerdeführerin verbindlich, sofern diese nicht offensichtlich unhaltbar sind.
4. 4.1 Gilt im Verfahren der beruflichen Vorsorge - wie hier - die Bindungswirkung an den Entscheid der Invalidenversicherung, ist die Frage, ob die Festlegungen der IV-Stelle Basel-Stadt offensichtlich unhaltbar sind, nach der Aktenlage zu beurteilen, wie sie sich bei Verfügungserlass präsentierte. Nachträglich geltend gemachte Tatsachen oder Beweismittel, welche die Verwaltung nicht von Amtes wegen hätte erheben müssen, sind nicht geeignet, die Festlegungen der Invalidenversicherung als offensichtlich unhaltbar erscheinen zu lassen. Dies gilt jedenfalls so lange, als es sich nicht um neue Tatsachen oder Beweismittel handelt, welche zu einer anderen rechtlichen Beurteilung führen und die IV-Stelle, welcher sie unterbreitet werden, verpflichten würden, im Rahmen einer prozessualen Revision (<ref-ruling> E. 3a S. 21, E. 2c S. 138, E. 4a S. 173, E. 2 S. 272) auf die ursprüngliche, formell rechtskräftige Verfügung zurückzukommen (<ref-ruling> E. 3.1 S. 273; <ref-ruling> E. 2a S. 311).
4.2 Die IV-Stelle Basel-Stadt erachtete den Beschwerdegegner ab 21. Mai 2004 vollständig und für die neun vorangehenden Monate zu 20 % arbeitsunfähig. Die Wartezeit endete bei dieser Berechnungsweise am 21. August 2004 (E. 3.1 hievor). Das kantonale Gericht folgte dem und erwog, namentlich den Bestätigungen ehemaliger Arbeitskollegen lasse sich entnehmen, dass der Kläger während der Anstellung bei der Bank Y._ in massgebender Weise arbeitsunfähig geworden sei, was auch aus den medizinischen Akten geschlossen werden könne. Anlässlich der ambulanten Behandlung in der psychiatrischen Klinik Z._ am 17. Januar 2003 sei eine Zwangsstörung (ICD-10: F42.1) diagnostiziert worden, wobei der Kläger seit einem Monat zunehmende Zwangshandlungen angegeben habe. Im Weiteren habe er seinen Angaben zufolge unter dem veränderten Arbeitsklima gelitten, wobei ihm seit einem Jahr ein Mitarbeiter seine Arbeit teilweise abnehme. Demgegenüber rügt die Beschwerdeführerin wie bereits vor kantonalem Gericht letztinstanzlich erneut, gemäss den ärztlichen Einschätzungen der Dres. med. N._ und F._, Fachärzte für Psychiatrie und Psychotherapie, sei der Versicherte bereits zwischen 1990 und 1995, mithin vor Antritt der Stelle bei der Bank Y._, arbeitsunfähig geworden.
4.3 Das kantonale Gericht beantwortete die Frage nach dem Eintritt der Arbeitsunfähigkeit während des Vorsorgeverhältnisses anhand von Schreiben ehemaliger Mitarbeiter des Versicherten sowie gestützt auf den Austrittsbericht der psychiatrischen Klinik Z._ vom 17. Januar 2003. Diese Unterlagen waren der IV-Stelle nicht bekannt, da der Beschwerdegegner sie erst im Klageverfahren vorgelegt hat. Zwar bejahte die Vorinstanz die Bindung der Beschwerdeführerin an den Entscheid der Invalidenversicherung, hingegen setzte sie sich nicht mit der Frage der offensichtlichen Unhaltbarkeit von Beginn und Ende der Wartezeit nach der Aktenlage im Verfügungszeitpunkt (IV-Rentenverfügungen vom 3. Januar 2008) auseinander, was letztinstanzlich nachzuholen ist, wobei es sich bei der Höhe und dem Beginn der Arbeitsunfähigkeit um Tatsächliches handelt, das der Kognitionsregel von <ref-law> unterliegt (Art. 97 Abs. 1 und <ref-law>; vgl. <ref-ruling> E. 3.2 S. 397). Falls die offensichtliche Unhaltbarkeit des Entscheides der Invalidenversicherung feststünde, wäre in einem nächsten Schritt zu klären, ob die im Klageverfahren neu eingereichten Beweismittel berücksichtigt werden dürften, um den Beginn der Arbeitsunfähigkeit zu bestimmen (E. 4.1 hievor).
5. 5.1 Entgegen der Auffassung in der Beschwerde kann anhand des sich in den IV-Akten befindenden Berichtes des Dr. med. N._ vom 15. Juli 2005 nicht der Schluss gezogen werden, bereits im Jahr 1995 sei der Beschwerdegegner arbeitsunfähig gewesen. Denn Dr. med. N._ und ebenso Dr. med. F._ in seiner für die Invalidenversicherung erstellten Expertise vom 8. Mai 2006 gehen zu Unrecht davon aus, der Versicherte habe ab 1995 aus psychischen Gründen nur 50 % gearbeitet. Nicht offensichtlich unrichtig und namentlich mit den Einträgen im individuellen Konto in Einklang stehend, wies das kantonale Gericht darauf hin, dass der Beschwerdegegner von Februar bis September 1996 vollzeitlich und ab Oktober 1996 im Umfang von noch 90 % einer Arbeit nachgegangen sei. Zudem habe er im Januar 1997 eine nebenberufliche Ausbildung aufgenommen und diese im Dezember 1999 erfolgreich abgeschlossen. Hiebei handelt es sich um letztinstanzlich verbindliche Tatsachenfeststellungen (<ref-law>). Dass unter diesen Umständen zumindest bis Ende 1999 eine volle Arbeitsfähigkeit bestanden hat, erscheint schlüssig und die von den Dres. med. N._ und F._ für diese Zeit rückwirkend geschätzte Arbeitsunfähigkeit von 50 % überzeugt nicht. Sodann kann entgegen der Beschwerdeführerin aus dem Bericht vom 11. April 2005 des Dr. med. E._, Spezialarzt für Innere Medizin, nichts für eine vor dem Antritt des Beschäftigungsverhältnisses bei der Bank Y._ im Februar 1996 eingetretene Arbeitsunfähigkeit hergeleitet werden. Dr. med. E._ erklärte, eine Arbeitsunfähigkeit sei nicht primär durch die seit dem 17. Altersjahr bekannte Hypothalamus-Hypophyseninsuffizienz verursacht, sondern ihr liege eine psychische Problematik zugrunde. Andere Umstände, welche den Beginn der Wartezeit während des Arbeitsverhältnisses als offensichtlich unhaltbar erscheinen liessen, trägt die Beschwerdeführerin nicht vor, weshalb es mangels Rügen damit sein Bewenden hat (<ref-law>; E. 1.2 hievor). Ob die Stellungnahmen ehemaliger Mitarbeiter und der Austrittsbericht der psychiatrischen Klinik Z._ vom 17. Januar 2003 berücksichtigt werden dürften, kann daher offenbleiben (E. 4.3).
5.2 Das kantonale Gericht erkannte rechtlich korrekt eine während des Vorsorgeverhältnisses aufgetretene Arbeitsunfähigkeit (E. 4.3) und die IV-Stelle ging nicht offensichtlich unhaltbar von einer rechtzeitigen Anmeldung aus (E. 3.1). Demzufolge dringt die Stiftung mit der Sichtweise nicht durch, IV-Stelle wie Vorinstanz hätten sich wegen verspäteter Leistungsanmeldung bei der Invalidenversicherung nicht vertieft mit dem genauen Zeitpunkt des Eintritts der Arbeitsunfähigkeit auseinandersetzen müssen (vgl. Urteil B 53/05 vom 7. November 2005 E. 3.3.1). Es ist nicht danach zu fragen, ob berufsvorsorgerechtlich ein anderweitiger als von der IV-Stelle ermittelter Eintritt der Arbeitsunfähigkeit überzeugender ausfiele (vgl. zu den Voraussetzungen für die berufliche Vorsorge E. 2.1 hievor).
6. Letztinstanzlich beantragt die Beschwerdeführerin erneut den Beizug von Berichten der Dres. med. M._ sowie O._, bei welchen der Beschwerdegegner von 1986 bis 1988 und von 1992 bis 1999 in psychiatrischer Behandlung gestanden ist. Selbst wenn Dr. med. M._ während der Therapie von 1986 bis 1988 eine Einschränkung der Arbeitsfähigkeit attestiert hätte, änderte dies am Ausgang des Verfahrens nichts; denn eine berufliche Leistungseinbusse im erwähnten Zeitraum wäre selbst nach der von der Beschwerdeführerin vertretenen Auffassung, wonach die invalidisierende Arbeitsunfähigkeit zwischen den Jahren 1990 und 1995 eingetreten sei, vorher zeitlich unterbrochen worden. Sodann ist von Berichten des Dr. med. O._ nichts Neues zu erwarten, weil die Vorinstanz anhand der tatsächlichen Arbeitsleistung nicht offensichtlich unrichtig eine volle Leistungsfähigkeit von 1996 bis 1999 feststellte (E. 4.3 hievor). Diese Dauer uneingeschränkten Leistungsvermögens unterbricht die zeitliche Konnexität zu einer allenfalls vorher bestandenen Arbeitsunfähigkeit. Von weiteren Abklärungen sah die Vorinstanz daher zu Recht ab, weshalb feststeht, dass besagte Unterlagen nicht von Amtes wegen im Verfahren der Invalidenversicherung beizuziehen waren, und deren Berücksichtigung im berufsvorsorgerechtlichen Verfahren mit Blick auf die Bindungswirkung an den Entscheid der Invalidenversicherung nicht zulässig wäre (vgl. E. 4.1 hievor; antizipierte Beweiswürdigung; <ref-ruling> E. 3 S. 157; <ref-ruling> E. 4b S. 94; Urteil I 9/07 vom 9. Februar 2007 E. 4, publ. in: SVR 2007 IV Nr. 45 S. 149).
7. Schliesslich ist unstrittig, dass die der Arbeitsunfähigkeit zugrunde liegende Erkrankung später auch die Invalidität verursacht hat (sachlicher Konnex), weshalb das kantonale Gericht ohne Verletzung von Bundesrecht die Leistungspflicht der Beschwerdeführerin bejahen durfte. Die Beschwerde ist unbegründet.
8. Die unterliegende Beschwerdeführerin wird kostenpflichtig (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht Basel-Stadt und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 16. Juni 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Ettlin