Sachverhalt:
A. Der 1958 geborene T._ reiste am 27. August 2000 von Spanien in die Schweiz ein und arbeitete ab 29. August 2000 als Maurer bei der Y._ AG. In dieser Eigenschaft war er bei der Pensionskasse X._ vorsorgeversichert. Mit Wirkung ab 29. November 2000 attestierten ihm die Ärzte eine vollständige Arbeitsunfähigkeit.
Unter Hinweis auf Schmerzen im Hüftbereich, im rechten Bein und rechten Arm, im Bereich des Leistenbandes und an der Halswirbelsäule sowie auf eine Depression meldete er sich im November 2001 bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle Basel-Stadt sprach T._ mit Wirkung ab 1. November 2001 eine ganze Rente der Invalidenversicherung zu (Verfügung vom 6. März 2003).
Die Pensionskasse X._ verneinte demgegenüber mit Schreiben vom 14. April 2003 eine Leistungspflicht mit der Begründung, die Arbeitsunfähigkeit, welche einen Anspruch auf eine Rente der Invalidenversicherung verleihe, sei bereits zu einem Zeitpunkt eingetreten, als T._ noch nicht bei ihr vorsorgeversichert gewesen sei. Daran hielt sie in der folgenden Korrespondenz mit dem Versicherten fest.
B. Die von T._ gegen die Pensionskasse X._ erhobene Klage auf Ausrichtung einer Invalidenrente hiess das Sozialversicherungsgericht Basel-Stadt mit Entscheid vom 7. November 2007 gut und verpflichtete die Pensionskasse X._, die reglementarischen Leistungen zu erbringen und dem Versicherten eine Parteientschädigung auszurichten.
C. Die Pensionskasse X._ erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, die Sache sei zur Durchführung eines Beweisverfahrens an das kantonale Gericht zurückzuweisen, unter Kostenfolgen zugunsten der Pensionskasse X._.
T._ beantragt, auf die Beschwerde sei nicht einzutreten, eventualiter sei sie abzuweisen. Des Weitern ersucht er um Gewährung der unentgeltlichen Rechtspflege. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung. Das Sozialversicherungsgericht Basel-Stadt schliesst auf Abweisung der Beschwerde.
Erwägungen:
1. Entgegen der Auffassung des Beschwerdegegners ist die Beschwerde rechtzeitig, da der Fristenstillstand nicht bis zum 1. Januar, sondern bis zum 2. Januar dauert (Art. 46 Abs. 1 lit. c BGG).
2. 2.1 Gemäss Art. 23 BVG, in Kraft gestanden bis 31. Dezember 2004, haben Anspruch auf Invalidenleistungen Personen, die im Sinne der IV zu mindestens 50 Prozent invalid sind und bei Eintritt der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, versichert waren. Nach dem am 1. Januar 2005 in Kraft getretenen Art. 23 lit. a BVG besteht bereits bei einer Invalidität von mindestens 40 Prozent Anspruch auf Invalidenleistungen. Das Gesetz knüpft mithin den Anspruch auf die Ausrichtung einer Invalidenleistung an das Bestehen eines Versicherungsverhältnisses im Zeitpunkt des Eintritts der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat.
Der Zeitpunkt des Eintritts der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat (Art. 23 BVG), ist eine Tatfrage. Diesbezügliche Feststellungen der Vorinstanz, soweit sie auf der Würdigung konkreter Umstände beruhen, sind daher vom Bundesgericht lediglich unter eingeschränktem Blickwinkel überprüfbar (Art. 97 Abs. 1 BGG sowie Art. 105 Abs. 1 und 2 BGG; Urteil 9C_339/2007 vom 5. März 2008, E. 5.2 mit Hinweis; 9C_182/2007 vom 7. Dezember 2007, E. 4.1.1).
2.2 Der Anspruch auf Invalidenleistungen der (obligatorischen) beruflichen Vorsorge setzt einen engen sachlichen und zeitlichen Zusammenhang zwischen der während der Dauer des Vorsorgeverhältnisses eingetretenen Arbeitsunfähigkeit und der allenfalls erst später bestehenden Invalidität voraus. Der sachliche Konnex ist zu bejahen, wenn der Gesundheitsschaden, der zur Arbeitsunfähigkeit geführt hat, von der Art her im Wesentlichen derselbe ist, welcher der Erwerbsunfähigkeit zu Grunde liegt (BGE 134 V 20 E. 3.2 S. 22). Der zeitliche Zusammenhang setzt voraus, dass die versicherte Person nach Eintritt der Arbeitsunfähigkeit nicht während längerer Zeit wieder arbeitsfähig geworden ist (BGE 134 V 20 E. 3.2.1 S. 22). Massgebend ist die Arbeitsfähigkeit in einer der gesundheitlichen Beeinträchtigung angepassten zumutbaren Tätigkeit; diese muss bezogen auf die angestammte Tätigkeit die Erzielung eines rentenausschliessenden Einkommens erlauben (BGE 134 V 20 E. 5.3 S. 27).
3. Zu Recht wird im angefochtenen Entscheid festgehalten, dass hinsichtlich der Frage, zu welchem Zeitpunkt die Arbeitsunfähigkeit eingetreten ist, schon deshalb keine Bindung an die Feststellungen der Invalidenversicherung besteht, weil die Beschwerdeführerin nicht in das invalidenversicherungsrechtliche Verfahren einbezogen worden ist (BGE 132 V 1 E. 3.3.2 S. 5, 130 V 270 E. 3.1 S. 273 f.).
4. Das kantonale Gericht erwog, nach Lage der Akten beständen keine Hinweise dafür, dass die zur Berentung durch die Invalidenversicherung führenden psychischen und physischen Beschwerden beim Versicherten nachweislich bereits vor dem 29. November 2000 zu einer Arbeitsunfähigkeit geführt hätten. Damit sei die Arbeitsunfähigkeit zu einem Zeitpunkt eingetreten, in welchem der Beschwerdegegner bei der Beschwerdeführerin versichert gewesen sei. Im Übrigen fehlte es angesichts des Umstandes, dass in der Zeit vom 29. August bis 28. November 2000 keine Einschränkung der Arbeitsfähigkeit bestand, auf jeden Fall an der zeitlichen Konnexität zwischen einem allfälligen, bereits vor der Einreise in die Schweiz aufgetretenen Gesundheitsschaden und dem schliesslich zu einer Invalidität im Sinne der Invalidenversicherung führenden Leiden.
5. In der Beschwerde wird gerügt, die Vorinstanz sei auf rechtserhebliche Beweisanträge nicht eingegangen, habe wesentliche Argumente der Beschwerdeführerin nicht gewürdigt und den Sachverhalt offensichtlich unrichtig oder unvollständig festgestellt.
5.1 Die Beschwerdeführerin hatte im vorinstanzlichen Verfahren beantragt, der Beschwerdegegner sei zu befragen, weshalb er im Jahre 1992 nach Spanien zurückgekehrt sei, wie er dort seinen Lebensunterhalt finanziert habe (namentlich ob [und allenfalls in welchem Umfang] er einer Arbeit nachgegangen sei), ob bei der Wiedereinreise in die Schweiz im Jahre 2000 eine Arbeitsunfähigkeit bestanden habe, ob die Tätigkeit als Maurer ab August 2000 seinem Leiden angepasst gewesen sei, und weshalb er in der IV-Anmeldung angegeben habe, seit 1983 an den geltend gemachten gesundheitlichen Beeinträchtigungen zu leiden.
Soweit diese Fragen für die Beurteilung des Zeitpunkts des Eintritts der Arbeitsunfähigkeit bzw. des Vorliegens eines sachlichen und zeitlichen Zusammenhanges zwischen einem allfälligen vor Eintritt des Beschwerdegegners in die Pensionskasse X._ bestehenden, zu einer Arbeitsunfähigkeit führenden Gesundheitsschaden und der nachfolgenden Invalidität überhaupt relevant waren, hat die Vorinstanz sie nach eingehender Würdigung der Akten überzeugend (vgl. dazu E. 5.4 hiernach) beantwortet. Wenn sie bei dieser Beweislage die beantragte Parteibefragung sinngemäss abgelehnt hat, bietet diese antizipierte Beweiswürdigung keinen Grund zur Kritik.
5.2 Nicht zu beanstanden ist auch, dass die Vorinstanz von der Befragung des Dr. med. D._, Spezialarzt FMH für Chirurgie, abgesehen hat, weil sie den zwischen dem Arztbericht vom 7. März 2002 (Arbeitsunfähigkeit ab Oktober 1983 "bis bleibend") und demjenigen vom 28. November 2000 (Arbeitsunfähigkeit ab 29. November 2000) bestehenden Widerspruch unter Berücksichtigung der übrigen medizinischen Berichte und des Behandlungszeitraumes bei Dr. med. D._ ohne weiteres aufzulösen vermochte. Des Weitern war es auch zulässig, dass die Vorinstanz - entgegen dem von der Beschwerdeführerin gestellten Antrag - weder Dr. med. D._ noch die Rheumatologische Klinik A._ zur Edition der Krankengeschichte aufgefordert hat, weil die durch die behandelnden Ärzte (namentlich Dr. med. D._) erstellten, in den Akten befindlichen Berichte bereits ein deutliches Bild zeichneten und von den beantragten Weiterungen keine neuen Erkenntnisse zu erwarten waren.
5.3 Die vorinstanzliche Sachverhaltsfeststellung, wonach die Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat (Art. 23 BVG), (erst) am 29. November 2000 eingetreten ist, als der Beschwerdegegner bei der Pensionskasse X._ versichert war, ist weder offensichtlich unrichtig noch unvollständig. Der von der Beschwerdeführerin geltend gemachte Zusammenhang mit dem 1983 erlittenen Arbeitsunfall fällt bereits mangels zeitlicher Konnexität ausser Betracht, ist doch aufgrund der Akten erstellt, dass der Versicherte selbst nach dem im Sommer 1989 erlittenen Rückfall voll arbeitsfähig war (Zeugnisse des Dr. med. D._ vom 14. September 1989, 2. Februar und 16. Juli 1990 sowie 24. April 1991). Hinzu kommt, dass für die Zeit der erneuten Arbeitstätigkeit in der Schweiz vom 29. August bis 28. November 2000 beim Beschwerdegegner nach den Akten überhaupt keine Einbusse an Leistungsvermögen zu verzeichnen war (wie beispielsweise durch einen Abfall der Leistungen mit entsprechender Feststellung oder gar Ermahnung des Arbeitgebers oder durch gehäufte, aus dem Rahmen fallende gesundheitlich bedingte Arbeitsausfälle: SVR 2008 IV Nr. 11 S. 32 E. 5.1, I 687/06; Urteil 9C_182/2007 vom 7. Dezember 2007, E. 4.1.3). Soweit die Beschwerdeführerin aus ärztlichen Berichten zitiert, um zu belegen, dass der Versicherte seit 1983 ununterbrochen unter Schmerzen litt, und geltend macht, dass der Beschwerdegegner in der IV-Anmeldung selber angegeben habe, seit 1983 an den gesundheitlichen Beeinträchtigungen zu leiden, ist darauf hinzuweisen, dass Schmerzen und gesundheitliche Beeinträchtigungen im vorliegenden Zusammenhang nur relevant wären, wenn sich diese im massgebenden Zeitraum auf die Arbeitsfähigkeit ausgewirkt hätten, wofür in den Akten Hinweise fehlen. Von einer überwiegenden Wahrscheinlichkeit des von der Beschwerdeführerin angenommenen Geschehensablaufs kann damit nicht ausgegangen werden.
6. Bei diesem Ausgang des Verfahrens hat die Beschwerdeführerin als unterliegende Partei die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG) und dem Beschwerdegegner eine Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG), womit dessen Gesuch um unentgeltliche Rechtspflege gegenstandslos ist.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2500.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht Basel-Stadt und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 2. Juni 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Keel Baumann