Sachverhalt: A. Der 1948 geborene französische Staatsangehörige M._ war in den Jahren 1971, 1972, 1974, 1975 und ab 1979 in der Schweiz erwerbstätig. Ab Januar 1989 war er als Betriebsmitarbeiter (Rohrschlosser und Mechaniker) in der X._ AG beschäftigt, welche Arbeit er ab Anfang Februar 1999 krankheitshalber nicht mehr ausführen konnte. Die Stelle wurde durch den Arbeitgeber per 31. März 2000 infolge Reorganisation des Betriebes aufgelöst. Mit Anmeldung vom 11. November 1999 ersuchte M._ unter Hinweis auf eine seit etwa 1995 Beschwerden verursachende Diskushernie um Ausrichtung einer Invalidenrente. Die IV-Stelle Basel-Stadt zog den IK-Auszug vom 19. November 1999, den Arbeitgeberbericht vom 3. Dezember 1999 sowie verschiedene medizinische Unterlagen bei und holte bei Dr. med. Z._, FMH für Allgemeine Medizin, den Arztbericht für Grenzgänger vom 21. November 2000 mit Ergänzungsbericht vom 29. November 2000 ein. Nach Durchführung des Vorbescheidverfahrens wies die IV-Stelle für Versicherte im Ausland (nachfolgend: IV-Stelle) mit Verfügung vom 29. Januar 2001 das Rentengesuch bei einem Invaliditätsgrad von 30 % ab. B. Hiegegen erhob M._ Beschwerde mit dem sinngemässen Antrag, in Aufhebung der Verfügung vom 29. Januar 2001 sei ihm eine Rente zuzusprechen; replicando liess der nunmehr anwaltlich vertretene Versicherte die Arztberichte von Dr. med. H._ vom 21. März 2000 und Dr. med. F._ vom 10. April 2001 einreichen. Mit Entscheid vom 2. Juli 2002 wies die Eidgenössische Rekurskommission der AHV/IV für die im Ausland wohnenden Personen die Beschwerde ab. C. Mit Verwaltungsgerichtsbeschwerde lässt M._ beantragen, der vorinstanzliche Entscheid sei aufzuheben und es sei ihm bei einem Invaliditätsgrad von mindestens 50 % spätestens mit Wirkung ab 1. Februar 2000 eine halbe Invalidenrente zuzusprechen; eventualiter sei die Sache zur weiteren medizinischen Abklärung an die IV-Stelle zurückzuweisen. Zudem lässt er um Gewährung der unentgeltlichen Rechtspflege ersuchen. Während die IV-Stelle auf Abweisung der Verwaltungsgerichtsbeschwerde schliesst, verzichtet das Bundesamt für Sozialversicherung auf eine Vernehmlassung.