Sachverhalt:
Sachverhalt:
A. Der 1970 geborene D._ war seit 1988 als ungelernter Bauarbeiter für ein Tiefbauunternehmen tätig. Im September 1995 meldete er sich mit der Angabe, an einem chronischen Schmerzzustand an der Lendenwirbelsäule sowie an Tennisarm beidseits und rezidivierenden Clavi zu leiden, bei der Invalidenversicherung für Massnahmen beruflicher Art an. Die IV-Stelle Basel-Stadt holte Arztberichte sowie eine Stellungnahme des Arbeitgebers ein und verneinte mit Verfügung vom 31. Oktober 1996 einen Anspruch des Versicherten auf die beantragten Leistungen.
Auf ein erneutes Gesuch des zwischenzeitlich arbeitslos gewordenen Versicherten um berufliche Eingliederungsmassnahmen vom März 1998 trat die IV-Stelle mit der Begründung nicht ein, es sei keine anspruchsrelevante Änderung der tatsächlichen Verhältnisse dargetan (Schreiben vom 30. Juli 1998).
Am 23. Oktober 2000 liess D._ ein "Wiedererwägungsgesuch auf 100% Rente" stellen. Die IV-Stelle traf weitere medizinische, insbesondere auch psychiatrische, sowie erwerbliche Abklärungen und sprach dem Versicherten mit Verfügung vom 1. Juli 2002 eine ab 1. Januar 2001 laufende ganze Invalidenrente (nebst zwei separat verfügten Kinderrenten) zu.
Am 23. Oktober 2000 liess D._ ein "Wiedererwägungsgesuch auf 100% Rente" stellen. Die IV-Stelle traf weitere medizinische, insbesondere auch psychiatrische, sowie erwerbliche Abklärungen und sprach dem Versicherten mit Verfügung vom 1. Juli 2002 eine ab 1. Januar 2001 laufende ganze Invalidenrente (nebst zwei separat verfügten Kinderrenten) zu.
B. Die von D._ hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht Basel-Stadt insofern teilweise gut, als es den Rentenbeginn auf den 1. Oktober 1999 festsetzte (Entscheid vom 15. Januar 2003).
B. Die von D._ hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht Basel-Stadt insofern teilweise gut, als es den Rentenbeginn auf den 1. Oktober 1999 festsetzte (Entscheid vom 15. Januar 2003).
C. D._ lässt Verwaltungsgerichtsbeschwerde führen und beantragen, in Aufhebung des kantonalen Gerichtsentscheides sei ihm die ganze Invalidenrente rückwirkend bereits ab 1. Oktober 1996 zuzusprechen. Weiter wird um Gewährung der unentgeltlichen Rechtspflege ersucht.
Die IV-Stelle verzichtet auf eine Vernehmlassung zur Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung hat nicht Stellung genommen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
Das Eidg. Versicherungsgericht zieht in Erwägung:
1. Am 1. Januar 2003 ist das Bundesgesetz über den Allgemeinen Teil des Sozialversicherungsrechts (ATSG) vom 6. Oktober 2000 in Kraft getreten. Mit ihm sind zahlreiche Bestimmungen im Invalidenversicherungsbereich geändert worden. Weil in zeitlicher Hinsicht grundsätzlich diejenigen Rechtssätze massgebend sind, die bei der Erfüllung des zu Rechtsfolgen führenden Tatbestandes Geltung haben, und weil ferner das Sozialversicherungsgericht bei der Beurteilung eines Falles grundsätzlich auf den bis zum Zeitpunkt des Erlasses der streitigen Verfügung (hier: 1. Juli 2002) eingetretenen Sachverhalt abstellt, sind im vorliegenden Fall die bis zum 31. Dezember 2002 geltenden Bestimmungen anwendbar (<ref-ruling> Erw. 1.2).
1. Am 1. Januar 2003 ist das Bundesgesetz über den Allgemeinen Teil des Sozialversicherungsrechts (ATSG) vom 6. Oktober 2000 in Kraft getreten. Mit ihm sind zahlreiche Bestimmungen im Invalidenversicherungsbereich geändert worden. Weil in zeitlicher Hinsicht grundsätzlich diejenigen Rechtssätze massgebend sind, die bei der Erfüllung des zu Rechtsfolgen führenden Tatbestandes Geltung haben, und weil ferner das Sozialversicherungsgericht bei der Beurteilung eines Falles grundsätzlich auf den bis zum Zeitpunkt des Erlasses der streitigen Verfügung (hier: 1. Juli 2002) eingetretenen Sachverhalt abstellt, sind im vorliegenden Fall die bis zum 31. Dezember 2002 geltenden Bestimmungen anwendbar (<ref-ruling> Erw. 1.2).
2. Das kantonale Gericht hat unter Darlegung der massgebenden Gesetzesbestimmungen (Art. 4 Abs. 1, Art. 28 Abs. 1 und 2 IVG) erwogen, dass der Beschwerdeführer aufgrund der gesundheitsbedingten Einschränkung seiner Erwerbsfähigkeit Anspruch auf eine ganze Invalidenrente hat. Dies ist unbestritten und nach Lage der Akten nicht zu beanstanden.
Einigkeit herrscht unter sämtlichen Verfahrensbeteiligten nunmehr auch darüber, dass dieser Anspruch am 1. Oktober 1996 entstanden ist (Ablauf der einjährigen Wartezeit nach <ref-law>). Diese Beurteilung stützt sich auf die nach dem "Wiedererwägungsgesuch" vom 23. Oktober 2000 eingeholten Arztberichte, wonach der Beschwerdeführer seit ca. Oktober 1995 namentlich auch aus psychischen Gründen arbeitsunfähig ist (Berichte Dr. med. G._, Spezialarzt für Psychiatrie und Psychotherapie FMH, vom 6. November und 7. Dezember 2000; ferner Gutachten Dr. med. R._, FMH Innere Medizin, vom 8. Juni 2001). Damit wäre die Invalidenrente grundsätzlich ab 1. Oktober 1996 (Zeitpunkt der Anspruchsentstehung; <ref-law>) auszurichten.
Streitig und zu prüfen ist einzig, ob die Rente entsprechend der Auffassung der Vorinstanz infolge verspäteter Anmeldung des Versicherten erst ab 1. Oktober 1999 nachzuzahlen ist.
Streitig und zu prüfen ist einzig, ob die Rente entsprechend der Auffassung der Vorinstanz infolge verspäteter Anmeldung des Versicherten erst ab 1. Oktober 1999 nachzuzahlen ist.
3. Wer auf Leistungen der Invalidenversicherung Anspruch erhebt, hat sich bei der zuständigen IV-Stelle auf dem amtlichen Formular anzumelden (<ref-law> in Verbindung mit <ref-law>).
Meldet sich ein Versicherter mehr als zwölf Monate nach Entstehung des Anspruchs an, so werden gemäss <ref-law> die Leistungen lediglich für die zwölf der Anmeldung vorangehenden Monate ausgerichtet (Satz 1). Weitergehende Nachzahlungen werden erbracht, wenn der Versicherte den anspruchsbegründenden Sachverhalt nicht kennen konnte und die Anmeldung innert zwölf Monaten seit Kenntnisnahme vornimmt (Satz 2).
Mit der Kenntnis des anspruchsbegründenden Sachverhalts ist nicht das subjektive Einsichtsvermögen des Versicherten gemeint, sondern es geht nach dem Wortlaut von <ref-law> vielmehr darum, ob der anspruchsbegründende Sachverhalt objektiv feststellbar ist oder nicht (<ref-ruling> Erw. 2c; ZAK 1984 S. 405 Erw. 1; Urteile L. vom 13. August 2003 Erw. 2.1, I 414/03, und G. vom 13. Mai 2003 Erw. 3, I 105/03). Nicht-Erkennbarkeit eines objektiv gegebenen anspruchsbegründenden Sachverhalts nimmt die Rechtsprechung nur sehr zurückhaltend an, so namentlich in Fällen höherer Gewalt (<ref-ruling>), bei Vorliegen eigentlicher Geisteskrankheiten wie Schizophrenie (<ref-ruling>), bei fehlender Urteilsfähigkeit (Urteil K. vom 29. März 2001, I 71/00) oder krankheitsbedingter Unfähigkeit, gemäss der vorhandenen Einsicht zu handeln (Urteil V. vom 16. März 2000, I 149/99).
3.1 Gemäss IV-Stelle und kantonalem Gericht hat sich der Beschwerdeführer erst mit dem "Wiedererwägungsgesuch" vom 23. Oktober 2000 für eine Invalidenrente angemeldet. Dies hätte nach <ref-law> den Beginn der Rente am 1. Oktober 1999 zur Folge.
Der Versicherte stand bereits ab September 1996 in psychiatrischer Behandlung (Bericht Dr. med. G._ vom 6. November 2000) und macht, schon von daher zu Recht, nicht geltend, vom anspruchsbegründenden Sachverhalt keine Kenntnis gehabt zu haben. Ein Anwendungsfall von <ref-law> liegt somit nicht vor.
In der Verwaltungsgerichtsbeschwerde wird in erster Linie vorgebracht, schon die Anmeldung vom September 1995 habe auch den Anspruch auf Rentenleistungen umfasst, womit Art. 48 Abs. 2 Abs. 1 IVG nicht zur Anwendung gelange.
3.2 In der Anmeldung vom September 1995 wurden lediglich Massnahmen beruflicher Art (Berufsberatung und Umschulung) geltend gemacht. Einen Anspruch des Versicherten auf diese Leistungen hat die IV-Stelle mit Verfügung vom 31. Oktober 1996 verneint. Der Inhalt dieses Verwaltungsaktes wie auch die hiefür getroffenen Abklärungen lassen sich mit der Prüfung der gesetzlichen Anspruchsvoraussetzungen für die beantragten Eingliederungsmassnahmen erklären (vgl. hiezu insbes. Art. 8, Art. 15 und Art. 17 IVG). Der Verwaltungsgerichtsbeschwerde kann daher nicht gefolgt werden, soweit geltend gemacht wird, die IV-Stelle habe mit der Verfügung vom 31. Oktober 1996 zugleich auch den Anspruch des Versicherten auf eine Invalidenrente verneint. Entsprechendes liesse sich auch nicht sinngemäss aus der besagten Verfügung ableiten.
3.3 Es fragt sich sodann, ob die Verwaltung gestützt auf die Anmeldung vom September 1995 nicht auch den Anspruch des Versicherten auf eine Invalidenrente hätte prüfen und darüber verfügen müssen.
3.3.1 Das sozialversicherungsrechtliche Verwaltungs- und Verwaltungsgerichtsverfahren ist vom Untersuchungsgrundsatz beherrscht. Danach hat die Verwaltung - und im Beschwerdefall das Gericht - von Amtes wegen für die richtige und vollständige Abklärung des rechtserheblichen Sachverhaltes zu sorgen. Dieser Grundsatz gilt indessen nicht uneingeschränkt; er findet sein Korrelat in den Mitwirkungspflichten der Parteien (vgl. <ref-ruling> Erw. 2, 122 V 158 Erw. 1a, je mit Hinweisen).
Nach der Rechtsprechung erstrecken sich die im Anschluss an ein Leistungsgesuch durchzuführenden Abklärungen der Verwaltung nur auf die vernünftigerweise mit dem vorgetragenen Sachverhalt und allfälligen bisherigen oder neuen Akten in Zusammenhang stehenden Leistungen. Wird später geltend gemacht, es bestehe noch Anspruch auf eine andere Versicherungsleistung, so ist nach den gesamten Umständen des Einzelfalles im Lichte von Treu und Glauben zu prüfen, ob jene frühere ungenaue Anmeldung auch den zweiten, allenfalls später substanziierten Anspruch umfasst (<ref-ruling> f. Erw. 2 mit Hinweisen).
3.3.2 Die nach der Anmeldung vom September 1995 vorgenommenen Abklärungen zur beruflichen Eingliederung ergaben eine gesundheitsbedingte Erwerbseinbusse von ca. 15%, welche sich mit der Zeit bei der Einarbeitung in eine andere Tätigkeit rasch verringern werde. Diese Beurteilung stützte sich auf verschiedene ärztliche Stellungnahmen. Gemäss Bericht des damaligen Hausarztes vom 25./26. September 1995 war dem Beschwerdeführer die Ausübung der bisherigen wie alternativer Berufstätigkeiten mit bestimmten Einschränkungen weiterhin ganztägig zumutbar. Dr. med. H._, Spezialarzt FMH für orthopädische Chirurgie, bezeichnete mit Gutachten vom 13. Februar 1996 die ausschliessliche Verrichtung von Schwerstarbeiten als ungünstig; hingegen könne jede mittelschwere Arbeit ganztägig verrichtet werden. Nicht wesentlich anders äusserten sich die Fachärzte der Rheumalogischen Klinik X._ mit Bericht vom 19. Juni 1996. Darin wurde eine Stellungnahme zur Arbeitsfähigkeit zwar von einer bevorstehenden Hospitalisation abhängig gemacht. Zugleich wurde aber ausgeführt, es sei möglich, dass der Versicherte wegen der festgestellten statischen Störungen in einer den Rücken schwer belastenden Tätigkeit nicht mehr voll arbeitsfähig sei. Dieser seitens der Rheumatologen erst für möglich erachteten Beeinträchtigung trug die IV-Stelle bei der Ermittlung des Invaliditätsgrades vollumfänglich Rechnung, weshalb sie einen Bericht über den angekündigten Spitalaufenthalt auch nicht abwarten musste. Somatisch-medizinisch bestanden somit keine Anhaltspunkte für das Vorliegen einer rentenbegründenden Gesundheitsschädigung, wofür ein Invaliditätsgrad von mindestens 40% (<ref-law>) vorausgesetzt wird.
Eine psychische Leidenskomponente hat der Beschwerdeführer erst im "Wiedererwägungsgesuch" vom 23. Oktober 2000 mit dem Hinweis auf einen behandelnden Psychiater angesprochen. Bei Erlass der Verfügung vom 31. Oktober 1996 gab es aber keine hinreichenden Anhaltspunkte für die Annahme, es könnte eine gegebenenfalls invalidisierende seelische Gesundheitsschädigung in Betracht kommen, was die Verwaltung hätte veranlassen müssen, im Rahmen ihrer Abklärungspflicht auch dieser Frage nachzugehen. Einen Grund hiefür bildete auch der Beizug der IV-Akten durch die Psychiatrische Klinik Y._ am 2. Oktober 1996 nicht, zumal diese Anfrage auch im Zusammenhang mit dem im Bericht der Rheumatologischen Klinik X._ vom 19. Juni 1996 geäusserten Verdacht auf funktionelle Überlagerung bei psychosozialen Belastungsfaktoren verstanden werden konnte, was mit einer invalidisierenden Gesundheitsschädigung offensichtlich nichts zu tun hat (<ref-ruling>).
3.3.3 Wenn sich die Verwaltung damals auf die Prüfung des Anspruchs auf berufliche Massnahmen beschränkte, lässt sich dies angesichts der einzig auf diese Leistungen gerichteten Anmeldung vom September 1995 und der dargelegten medizinischen Aktenlage im Lichte der dargelegten Grundsätze (Erw. 3.3.1 hievor) nicht beanstanden. Die IV-Stelle durfte sich in der Überzeugung, es seien keine Abklärungen mit Blick auf eine rentenbegründende Invalidität erforderlich, auch dadurch bestärkt fühlen, dass die damalige Arbeitgeberin am 6. November 1995 angegeben hatte, von einem Gesundheitsschaden des Beschwerdeführers keine Kenntnis zu haben.
Einen Anlass, die Rentenfrage abklären, bildete schliesslich auch die weitere Anmeldung vom Juni 1998 nicht, wurden doch darin erneut nur berufliche Eingliederungsmassnahmen beantragt. Es wird vom Beschwerdeführer denn auch nicht beanstandet, dass die IV-Stelle hiebei von einer Neuanmeldung ausging und darauf mangels Anhaltspunkten für eine anspruchsrelevante Änderung der tatsächlichen Verhältnisse nicht eintrat.
3.4 Zu prüfen bleibt, ob die Voraussetzungen für ein Rückkommen der Verwaltung auf die Verfügung vom 31. Oktober 1996 gegeben sind.
3.4.1 Zu einer Wiedererwägung dieses Verwaltungsaktes kann die IV-Stelle nicht verpflichtet werden. Dies hat das kantonale Gericht zutreffend erkannt und ist letztinstanzlich unbestritten (<ref-ruling> Erw. 2a mit Hinweisen; vgl. auch <ref-ruling> Erw. 1b/cc).
3.4.2 Von der Wiedererwägung ist die so genannte prozessuale Revision von Verwaltungsverfügungen zu unterscheiden. Danach ist die Verwaltung verpflichtet, auf eine formell rechtskräftige Verfügung zurückzukommen, wenn neue Tatsachen oder neue Beweismittel entdeckt werden, die geeignet sind, zu einer andern rechtlichen Beurteilung zu führen (<ref-ruling> Erw. 2c mit Hinweisen).
Die Rentenfrage bildete nicht Gegenstand der Verfügung vom 31. Oktober 1996 (Erw. 3.2 hievor). Ein Zurückkommen auf diesen Verwaltungsakt in dem Sinne, dass eine rentenverneinende Entscheidung zu revidieren wäre, kommt daher von vornherein nicht in Betracht.
Neue Tatsachen oder neue Beweismittel, welche die Verwaltung bei Kenntnis in dem mit Anmeldung vom September 1995 eingeleiteten Verfahren veranlasst hätten oder hätten veranlassen müssen, die Sachverhaltsabklärungen auf den Anspruch auf eine Invalidenrente auszudehnen und dem Beschwerdeführer eine solche zuzusprechen, liegen ebenfalls nicht vor. Das Vorliegen des seit ca. Oktober 1995 bestehenden, namentlich auch psychischen Gesundheitsschadens und dessen Auswirkungen auf die Leistungsfähigkeit als Grundlage des am 1. Oktober 1996 entstandenen Rentenanspruchs (Erw. 2 hievor) waren dem Versicherten schon aufgrund der im September 1996 begonnenen psychiatrischen Behandlung bereits bei Erlass der Verfügung vom 31. Oktober 1996 zumindest in den Grundzügen bekannt. Er hätte diesen Sachverhalt daher noch im damaligen Verfahren geltend machen können. Mithin handelt es sich dabei nicht um neue Tatsachen oder diese bestätigende neue Beweismittel im Sinne der Rechtsprechung, womit die prozessuale Revision auch in Bezug darauf, ob die IV-Stelle die Rentenfrage in das damalige Verfahren hätte einbeziehen müssen, ausgeschlossen ist (vgl. <ref-ruling> Erw. 2b; Urteil V. vom 29. April 2003 Erw. 3.1, I 162/02). Fehlt es demnach auch an einem Rückkommenstitel in Bezug auf die Verfügung vom 31. Oktober 1996, ist die Verwaltungsgerichtsbeschwerde in allen Teilen unbegründet.
Neue Tatsachen oder neue Beweismittel, welche die Verwaltung bei Kenntnis in dem mit Anmeldung vom September 1995 eingeleiteten Verfahren veranlasst hätten oder hätten veranlassen müssen, die Sachverhaltsabklärungen auf den Anspruch auf eine Invalidenrente auszudehnen und dem Beschwerdeführer eine solche zuzusprechen, liegen ebenfalls nicht vor. Das Vorliegen des seit ca. Oktober 1995 bestehenden, namentlich auch psychischen Gesundheitsschadens und dessen Auswirkungen auf die Leistungsfähigkeit als Grundlage des am 1. Oktober 1996 entstandenen Rentenanspruchs (Erw. 2 hievor) waren dem Versicherten schon aufgrund der im September 1996 begonnenen psychiatrischen Behandlung bereits bei Erlass der Verfügung vom 31. Oktober 1996 zumindest in den Grundzügen bekannt. Er hätte diesen Sachverhalt daher noch im damaligen Verfahren geltend machen können. Mithin handelt es sich dabei nicht um neue Tatsachen oder diese bestätigende neue Beweismittel im Sinne der Rechtsprechung, womit die prozessuale Revision auch in Bezug darauf, ob die IV-Stelle die Rentenfrage in das damalige Verfahren hätte einbeziehen müssen, ausgeschlossen ist (vgl. <ref-ruling> Erw. 2b; Urteil V. vom 29. April 2003 Erw. 3.1, I 162/02). Fehlt es demnach auch an einem Rückkommenstitel in Bezug auf die Verfügung vom 31. Oktober 1996, ist die Verwaltungsgerichtsbeschwerde in allen Teilen unbegründet.
4. Da es um Versicherungsleistungen geht, sind gemäss Art. 134 OG keine Gerichtskosten zu erheben. Das Gesuch um unentgeltliche Rechtspflege im Sinne der Befreiung von den Gerichtskosten erweist sich daher als gegenstandslos. Die unentgeltliche Verbeiständung kann hingegen gewährt werden (Art. 152 in Verbindung mit Art. 135 OG), da die Bedürftigkeit aktenkundig ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung geboten war (<ref-ruling> Erw. 4a und 372 Erw. 5b, je mit Hinweisen). Es wird indessen ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Eidg. Versicherungsgericht:
Demnach erkennt das Eidg. Versicherungsgericht:
1. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
1. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2. Es werden keine Gerichtskosten erhoben.
2. Es werden keine Gerichtskosten erhoben.
3. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Advokat Dr. Marco Biaggi, Basel, für das Verfahren vor dem Eidgenössischen Versicherungsgericht aus der Gerichtskasse eine Entschädigung von Fr. 2000.- (einschliesslich Mehrwertsteuer) ausgerichtet.
3. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Advokat Dr. Marco Biaggi, Basel, für das Verfahren vor dem Eidgenössischen Versicherungsgericht aus der Gerichtskasse eine Entschädigung von Fr. 2000.- (einschliesslich Mehrwertsteuer) ausgerichtet.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht Basel-Stadt und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 2. Dezember 2003
Im Namen des Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer: Der Gerichtsschreiber: