Sachverhalt:
A. Der 1948 geborene, als selbstständiger Bodenleger tätig gewesene W._ meldete sich am 22. November 2000 unter Hinweis auf starke Schmerzen am linken Knie bei der Eidgenössischen Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle Basel-Stadt nahm Abklärungen vor und führte berufliche Massnahmen durch, welche jedoch nicht zu einer erfolgreichen Eingliederung führten. Mit Verfügung vom 4. Februar 2005 sprach die Verwaltung dem Versicherten schliesslich für die Zeit vom 1. Januar bis 30. Juni 2001 und erneut ab 1. Januar 2004 auf der Basis eines Invaliditätsgrades von 57 % eine halbe Rente zu (der Unterbruch erklärt sich durch den zwischenzeitlichen Bezug von Taggeldern während der Eingliederungsmassnahmen). Daran wurde mit Einspracheentscheid vom 20. März 2006 festgehalten.
B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht Basel-Stadt ab (Entscheid vom 13. Dezember 2006).
C. W._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Rechtsbegehren, es sei die Sache zur Neubeurteilung an die IV-Stelle zurückzuweisen. Ferner wird um unentgeltliche Rechtspflege ersucht.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Das Bundesgericht zieht in Erwägung:
1. Das Bundesgesetz über das Bundesgericht vom 17. Juni 2005 (BGG; SR 173.110) ist am 1. Januar 2007 in Kraft getreten (AS 2006 1205, 1243). Da der angefochtene Entscheid vorher ergangen ist, richtet sich das Verfahren noch nach dem Bundesgesetz vom 16. Dezember 1943 über die Organisation der Bundesrechtspflege (<ref-law>; <ref-ruling> E. 1.2 S. 395).
2. Der angefochtene Entscheid betrifft Leistungen der Invalidenversicherung. Das Bundesgericht prüft daher nur, ob das vorinstanzliche Gericht Bundesrecht verletzte, einschliesslich Überschreitung oder Missbrauch des Ermessens, oder ob der rechtserhebliche Sachverhalt offensichtlich unrichtig, unvollständig oder unter Verletzung wesentlicher Verfahrensbestimmungen festgestellt wurde (Art. 132 Abs. 2 OG [in der Fassung gemäss Ziff. III des Bundesgesetzes vom 16. Dezember 2005 über die Änderung des IVG, in Kraft gewesen vom 1. Juli bis 31. Dezember 2006] in Verbindung mit Art. 104 lit. a und b sowie Art. 105 Abs. 2 OG).
3. Das kantonale Gericht hat die Bestimmungen und Grundsätze über die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG in der bis 31. Dezember 2003 gültig gewesenen, <ref-law> der seit 1. Januar 2004 geltenden Fassung), die Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der Einkommensvergleichsmethode (bis 31. Dezember 2002: Art. 28 altAbs. 2 IVG; vom 1. Januar bis 31. Dezember 2003: <ref-law> in Verbindung mit <ref-law>; ab 1. Januar 2004: <ref-law> in Verbindung mit <ref-law>; <ref-ruling> E. 3.4 S. 348, 128 V 29 E. 1 S. 30, 104 V 135 E. 2a und b S. 136), die Aufgabe des Arztes oder der Ärztin im Rahmen der Invaliditätsbemessung (<ref-ruling> E. 4 S. 261) sowie den Beweiswert und die Würdigung medizinischer Berichte und Gutachten (<ref-ruling> E. 3a S. 352) zutreffend dargelegt. Darauf wird verwiesen.
4. Streitig und zu prüfen ist der Rentenanspruch für die Zeit ab 1. Januar 2001. Für die Invaliditätsbemessung ist von den Verhältnissen im Zeitpunkt des Rentenbeginns auszugehen, wobei Veränderungen, welche bis zum Einspracheentscheid vom 20. März 2006 anspruchswirksam werden konnten, zu berücksichtigen sind (<ref-ruling> E. 2.1.2.1 S. 412, 129 V 222 E. 4.1 und 4.2 S. 223 f. mit Hinweisen).
4.1 Gemäss den Feststellungen des kantonalen Gerichts verdrehte sich der Beschwerdeführer Mitte Januar 2000 beim Heben einer schweren Last das linke Knie. Dr. med. S._, Chirurgie FMH, Leitender Arzt am Spital X._, nahm am 2. März 2000 eine Arthroskopie vor. Derselbe Arzt diagnostizierte am 8./11. Dezember 2000 ein seit Januar 2000 bestehendes präpatellares Schmerzsyndrom bei schwerem retropatellärem Knorpelschaden links. Dieses Leiden verunmögliche dem Versicherten die Ausübung der bisherigen Tätigkeit als Bodenleger. Eine alternative Tätigkeit ohne direktes Knien sowie ohne Heben von Lasten aus den Knien erachtete Dr. med. S._ dagegen als ganztags zumutbar. Dr. med. G._, Psychiatrie und Psychotherapie FMH, gelangte in seinen Gutachten vom 27. August 2003 und 28. Juni 2004 zum Ergebnis, auf Grund einer neurotischen Persönlichkeitsstörung (ICD-10: F60.8) sei der Versicherte in seiner Arbeitsfähigkeit zu 50 % eingeschränkt. Gestützt auf diese Grundlagen gelangte die Vorinstanz zum Ergebnis, der Beschwerdeführer sei in einer leidensangepassten Tätigkeit zu 50 % arbeitsfähig. Diese Feststellung, welche tatsächlicher Natur und deshalb für das Bundesgericht grundsätzlich verbindlich ist (E. 2 hiervor; <ref-ruling> E. 3.2 S. 398), lässt sich mit Blick auf die im letztinstanzlichen Verfahren geltende Überprüfungsbefugnis bezogen auf den Rentenbeginn im Januar 2001 weder als offensichtlich unrichtig noch als unvollständig bezeichnen. Ebenso wenig basiert sie auf einer Verletzung wesentlicher Verfahrensvorschriften. Die vorinstanzliche Beweiswürdigung genügt - bezogen auf die Verhältnisse bei Rentenbeginn - auch den rechtsprechungsgemässen Vorgaben (<ref-ruling> E. 3a S. 352).
4.2 Der Beschwerdeführer lässt geltend machen, die vorhandenen, den somatischen Aspekt betreffenden Arztberichte (neben demjenigen des Dr. med. S._ vom 8./11. Dezember 2000 liege noch ein solcher des Spitals Y._ vom 17. Januar 2001 vor) bildeten keine hinreichende Grundlage, um die Entwicklung bis zum Einspracheentscheid vom 20. März 2006 zu beurteilen. Er habe schon im Verwaltungsverfahren auf eine zwischenzeitlich eingetretene, seit Herbst 2004 bestehende Verschlechterung hingewiesen.
4.2.1 Das kantonale Gericht hat dazu erwogen, die vorgebrachte Verschlechterung des Gesundheitszustandes sei nicht substantiiert dargelegt. Angesichts der vollständigen, schlüssigen und in ihren Begründungen nachvollziehbaren Berichte des Dr. med. S._ und des Dr. med. G._ bestehe keine Veranlassung, den Beschwerdeführer neuerlich rheumatologisch abklären zu lassen. Die IV-Stelle führt in ihrer Vernehmlassung aus, die geltend gemachte Verschlechterung sei medizinisch in keiner Weise substantiiert. Weder in den Vorakten noch in der Beschwerde an die Vorinstanz sei sie mit einem Arztbericht oder einer Stellungnahme untermauert worden. Es müsse "demnach von einer rein taktischen Behauptung ausgegangen werden".
4.2.2 Gemäss <ref-law> stellt das kantonale Versicherungsgericht unter Mitwirkung der Parteien die für den Entscheid erheblichen Tatsachen fest; es erhebt die notwendigen Beweise und ist in der Beweiswürdigung frei. Der damit statuierte Untersuchungsgrundsatz zählt zu den in Art. 105 Abs. 2 OG erwähnten wesentlichen Verfahrensvorschriften (SZS 2001 S. 560 E. 2a S. 562, B 61/00; Urteile 2A.271/2005 vom 12. August 2005, E. 2.3, und M. vom 25. Juli 2000, C 93/00, E. 2b/cc; nicht veröffentlichtes Urteil A. vom 18. Mai 1990, 2A.166/1989; vgl. auch RKUV 2003 Nr. U 495 S. 394 E. 5.3.2 und 5.3.3 S. 399 f., U 243/00). Er verpflichtet Verwaltung und kantonales Gericht - unter Vorbehalt der Mitwirkungspflichten der Parteien - von sich aus für die richtige und vollständige Abklärung des rechtserheblichen Sachverhalts zu sorgen (<ref-ruling> E. 2 S. 195, 122 V 157 E. 1a S. 158, je mit Hinweisen; vgl. auch <ref-ruling> E. 3.2 S. 183). Insbesondere sind (weitere) Massnahmen zur Klärung des rechtserheblichen Sachverhalts vorzunehmen oder zu veranlassen, wenn dazu auf Grund der Parteivorbringen oder anderer sich aus den Akten ergebender Anhaltspunkte hinreichender Anlass besteht (<ref-ruling> E. 4a S. 282; AHI 1994 S. 210 E. 4a S. 212; SVR 1999 IV Nr. 10 S. 27 E. 2c S. 28; Urteil K 11/06 vom 11. Juli 2006, E. 3.1, mit weiteren Hinweisen). Im Geltungsbereich des Untersuchungsgrundsatzes dürfen Verwaltung und Gericht rechtserhebliche Parteivorbringen nicht einfach mit der Bemerkung abtun, sie seien nicht belegt worden (AHI 1994 S. 210 E. 4a S. 212 mit Hinweis).
4.2.3 Der Versicherte machte in seiner Einsprache vom 21. Februar 2005 und nochmals in deren ergänzender Begründung vom 6. Mai 2005 geltend, seine körperliche Verfassung habe sich seit dem 31. Oktober 2004 merklich verschlechtert. Er leide nunmehr zusätzlich an Schmerzattacken im Rücken, welche sich in immer kürzeren Abständen wiederholten, und stehe aus diesem Grund beim Hausarzt Dr. med. R._ in Behandlung. Als Ursache vermute er einen Skiunfall vom 1. April 2002. Am 27. Oktober 2005 informierte er die IV-Stelle telefonisch darüber, dass es ihm gesundheitlich nicht besser gehe und er deshalb am Folgetag in das Spital Z._ eintreten werde.
Die IV-Stelle holte im Dezember 2005 eine Stellungnahme des Regionalen ärztlichen Dienstes (RAD) ein, wobei in der Anfrage lediglich auf die Argumentation in den Rechtsschriften, nicht aber auf den Spitalaufenthalt hingewiesen wurde. Frau Dr. med. E._ vom RAD erklärte, dem WWB-Bericht von Juli 2002 (gemeint ist der Bericht von T._, Berufsberater/Psychologe, Spital Q._, Eingliederung, vom 8. Juli 2002 an die IV-Stelle) könnten keinerlei Hinweise auf einen Skiunfall entnommen werden und auch gegenüber dem Gutachter Dr. med. G._ sei ein solcher nicht erwähnt worden. Deshalb seien die entsprechenden Angaben ebenso wenig glaubhaft wie eine dadurch verursachte Verschlechterung der somatischen Situation ab Oktober 2004. Der Einspracheentscheid vom 20. März 2006 übernimmt diese Betrachtungsweise.
In der vorinstanzlichen Beschwerdeschrift vom 18. April 2006 wurde zusätzlich vorgebracht, die Hospitalisation im Spital Z._ habe rund zwei Wochen gedauert. Es sei eine Coxarthrose rechts diagnostiziert worden und es hätten sich Diskusprotrusionen im Lendenwirbelbereich gefunden. Die Ärzte hätten eine orthopädische Beurteilung empfohlen.
4.2.4 Nach dem Gesagten machte der Versicherte bereits in der Einsprache geltend, sein Gesundheitszustand habe sich in somatischer Hinsicht seit dem mehr als vier Jahre zuvor verfassten Bericht des Dr. med. S._ verschlechtert. Er leide nunmehr zusätzlich zu den Kniebeschwerden an Schmerzattacken im Rücken. Im weiteren Verlauf wies er auf einen vor dem Einspracheentscheid erfolgten und damit in den zu prüfenden Zeitraum fallenden zweiwöchigen stationären Spitalaufenthalt hin. Diese Vorbringen sind rechtserheblich, liefern sie doch Anhaltspunkte für einen zusätzlichen Gesundheitsschaden, welcher allenfalls bereits vor dem Erlass des Einspracheentscheids anspruchswirksam geworden sein könnte. Unter diesen Umständen wären die IV-Stelle und das kantonale Gericht kraft des Untersuchungsgrundsatzes gehalten gewesen, entsprechende Abklärungen zu treffen und insbesondere Berichte des Hausarztes sowie des Spitals, in dem sich der Beschwerdeführer gemäss seinen Aussagen aufgehalten hatte, beizuziehen. Letzterer wurde seiner Mitwirkungspflicht gerecht, indem er die Verwaltung über die neu aufgetretenen gesundheitlichen Probleme, die entsprechende Behandlung und den Spitalaufenthalt informierte.
4.2.5 Der vorinstanzliche Entscheid enthält somit nicht für den gesamten relevanten Zeitraum Feststellungen zur Arbeitsfähigkeit des Beschwerdeführers, welchen mit Blick auf Art. 105 Abs. 2 OG Verbindlichkeit beigemessen werden kann. Der Sachverhalt lässt sich diesbezüglich auch nicht gestützt auf die Akten vervollständigen. Die Sache ist daher zur Ergänzung der Abklärungen an die IV-Stelle zurückzuweisen.
5. Das Verfahren ist kostenpflichtig (Art. 134 Satz 2 OG in der vom 1. Juli bis 31. Dezember 2006 gültig gewesenen Fassung). Die Gerichtskosten sind der IV-Stelle als unterliegender Partei aufzuerlegen (Art. 156 Abs. 1 in Verbindung mit Art. 135 OG). Der Beschwerdeführer hat Anspruch auf eine Parteientschädigung (Art. 159 Abs. 1 und 2 in Verbindung mit Art. 135 OG; <ref-ruling> E. 6.1 S. 235).

Demnach erkennt das Bundesgericht:
1. Die Verwaltungsgerichtsbeschwerde wird gutgeheissen. Der Entscheid des Sozialversicherungsgerichts Basel-Stadt vom 13. Dezember 2006 und der Einspracheentscheid der IV-Stelle Basel-Stadt vom 20. März 2006 werden aufgehoben. Die Sache wird an die IV-Stelle Basel-Stadt zurückgewiesen, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über den Rentenanspruch neu verfüge.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat dem Beschwerdeführer für das letztinstanzliche Verfahren eine Parteientschädigung von Fr. 2500.- (einschliesslich Mehrwertsteuer) zu bezahlen.
4. Das Sozialversicherungsgericht Basel-Stadt wird über eine Parteientschädigung für das kantonale Verfahren entsprechend dem Ausgang des letztinstanzlichen Prozesses zu befinden haben.
5. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht Basel-Stadt, der Ausgleichskasse Basel-Stadt und dem Bundesamt für Sozialversicherungen zugestellt.
Luzern, 25. Juni 2007
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber: