Sachverhalt:
A. Seit G._, geboren 1966, am 7. September 2001 von einer Leiter abgerutscht war, litt er an persistierenden Beschwerden am rechten Fussgelenk, wozu ab Herbst 2005 eine Meniskusproblematik am linken Kniegelenk trat. Die IV-Stelle Basel-Stadt sprach ihm am 17. Januar 2006 ab 1. September 2002 eine ganze Rente der Invalidenversicherung zu. Für die Unfallfolgen gewährte ihm die SUVA am 13. Juli 2006 basierend auf einem Invaliditätsgrad von 26 % ab 1. Juni 2006 eine Rente der Unfallversicherung. Mit Verfügung vom 13. Dezember 2006 hob die IV-Stelle die ganze Rente auf Ende Januar 2007 revisionsweise auf.
B. Das Versicherungsgericht des Kantons Basel-Stadt hiess die von G._ hiegegen erhobene Beschwerde mit Entscheid vom 4. Oktober 2007 gut und hob die Verfügung vom 13. Dezember 2006 auf.
C. Die IV-Stelle führt Beschwerde mit dem Antrag, der angefochtene Entscheid sei aufzuheben. Zudem ersucht sie um Erteilung der aufschiebenden Wirkung.
G._ lässt auf Abweisung der Beschwerde schliessen. Weiter ersucht er um Gewährung der unentgeltlichen Rechtspflege. Mit der Erteilung der aufschiebenden Wirkung erklärt er sich einverstanden. Das Bundesamt für Sozialversicherungen verzichtet auf eine Stellungnahme.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann nach <ref-law> die Verletzung von Bundesrecht gerügt werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
2. Streitig ist, ob dem Beschwerdegegner auch über Ende Januar 2007 hinaus eine Rente der Invalidenversicherung zusteht. Das kantonale Gericht hat die zur Beurteilung dieses Anspruchs einschlägigen Rechtsgrundlagen zutreffend dargelegt. Darauf wird verwiesen. Zu ergänzen ist, dass der Revisionsordnung der Grundsatz vorgeht, dass die Verwaltung befugt ist, jederzeit von Amtes wegen auf formell rechtskräftige Verfügungen oder Einspracheentscheide, welche nicht Gegenstand materieller richterlicher Beurteilung gebildet haben, zurückzukommen, wenn sie zweifellos unrichtig sind und ihre Berichtigung von erheblicher Bedeutung ist (<ref-law>). Unter diesen Voraussetzungen kann die Verwaltung eine Rentenverfügung auch dann abändern, wenn die Revisionsvoraussetzungen des <ref-law> nicht erfüllt sind. Wird die zweifellose Unrichtigkeit der ursprünglichen Rentenverfügung erst vom Gericht festgestellt, so kann es die auf <ref-law> gestützte Revisionsverfügung mit dieser substituierten Begründung schützen (<ref-ruling> E. 2 S. 369).
3. Es stellt sich zunächst die Frage, ob sich der Gesundheitszustand des Beschwerdegegners und das damit verbundene Ausmass der ihm trotz gesundheitlichen Beschwerden verbliebenen Arbeitsfähigkeit seit der ursprünglichen Rentenzusprechung verbessert hat oder nicht.
3.1 Das kantonale Gericht hat im Wesentlichen gestützt auf die Berichte des SUVA-Kreisarztes Dr. med. S._ vom 5. Oktober 2005 und 10. Mai 2006 sowie des Dr. med. C._, Klinik X._, vom 13. Juli 2006, festgestellt, dass sich der Gesundheitszustand des Beschwerdegegners seit der ursprünglichen Verfügung vom 17. Januar 2006 nicht wesentlich verbessert hat. Was die IV-Stelle dagegen vorbringt, vermag diese Entscheidung über eine Tatfrage (<ref-ruling> E. 3.2 S. 397) als weder offensichtlich unrichtig noch sonstwie bundesrechtswidrig erscheinen zu lassen:
Zwar ist die zur ursprünglichen Berentung führende Arbeitsunfähigkeit in der Tat hauptsächlich auf die Meniskusproblematik am linken Knie zurückzuführen. Am 24. Januar 2006 wurde deswegen eine Arthroskopie und Teilmeniscektomie links lateral durchgeführt. Die Behauptung der Beschwerdeführerin, seither habe sich der Zustand dieses Knies und damit die Arbeitsfähigkeit wesentlich verbessert, findet indessen keine Stütze in den Akten. Im Gegenteil: Die an die Operation anschliessenden Verlaufsberichte des behandelnden Arztes Dr. med. C._ enthielten zunächst zwar eine positive Prognose. So kann dem Bericht vom 7. März 2006 entnommen werden, dass von Seiten des Knies ein normaler, regelrechter postoperativer Verlauf mit lokal reizlosem Zustand bestehe und die Arbeitsunfähigkeit ab 15. März 2006 auf 0 % gesetzt werden könne. Bereits am 25. April 2006 stellte jedoch derselbe Arzt fest, der Versicherte klage erneut über Beschwerden von Seiten des linken Knies. Im Vordergrund stünden zwar das rechte Fuss-/Sprunggelenk. Trotzdem hielt er fest, dass die Beschwerden des Knies durchaus auf die intraoperativ bestätigte, eindrückliche Chondrocalinose bei Gonarthrose zurückzuführen sei. Dem Bericht vom 13. Juli 2006, auf den sich die IV-Stelle im Wesentlichen beruft, kann bezüglich des linken Knies auch keine Verbesserung des Gesundheitszustandes entnommen werden. Zur Arbeitsfähigkeit wird zwar Stellung genommen, indessen - wie im Übrigen auch im Bericht des SUVA-Kreisarztes vom 10. Mai 2006 - nur hinsichtlich der Beschwerden am rechten Fuss. Weitere fachärztliche Berichte finden sich bis zum Zeitpunkt der Revisionsverfügung (13. Dezember 2006) nicht, sodass bei dieser Aktenlage die Feststellung der Vorinstanz, seit der ursprünglichen Verfügung vom 17. Januar 2006 habe sich der Gesundheitszustand nicht wesentlich verbessert, jedenfalls nicht als offensichtlich unrichtig bezeichnet werden kann.
3.2 Die Invalidenrente ist jedoch nicht nur bei einer wesentlichen Veränderung des Gesundheitszustandes, sondern auch dann revidierbar, wenn sich die erwerblichen Auswirkungen des an sich gleich gebliebenen Gesundheitsschadens erheblich verändert haben (<ref-ruling> E. 3.5 349 mit Hinweisen). Zu prüfen wäre somit weiter, ob sich der - gleich gebliebene - Gesundheitszustand des Beschwerdegegners gegenüber früher weniger einschränkend auf die berufliche Leistungsfähigkeit auswirkt. Der ursprünglichen Rentenzusprechung lag indessen keine Beurteilung der Arbeitsfähigkeit in einer zumutbaren Verweisungstätigkeit zugrunde (dazu: E. 4). Daher ist aber auch nicht feststellbar, ob sich die Arbeitsfähigkeit seither verändert hat.
4. Die zur Zeit der Rentenverfügung vom 17. Januar 2006 vorhandenen medizinischen Akten, so unter anderem insbesondere auch die Berichte des SUVA-Kreisarztes vom 22. November 2004 und 5. Oktober 2005, bescheinigten dem Beschwerdegegner zwar eine vollständige Arbeitsunfähigkeit, allerdings in der bisher ausgeübten Tätigkeit als Bau- und Reinigungsarbeiter. Zur IV-rechtlich allein entscheidenden Frage der Arbeitsfähigkeit in einer zumutbaren Verweisungstätigkeit (<ref-law>) gaben indessen weder diese noch andere medizinischen Berichte Auskunft. Die rechtskräftige Zusprechung einer ganzen Rente war daher insoweit gesetzwidrig und die ursprüngliche Verfügung - was das kantonale Gericht übersehen hat - zweifellos unrichtig, weswegen die Voraussetzungen, unter denen eine Revisionsverfügung mit dieser substituierten Begründung geschützt werden kann (vgl. E. 2), erfüllt sind. Das für eine Wiedererwägung weiter notwendige Erfordernis der Erheblichkeit der Berichtigung der seinerzeitigen Verfügung ist angesichts der zur Diskussion stehenden Dauerleistung ohne Weiteres gegeben (vgl. <ref-ruling> Erw. 1c mit Hinweis).
5. Lag zum Zeitpunkt der ursprünglichen Rentenverfügung keine rechtsgenügliche Beurteilung der Arbeitsfähigkeit vor (E. 4), und lassen die vorhandenen Akten auch keine Rückschlüsse auf die zum Zeitpunkt der Rentenrevision vorhandene Leistungsfähigkeit des Beschwerdegegners in einer zumutbaren Verweisungstätigkeit zu (die Berichte zu jenem Zeitpunkt nehmen nur hinsichtlich der Beschwerden am rechten Fuss Stellung; siehe dazu E. 3.1), ist die Sache an die Beschwerdeführerin zurückzuweisen, damit sie den Gesundheitszustand und die Arbeitsfähigkeit umfassend (nicht nur hinsichtlich der Unfallfolgen, wie dies die Kreisärzte taten) von einem sachverständigen Facharzt abklären lasse und anschliessend über den Rentenanspruch ab 1. Februar 2007 revisions- oder wiedererwägungsweise neu verfüge.
6. Es bleibt festzuhalten, dass der allenfalls zur Wiedererwägung führende Fehler bei der Beurteilung eines spezifisch IV-rechtlichen Gesichtspunktes unterlaufen ist (vgl. <ref-law>). Aus diesem Grund und mangels Meldepflichtverletzung wirkt die Wiedererwägung ex nunc et pro futuro; sie zieht demnach nicht die Pflicht zur Rückerstattung der von der Invalidenversicherung zu Unrecht bezogenen Leistung nach sich (vgl. <ref-law> in Verbindung mit <ref-law> [je in Kraft gestanden bis 31. Dezember 2002]; seit 1. Januar 2003: <ref-law> in Verbindung mit <ref-law>; <ref-ruling> Erw. 2, 110 V 301 Erw. 2a).
7. Die Gerichtskosten werden dem unterliegenden Beschwerdegegner auferlegt (<ref-law>). Gleichzeitig wird ihm die unentgeltliche Rechtspflege (Prozessführung und Verbeiständung; <ref-law>) gewährt, da die hiefür erforderlichen Voraussetzungen (Bedürftigkeit, Gebotenheit einer Verbeiständung) gegeben sind (<ref-ruling> E. 4a S. 202 und 371 E. 5b S. 372, je mit Hinweisen). Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird in dem Sinne gutgeheissen, dass der Entscheid des Sozialversicherungsgerichts Basel-Stadt vom 4. Oktober 2007 und die Verfügung der IV-Stelle Basel-Stadt vom 13. Dezember 2006 aufgehoben werden und die Sache an die IV-Stelle Basel-Stadt zurückgewiesen wird, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über den Rentenanspruch ab 1. Februar 2007 neu verfüge.
2. Dem Beschwerdegegner wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdegegner auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Advokat Dr. Heiner Schärrer, Basel, wird als unentgeltlicher Anwalt des Beschwerdegegners bestellt, und es wird ihm für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 1500.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht Basel-Stadt, der Ausgleichskasse Basel-Stadt und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 27. Juni 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer i.V. Amstutz