Sachverhalt:
A. Der 1956 geborene I._ meldete sich am 23. Oktober 2006 bei der Invalidenversicherung zum Leistungsbezug an. Gestützt auf medizinische und erwerbliche Abklärungen sowie ein Gutachten des Zentrums X._ vom 20. Juli 2008 lehnte die IV-Stelle des Kantons Zürich das Leistungsgesuch des Versicherten am 28. Januar 2009 verfügungsweise ab.
B. I._ liess Beschwerde führen mit dem Antrag, unter Aufhebung der Verwaltungsverfügung sei die Sache zu ergänzenden Abklärungen und neuer Entscheidung an die IV-Stelle zurückzuweisen; eventuell sei ihm eine halbe Invalidenrente zuzusprechen. Mit Entscheid vom 29. Juni 2010 wies das Sozialversicherungsgericht des Kantons Zürich die Beschwerde ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt der Versicherte die vorinstanzlich gestellten Rechtsbegehren um Rückweisung der Sache zu ergänzenden Abklärungen, eventuell Zusprechung einer halben Invalidenrente rückwirkend ab 1. Juni 2006, erneuern; subeventuell sei die halbe Rente bis 30. September 2008 zu befristen. Ferner ersucht er um die Bewilligung der unentgeltlichen Prozessführung und Verbeiständung.
D. Nachträglich reicht der Versicherte zwei ärztliche Zeugnisse vom 1. und 8. September 2010 ein.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2. 2.1 In einlässlicher Würdigung der medizinischen Unterlagen über zahlreiche Untersuchungen in somatischer und psychischer Hinsicht, insbesondere des von der IV-Stelle in Auftrag gegebenen Gutachtens des Zentrums X._ vom 20. Juli 2008 sowie einer ergänzenden Stellungnahme der Experten vom 21. Oktober 2008, gelangte die Vorinstanz zum Schluss, dass die gesundheitlichen Beeinträchtigungen des Beschwerdeführers sowohl im Begutachtungszeitpunkt als auch bei Ablauf der einjährigen Wartezeit im Juni 2006 nicht von invaliditätsbegründender Intensität gewesen seien.
2.2 Der Beschwerdeführer wendet gegen die Auffassung des kantonalen Gerichts namentlich ein, das Gutachten des Zentrums X._ enthalte Ungereimtheiten, was den Schweregrad der diagnostizierten Depression betrifft. So sei der behandelnde Psychiater med. pract. P._, Winterthur, noch Ende September 2006 von einem mittelschweren depressiven Syndrom mit hälftiger Arbeitsunfähigkeit ausgegangen. Indem die Vorinstanz diese fachärztliche Stellungnahme übersehen hat, habe sie die Beweise willkürlich gewürdigt.
Des weiteren kritisiert der Versicherte, dass der Psychiater des Zentrums X._ keine Fremdanamnesen eingeholt habe. Entsprechend seinem bei der Verwaltung gestellten Beweisantrag wären IV-Stelle und Vorinstanz gehalten gewesen, im Rahmen des Untersuchungsgrundsatzes bei med. pract. P._ ein Attest zum Arbeitsunfähigkeitsgrad einzuholen. Sodann sei die Beurteilung der Depression durch das Zentrum X._ auch deshalb fraglich, weil den Gutachtern über den Zeitraum von März 2007 bis zum Untersuchungszeitpunkt im Zentrum X._ (Mai 2008) keine Berichte vorgelegen hätten.
3. 3.1 Die Vorbringen des Beschwerdeführers sind, soweit erheblich, nicht geeignet, die für das Bundesgericht verbindlichen tatsächlichen Feststellungen der Vorinstanz (E. 1 hievor) als offensichtlich unrichtig oder sonstwie bundesrechtswidrig erscheinen zulassen. Seine Ausführungen erschöpfen sich in weiten Teilen in einer unzulässigen, appellatorischen Kritik an der Beweiswürdigung des Sozialversicherungsgerichts, mit welcher er sich in tatsächlicher Hinsicht auseinander setzt.
Die Frage, ob medizinische Gutachter, welche über die vollständigen Akten verfügen, eine Fremdanamnese einholen oder nicht, liegt in deren Ermessen und ist tatsächlicher Natur, weshalb sich das Bundesgericht nicht damit zu befassen hat. Was den Schweregrad der fachärztlich diagnostizierten Depression betrifft, hat das kantonale Gericht gestützt auf die Expertise des Zentrums X._ seine Sichtweise begründet. Dass diese Sachverhaltsfeststellung offensichtlich unrichtig sein soll, ist nicht zu erkennen, zumal sich der Beschwerdeführer allein auf einen früheren Bericht des behandelnden Psychiaters med. pract. P._, Winterthur, vom 27. September 2006 und die darin attestierte Arbeitsunfähigkeit von 50 % beruft, wogegen das Administrativgutachten des Zentrums X._ vom 20. Juli 2008 auf wesentlich aktuelleren Untersuchungen (vom 6. und 7. Mai 2008) beruht, die überdies näher beim für die gerichtliche Überprüfung massgebenden Verfügungszeitpunkt (28. Januar 2009) liegen. Der Umstand, dass die Vorinstanz den Bericht des med. pract. P._ vom 27. September 2006 zwar zitiert, sich damit jedoch nicht eingehend auseinandergesetzt hat, lässt nicht auf willkürliche Beweiswürdigung schliessen; denn der Psychiater des Zentrums X._, auf den sich das Sozialversicherungsgericht stützt und auf dessen Darlegungen es Bezug nimmt, hat sich ausführlich in einer zusätzlichen Stellungnahme von 21. Oktober 2008 mit diesem Einwand befasst. Entgegen der Ansicht des Beschwerdeführers bestand für die Vorinstanz keine Verpflichtung, bei med. pract. P._ eine Bescheinigung zur Arbeitsunfähigkeit einzuholen, nachdem das Zentrum X._ in zusammenfassender Wertung der erhobenen Befunde festgehalten hatte, der Versicherte sei aus polydisziplinärer Sicht sowohl in der bisherigen Tätigkeit als auch für jede leichte bis mittelschwere Verweisungstätigkeit zu 100 % arbeitsfähig. Schliesslich trifft es zwar zu, dass für die Periode zwischen März 2007 und Mai 2008 ärztliche Unterlagen fehlen, wie die Vorinstanz festgestellt hat; inwiefern deswegen der Expertise die Beweiskraft abgehen könnte, wie der Beschwerdeführer offenbar annimmt, ist jedoch nicht ersichtlich.
3.2 Der Eventualantrag auf Zusprechung einer halben Invalidenrente ab 1. Juni 2006 ist unbegründet, wie das kantonale Gericht, auf dessen Erwägungen verwiesen wird, zutreffend festgehalten hat.
3.3 Die letztinstanzlich neu eingereichten Arztzeugnisse der med. pract. U._ vom 1. September 2010 und M._ vom 8. September 2010 können schon deshalb nicht in die Beurteilung mit einbezogen werden, weil sie nicht den für die gerichtliche Überprüfung massgebenden Zeitraum bis Verfügungserlass (28. Januar 2009) betreffen (<ref-ruling> E. 1 S. 467).
3.4 Bei voller Arbeitsfähigkeit in einer leichten oder mittelschweren Erwerbstätigkeit liegt keine Invalidität vor, und es besteht kein Rentenanspruch.
4. Dem Gesuch um unentgeltliche Rechtspflege ist stattzugeben, da die gesetzlichen Voraussetzungen im Sinne eines Grenzfalles als erfüllt betrachtet werden können (Art. 64 Abs. 1 und 2 BGG). Der Beschwerdeführer wird jedoch auf <ref-law> aufmerksam gemacht. Danach hat er der Gerichtskasse Ersatz zu leisten, wenn er später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Rechtsanwalt Stephan Kübler wird aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 19. Oktober 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Widmer