Sachverhalt: A. Der 1954 geborene M._ meldete sich am 13. Juli 2000 bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 5. Dezember 2001 sprach ihm die IV-Stelle des Kantons Zürich bei einem Invaliditätsgrad von 50% ab 1. April 2000 eine Rente der Invalidenversicherung (samt Zusatzrente für die Ehefrau und eine Kinderrente) zu. Nachdem M._ eine Verschlechterung des Gesundheitszustands geltend machen liess, gewährte ihm die IV-Stelle auf der Grundlage eines Invaliditätsgrads von 70% ab 1. Mai 2002 eine ganze Rente (Verfügung vom 24. Januar 2003). Im Rahmen eines im Dezember 2005 von Amtes wegen veranlassten Revisionsverfahrens holte die IV-Stelle bei Dr. med. A._, Orthopädische Chirurgie FMH/FMS, eine Expertise ein (datierend vom 21. April 2006) und hob gestützt darauf verfügungsweise am 27. Juni 2006 bei einem Invaliditätsgrad von 28% die Rente auf Ende des folgenden Monats auf. Daran hielt sie auf Einsprache hin fest (Einspracheentscheid vom 26. April 2007). B. Die von M._ hiegegen geführte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 18. Dezember 2008 ab. C. M._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, es sei ihm weiterhin eine Rente der Invalidenversicherung zuzusprechen; eventualiter sei die Streitsache zur Neuabklärung und zu neuer Entscheidung an die Vorinstanz zurückzuweisen. Ferner wird um unentgeltliche Rechtspflege ersucht.