Sachverhalt: Sachverhalt: A. C._, geboren 1958, arbeitete zuletzt bis zur Auflösung seines Anstellungsverhältnisses am 31. Juli 1999 als Hausangestellter im Altersheim X._. Danach bezog er Leistungen der Arbeitslosenversicherung. Am 23. August 2000 liess er sich bei der Invalidenversicherung zum Leistungsbezug anmelden, worauf die IV-Stelle des Kantons Zürich je einen Bericht der Frau Dr. med. R._, FMH Physikalische Medizin, vom 4. September 2000, der Frau Dr. med. O._, Ärztin für Allgemeine Medizin FMH, vom 20. September 2000 sowie des ehemaligen Arbeitgebers vom 22. September 2000 einholte. Im Weiteren liess die IV-Stelle C._ durch das Ärztliche Begutachtungsinstitut Y._ polydisziplinär begutachten (Expertise vom 16. August 2001 mit rheumatologischen Gutachten und psychiatrischen Teilgutachten). Die IV-Stelle lehnte mit Verfügung vom 31. Oktober 2001 den Rentenanspruch ab, da für eine leidensangepasste Tätigkeit eine vollständige Arbeitsfähigkeit bestehe und ein rentenausschliessender Invaliditätsgrad von 36 % resultiere. A. C._, geboren 1958, arbeitete zuletzt bis zur Auflösung seines Anstellungsverhältnisses am 31. Juli 1999 als Hausangestellter im Altersheim X._. Danach bezog er Leistungen der Arbeitslosenversicherung. Am 23. August 2000 liess er sich bei der Invalidenversicherung zum Leistungsbezug anmelden, worauf die IV-Stelle des Kantons Zürich je einen Bericht der Frau Dr. med. R._, FMH Physikalische Medizin, vom 4. September 2000, der Frau Dr. med. O._, Ärztin für Allgemeine Medizin FMH, vom 20. September 2000 sowie des ehemaligen Arbeitgebers vom 22. September 2000 einholte. Im Weiteren liess die IV-Stelle C._ durch das Ärztliche Begutachtungsinstitut Y._ polydisziplinär begutachten (Expertise vom 16. August 2001 mit rheumatologischen Gutachten und psychiatrischen Teilgutachten). Die IV-Stelle lehnte mit Verfügung vom 31. Oktober 2001 den Rentenanspruch ab, da für eine leidensangepasste Tätigkeit eine vollständige Arbeitsfähigkeit bestehe und ein rentenausschliessender Invaliditätsgrad von 36 % resultiere. B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 26. September 2002 ab. B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 26. September 2002 ab. C. C._ lässt Verwaltungsgerichtsbeschwerde führen mit den Anträgen, unter Aufhebung des vorinstanzlichen Entscheides und der Verwaltungsverfügung sei die Sache zur neuen Verfügung an die IV-Stelle zurückzuweisen und es sei ihm eine Parteientschädigung für das letzt- und vorinstanzliche Verfahren auszurichten; ferner lässt er die Gewährung der unentgeltlichen Verbeiständung beantragen. Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Vernehmlassung verzichtet.