Sachverhalt:
Sachverhalt:
A. C._, geboren 1958, arbeitete zuletzt bis zur Auflösung seines Anstellungsverhältnisses am 31. Juli 1999 als Hausangestellter im Altersheim X._. Danach bezog er Leistungen der Arbeitslosenversicherung. Am 23. August 2000 liess er sich bei der Invalidenversicherung zum Leistungsbezug anmelden, worauf die IV-Stelle des Kantons Zürich je einen Bericht der Frau Dr. med. R._, FMH Physikalische Medizin, vom 4. September 2000, der Frau Dr. med. O._, Ärztin für Allgemeine Medizin FMH, vom 20. September 2000 sowie des ehemaligen Arbeitgebers vom 22. September 2000 einholte. Im Weiteren liess die IV-Stelle C._ durch das Ärztliche Begutachtungsinstitut Y._ polydisziplinär begutachten (Expertise vom 16. August 2001 mit rheumatologischen Gutachten und psychiatrischen Teilgutachten). Die IV-Stelle lehnte mit Verfügung vom 31. Oktober 2001 den Rentenanspruch ab, da für eine leidensangepasste Tätigkeit eine vollständige Arbeitsfähigkeit bestehe und ein rentenausschliessender Invaliditätsgrad von 36 % resultiere.
A. C._, geboren 1958, arbeitete zuletzt bis zur Auflösung seines Anstellungsverhältnisses am 31. Juli 1999 als Hausangestellter im Altersheim X._. Danach bezog er Leistungen der Arbeitslosenversicherung. Am 23. August 2000 liess er sich bei der Invalidenversicherung zum Leistungsbezug anmelden, worauf die IV-Stelle des Kantons Zürich je einen Bericht der Frau Dr. med. R._, FMH Physikalische Medizin, vom 4. September 2000, der Frau Dr. med. O._, Ärztin für Allgemeine Medizin FMH, vom 20. September 2000 sowie des ehemaligen Arbeitgebers vom 22. September 2000 einholte. Im Weiteren liess die IV-Stelle C._ durch das Ärztliche Begutachtungsinstitut Y._ polydisziplinär begutachten (Expertise vom 16. August 2001 mit rheumatologischen Gutachten und psychiatrischen Teilgutachten). Die IV-Stelle lehnte mit Verfügung vom 31. Oktober 2001 den Rentenanspruch ab, da für eine leidensangepasste Tätigkeit eine vollständige Arbeitsfähigkeit bestehe und ein rentenausschliessender Invaliditätsgrad von 36 % resultiere.
B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 26. September 2002 ab.
B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 26. September 2002 ab.
C. C._ lässt Verwaltungsgerichtsbeschwerde führen mit den Anträgen, unter Aufhebung des vorinstanzlichen Entscheides und der Verwaltungsverfügung sei die Sache zur neuen Verfügung an die IV-Stelle zurückzuweisen und es sei ihm eine Parteientschädigung für das letzt- und vorinstanzliche Verfahren auszurichten; ferner lässt er die Gewährung der unentgeltlichen Verbeiständung beantragen.
Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während das Bundesamt für Sozialversicherung auf eine Vernehmlassung verzichtet.

Das Eidg. Versicherungsgericht zieht in Erwägung:
Das Eidg. Versicherungsgericht zieht in Erwägung:
1. Am 1. Januar 2003 ist das Bundesgesetz über den Allgemeinen Teil des Sozialversicherungsrechts (ATSG) vom 6. Oktober 2000 in Kraft getreten. Mit ihm sind zahlreiche Bestimmungen im Invalidenversicherungsbereich geändert worden. Weil in zeitlicher Hinsicht grundsätzlich diejenigen Rechtssätze massgebend sind, die bei der Erfüllung des zu Rechtsfolgen führenden Tatbestandes Geltung haben (<ref-ruling> Erw. 1), und weil ferner das Sozialversicherungsgericht bei der Beurteilung eines Falles grundsätzlich auf den bis zum Zeitpunkt des Erlasses der streitigen Verfügung (hier: 31. Oktober 2001) eingetretenen Sachverhalt abstellt (<ref-ruling> Erw. 1b), sind im vorliegenden Fall die bis zum 31. Dezember 2002 geltenden Bestimmungen anwendbar.
1. Am 1. Januar 2003 ist das Bundesgesetz über den Allgemeinen Teil des Sozialversicherungsrechts (ATSG) vom 6. Oktober 2000 in Kraft getreten. Mit ihm sind zahlreiche Bestimmungen im Invalidenversicherungsbereich geändert worden. Weil in zeitlicher Hinsicht grundsätzlich diejenigen Rechtssätze massgebend sind, die bei der Erfüllung des zu Rechtsfolgen führenden Tatbestandes Geltung haben (<ref-ruling> Erw. 1), und weil ferner das Sozialversicherungsgericht bei der Beurteilung eines Falles grundsätzlich auf den bis zum Zeitpunkt des Erlasses der streitigen Verfügung (hier: 31. Oktober 2001) eingetretenen Sachverhalt abstellt (<ref-ruling> Erw. 1b), sind im vorliegenden Fall die bis zum 31. Dezember 2002 geltenden Bestimmungen anwendbar.
2. Die Vorinstanz hat den Begriff der Invalidität (<ref-law>), die Bestimmungen über die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG) sowie die Bemessung des Invaliditätsgrades bei Erwerbstätigen anhand des Einkommensvergleichs (<ref-law>) zutreffend dargelegt. Darauf wird verwiesen.
2. Die Vorinstanz hat den Begriff der Invalidität (<ref-law>), die Bestimmungen über die Voraussetzungen und den Umfang des Rentenanspruchs (Art. 28 Abs. 1 und 1bis IVG) sowie die Bemessung des Invaliditätsgrades bei Erwerbstätigen anhand des Einkommensvergleichs (<ref-law>) zutreffend dargelegt. Darauf wird verwiesen.
3. Streitig ist der Invaliditätsgrad und in diesem Rahmen der Umfang der Arbeitsfähigkeit und die beim Einkommensvergleich zu berücksichtigende Höhe des Einkommens nach Eintritt des Gesundheitsschadens (Invalideneinkommen). Zu Recht nicht umstritten ist dagegen die - anhand des zuletzt erzielten und der Lohnentwicklung angepassten Lohnes festgesetzte - Höhe des Einkommens ohne Invalidität von Fr. 76'173.- (Valideneinkommen).
3.1 Das kantonale Gericht hat auf das Gutachten des Ärztlichen Begutachtungsinstituts Y._ vom 16. August 2001 abgestellt, eine vollständige Arbeitsfähigkeit in einer leidensangepassten Tätigkeit angenommen und das Invalideneinkommen gestützt auf die vom Bundesamt für Statistik herausgegebene Schweizerische Lohnstrukturerhebung festgesetzt, wobei es einen leidensbedingten Abzug von 15 % berücksichtigt hat; das dermassen festgesetzte hypothetischen Einkommen beträgt Fr. 47'264.-.
Der Beschwerdeführer wendet ein, dass keine konkret zumutbare Tätigkeit dargetan sei, sodass eine vollständige Erwerbsunfähigkeit resultiere; im Weiteren sei die Verwertung der Restarbeitsfähigkeit im Einzelfall zu prüfen, was durch den Beizug statistischer Lohnangaben nicht gemacht worden sei; ein hypothetisches Einkommen könne zudem nur angerechnet werden, wenn eine Verletzung der Schadenminderungspflicht vorliege, was hier indessen nicht der Fall sei. Von einem Invalideneinkommen von Fr. 4000.- pro Monat auszugehen, sei vollkommen unrealistisch; jedenfalls habe die IV-Stelle den ihr obliegenden Beweis nicht erbracht, dass zumutbare Stellen mit diesem Lohn auf dem ausgeglichenen Arbeitsmarkt zur Verfügung stünden. Der Beizug von statistischen Durchschnittslöhnen sei ohnehin problematisch, da auch viele gesunde Arbeitnehmer weniger verdienten; im Übrigen sei die Zugrundelegung des durchschnittlichen Totals der Lohnstrukturerhebung willkürlich, wenn schon, sei vom unteren Rand der jeweiligen Durchschnittseinkommen auszugehen.
3.2 Vorab ist die Frage der Arbeitsfähigkeit zu prüfen. In dieser Hinsicht geht das Ärztliche Begutachtungsinstitut Y._ im Gutachten vom 16. August 2001 für körperlich schwer belastende Tätigkeiten von einer Arbeitsfähigkeit von 0 %, für wechselbelastende mittelschwere Tätigkeiten von 50 % und für wechselbelastende leichte Tätigkeiten von 100 % aus; zu vermeiden seien das Heben und Tragen von Lasten, die Einhaltung einer fixierten Körperposition über längere Zeit, die Durchführung repetitiver Bewegungsmuster (insbesondere repetitive Überkopfarbeiten mit dem rechten Arm), die Zurücklegung längerer Strecken und das Treppensteigen. Das polydisziplinäre Gutachten ist für die streitigen Belange umfassend, beruht auf allseitigen Untersuchungen, berücksichtigt die geklagten Beschwerden und ist in Kenntnis der Vorakten abgegeben worden; zudem ist es in der Beurteilung der medizinischen Zusammenhänge sowie der medizinischen Situation einleuchtend und enthält begründete Schlussfolgerungen (<ref-ruling> Erw. 3a). Der Bericht der Frau Dr. med. O._ vom 20. September 2000, in welchem von einer Arbeitsfähigkeit für psychisch nicht belastende, leichtere Tätigkeiten ausgegangen wird, spricht nicht gegen die Zuverlässigkeit der Expertise des Ärztlichen Begutachtungsinstituts Y._ (vgl. <ref-ruling> Erw. 3b/bb), da sie nach ihren eigenen Angaben den Beschwerdeführer nicht sehr gut kennt, weil er nur unregelmässig in der Praxis erscheint. Zudem geht sie von einer depressiven Entwicklung des Patienten aus, wogegen das Ärztliche Begutachtungsinstitut Y._ einzig eine leichte Anpassungsstörung ohne Einfluss auf die Arbeitsfähigkeit diagnostiziert hat. Auch aus dem Bericht der Frau Dr. med. R._ vom 4. September 2000 kann der Versicherte nichts zu seinen Gunsten ableiten, da diese Ärztin die psychische Entwicklung in ihre Einschätzung der Arbeitsfähigkeit einbezieht.
Damit ist von einer vollständigen Arbeitsfähigkeit in einer leidensangepassten leichten Tätigkeit auszugehen.
3.3 In einem nächsten Schritt ist zu entscheiden, ob der Beschwerdeführer diese Restarbeitsfähigkeit (Erw. 3.2) erwerblich umzusetzen vermag. Referenzpunkt für diese Verwertung ist der hypothetische ausgeglichene Arbeitsmarkt (<ref-law>). Nach der Rechtsprechung handelt es sich dabei um einen theoretischen und abstrakten Begriff, der dazu dient, den Leistungsbereich der Invalidenversicherung von demjenigen der Arbeitslosenversicherung abzugrenzen. Der Begriff umschliesst einerseits ein bestimmtes Gleichgewicht zwischen dem Angebot von und der Nachfrage nach Stellen; anderseits bezeichnet er einen Arbeitsmarkt, der von seiner Struktur her einen Fächer verschiedenartiger Stellen offen hält und zwar sowohl bezüglich der dafür verlangten beruflichen und intellektuellen Voraussetzungen wie auch hinsichtlich des körperlichen Einsatzes; Letzteres gilt auch im Bereich der un- und angelernten Arbeitnehmer. Nach diesen Gesichtspunkten bestimmt sich im Einzelfall, ob die invalide Person die Möglichkeit hat, ihre restliche Erwerbsfähigkeit zu verwerten und ob sie ein rentenausschliessendes Einkommen zu erzielen vermag oder nicht (<ref-ruling> Erw. 4b; ZAK 1991 S. 320 f. Erw. 3b). Daraus folgt, dass für die Invaliditätsbemessung nicht darauf abzustellen ist, ob ein Invalider unter den konkreten Arbeitsmarktverhältnissen vermittelt werden kann, sondern einzig darauf, ob er die ihm verbliebene Arbeitskraft noch wirtschaftlich nutzen könnte, wenn die verfügbaren Arbeitsplätze dem Angebot an Arbeitskräften entsprechen würden (AHI 1998 S. 291).
Für den Beschwerdeführer stehen - trotz seiner gesundheitlichen Einschränkungen - auf diesem hypothetischen ausgeglichenen Arbeitsmarkt genügend leichte Hilfs-, Kontroll- und Überwachungstätigkeiten offen, sodass nicht von realitätsfremden und in diesem Sinne unmöglichen oder unzumutbaren Einsatzmöglichkeiten ausgegangen wird. Denn die zumutbare Tätigkeit ist vorliegend nicht nur in so eingeschränkter Form möglich, dass sie der allgemeine Arbeitsmarkt praktisch nicht kennt oder nur unter nicht realistischem Entgegenkommen eines durchschnittlichen Arbeitgebers ausgeübt werden kann (ZAK 1989 S. 322 Erw. 4a). Die Kritik in der Verwaltungsgerichtsbeschwerde verkennt den rein hypothetischen Charakter des ausgeglichenen Arbeitsmarktes, an dem festzuhalten ist, weil nur so die Risiken Arbeitslosigkeit und Invalidität voneinander abgegrenzt werden können. So geht es beim als ausgeglichen unterstellten Arbeitsmarkt nicht um reale, geschweige denn offene Stellen, sondern um (gesundheitlich zumutbare) Beschäftigungsmöglichkeiten, welche der Arbeitsmarkt von seiner Struktur her, jedoch abstrahiert von den konjunkturellen Verhältnissen, umfasst (nicht veröffentlichtes Urteil B. vom 29. September 1993, I 436/92). Entgegen der Auffassung in der Verwaltungsgerichtsbeschwerde wird mit diesem Begriff auch nicht - im Sinne eines Vorwurfes an den Versicherten - unterstellt, ein entsprechendes Einkommen erzielen zu können, "wenn man nur wolle". Vielmehr dient der Begriff des ausgeglichenen Arbeitsmarkts einzig zur Abgrenzung der Leistungsansprüche von Invaliden- und Arbeitslosenversicherung. So hat denn auch der Beschwerdeführer infolge dieser Trennung und der durch die von der Arbeitslosenversicherung angenommenen Vermittelbarkeit ohne weiteres Taggelder der Arbeitslosenversicherung beziehen können.
3.4 Da dem Beschwerdeführer die Verwertung seiner Restarbeitsfähigkeit auf dem ausgeglichenen Arbeitsmarkt zumutbar ist (vgl. Erw. 3.3 hievor) und kein tatsächlich erzieltes Einkommen vorliegt, ist auf statistische Angaben - wie die Schweizerische Lohnstrukturerhebung - abzustellen (<ref-ruling> Erw. 3b/bb), welche allein die Lohnsituation auf dem hypothetischen ausgeglichenen Arbeitsmarkt widerspiegeln können. Nach der Rechtsprechung (<ref-ruling> Erw. 3b/bb) ist dabei auf den Median der standardisierten Bruttolöhne abzustellen: Gemäss Tabelle A1 der Lohnstrukturerhebung 2000 beträgt der Zentralwert für die mit einfachen und repetitiven Tätigkeiten (Anforderungsniveau 4) im privaten Sektor bei einer wöchentlichen Arbeitszeit von 40 Stunden beschäftigten Männer monatlich Fr. 4437.- brutto. Dieser Betrag ist auf die betriebsübliche Wochenarbeitszeit von 41,7 Stunden im Jahre des Verfügungserlasses 2001 (Die Volkswirtschaft 7/2003 S. 90 Tabelle B9.2) aufzurechnen, was unter Berücksichtigung der Lohnentwicklung von 2,5 % für 2001 (Die Volkswirtschaft 7/2003 S. 91 Tabelle B10.2) zum Betrag von monatlich Fr. 4741.20 resp. jährlich Fr. 56'894.40 führt. Den vorhandenen Einschränkungen des Versicherten ist - übereinstimmend mit der Vorinstanz - mit einem behinderungsbedingten Abzug von 15 % Rechnung zu tragen (vgl. <ref-ruling> Erw. 5), was ein massgebendes jährliches Invalideneinkommen von Fr. 48'360.25 ergibt.
Die Kritik in der Verwaltungsgerichtsbeschwerde an der Verwendung statistischer Tabellenlöhne, insbesondere die Auffassung, dass die behinderungsbedingten Abzüge nicht auf 25 % zu begrenzen seien, ist unbegründet. Da auf einen - nicht real existierenden - hypothetischen ausgeglichenen Arbeitsmarkt abzustellen ist (vgl. Erw. 3.3 hievor), müssen die dort vorhandenen Stellen und die dabei zu erzielenden Löhne statistisch dargestellt werden. In diesem Rahmen ist auf ein möglichst breites Spektrum an Stellen zurückzugreifen, welches Gewähr dafür bietet, dass diverse Stellen mit unterschiedlichen Lohnsituationen dargestellt werden, sodass in der Regel der Medianwert massgebend ist. Da die Vorinstanz bei der Bemessung des Invalideneinkommens in Anwendung der Praxis des Eidgenössischen Versicherungsgerichtes auf die Angaben der Schweizerischen Lohnstrukturerhebung abgestellt hat, ist dies auch im Rahmen der Angemessenheitskontrolle gemäss Art. 132 lit. a OG nicht zu beanstanden.
3.5 Bei einem nicht bestrittenen Valideneinkommen von Fr. 76'173.- (Erw. 3 hievor) und einem Invalideneinkommen von Fr. 48'360.25 (Erw. 3.4 hievor) resultiert ein rentenausschliessender Invaliditätsgrad von 36,51 % oder gerundet 37 %.
3.5 Bei einem nicht bestrittenen Valideneinkommen von Fr. 76'173.- (Erw. 3 hievor) und einem Invalideneinkommen von Fr. 48'360.25 (Erw. 3.4 hievor) resultiert ein rentenausschliessender Invaliditätsgrad von 36,51 % oder gerundet 37 %.
4. Da es um Versicherungsleistungen geht, sind gemäss Art. 134 OG keine Gerichtskosten zu erheben.
Die unentgeltliche Verbeiständung kann gewährt werden (Art. 152 Verbindung mit Art. 135 OG), da die Bedürftigkeit aktenkundig ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung geboten war (<ref-ruling> Erw. 4a und 372 Erw. 5b, je mit Hinweisen). Es wird indessen ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Eidg. Versicherungsgericht:
Demnach erkennt das Eidg. Versicherungsgericht:
1. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
1. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
2. Es werden keine Gerichtskosten erhoben.
2. Es werden keine Gerichtskosten erhoben.
3. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwalt Christof Tschurr, Zürich, für das Verfahren vor dem Eidgenössischen Versicherungsgericht aus der Gerichtskasse eine Entschädigung von Fr. 2500.- (einschliesslich Mehrwertsteuer) ausgerichtet.
3. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwalt Christof Tschurr, Zürich, für das Verfahren vor dem Eidgenössischen Versicherungsgericht aus der Gerichtskasse eine Entschädigung von Fr. 2500.- (einschliesslich Mehrwertsteuer) ausgerichtet.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 16. Juli 2003
Im Namen des Eidgenössischen Versicherungsgerichts
Der Präsident der III. Kammer: Der Gerichtsschreiber: