A.- M._, geboren 1950, war als Maschinist/Baggerführer bei der Firma Q._ AG, Strassen- und Tiefbau, angestellt gewesen. Wegen rezidivierender Lumboischialgien war er vom 12. August bis 8. September 1996 und ab 9. Dezember 1996 arbeitsunfähig. Im Januar 1997 musste er sich einer Hemilaminektomie L4/5 und im Oktober 1997 einer Spondylodese L3-5 unterziehen. Abgesehen von einem rund einmonatigen Arbeitsversuch am bisherigen Arbeitsplatz im Juli/August 1997 ging er keiner Erwerbstätigkeit mehr nach. Am 16. März 1998 meldete er sich zum Leistungsbezug bei der Invalidenversicherung an. Die IV-Stelle des Kantons Zürich klärte die gesundheitlichen und erwerblichen Verhältnisse ab und beauftragte das Spital A._ (Rheumaklinik und Institut für Physikalische Medizin) mit einem Gutachten. In der am 13. März 1999 erstatteten Expertise gelangten die begutachtenden Ärzte zum Schluss, dass der Versicherte im bisherigen Beruf als Maschinist/Baggerführer zu 70 % in der Arbeitsfähigkeit eingeschränkt und für leichte bis mittelschwere Tätigkeiten ohne langdauernde monotone und statische Komponenten ganztags zu 100 % arbeitsfähig sei. Die IV-Stelle ermittelte einen Invaliditätsgrad von 40 % und sprach dem Versicherten am 18. November 1999 eine Viertelsrente ab 1. Dezember 1997 zu. Am 2. Dezember 1999 hob sie diese Verfügung wiedererwägungsweise auf. Gestützt auf eine Stellungnahme des IV-Arztes Dr. med. Z._ vom 21. Dezember 1999 und nach Erhalt eines vom Rechtsvertreter des Versicherten eingeholten Berichts des Spitals B._ vom 29. Februar 2000 erliess sie am 1. Juni 2000 eine neue Verfügung, mit welcher sie wiederum eine Viertelsrente ab 1. Dezember 1997 zusprach. B.- M._ liess beim Sozialversicherungsgericht des Kantons Zürich Beschwerde einreichen und beantragen, es sei ihm eine ganze Rente zuzusprechen. Nachdem das Gericht einen Antrag auf sofortige Anordnung einer Begutachtung durch die Rheuma- und Rehabilitationsklinik C._ abgelehnt hatte (Verfügung vom 6. Juli 2000), reichte der Versicherte Berichte dieser Klinik vom 7. und 26. September 2000, einen Bericht von Dr. med. Y._, Facharzt FMH für Orthopädische Chirurgie, vom 2. August 2001 sowie eine Verfügung der Invalidenversicherung vom 1. März 2002 ein, mit welcher ihm ab 1. Oktober 2000 eine ganze Rente zugesprochen wurde. Mit Entscheid vom 4. April 2002 wies das kantonale Gericht die Beschwerde ab. C.- M._ lässt Verwaltungsgerichtsbeschwerde führen mit dem Rechtsbegehren, in Aufhebung des angefochtenen Entscheids sei ihm eine ganze Invalidenrente ab 1. August 1997 zuzusprechen. Die IV-Stelle beantragt Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung lässt sich nicht vernehmen.