A.- G._ (geboren 1940) war seit 1972 als selbstständiger Werbegrafiker tätig. 1991 gab er sein Geschäft aus gesundheitlichen Gründen auf. Er wurde von verschiedenen Ärzten untersucht, welche jedoch weder eine Diagnose stellen noch Arbeitsunfähigkeit attestieren konnten. Mit Anmeldung vom 20. November 1996 ersuchte er um eine Rente der Invalidenversicherung. Die IV-Stelle des Kantons Zürich teilte ihm mit Vorbescheid vom 20. Mai 1997 mit, dass keine Invalidität im Sinne des Gesetzes vorliege und sie sein Leistungsbegehren ablehnen werde. Auf Grund der Einwendungen von G._ holte die IV-Stelle weitere Arztberichte ein. Gestützt darauf sowie auf Berichte der Berufsberatung vom 2. Februar und 11. März 1998 stellte die IV-Stelle fest, dass er ab 1. Januar 1992 Anspruch auf eine ganze Invalidenrente habe, und sprach ihm diese infolge verspäteter Geltendmachung mit Wirkung ab 1. November 1995 zu (Verfügung vom 21. Juli 1998). B.- G._ liess hiegegen Beschwerde erheben mit den Anträgen, es sei die Verfügung vom 21. Juli 1998 aufzuheben und ihm eine ganze Invalidenrente ab 1. Januar 1992 zuzusprechen. Zudem ersuchte er um unentgeltliche Verbeiständung. Mit Entscheid vom 8. März 2000 wies das Sozialversicherungsgericht des Kantons Zürich seine Beschwerde ab. C.- Mit Verwaltungsgerichtsbeschwerde lässt G._ die vorinstanzlichen Begehren erneuern. Die IV-Stelle schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung hat sich nicht vernehmen lassen.