A.- Y._ (geboren 1945) war seit 12. Februar 1988 bei der Bauunternehmung X._ AG angestellt. Am 9. Juli 1992 erlitt er während der Arbeit einen Unfall. In der Folge richtete ihm die Schweizerische Unfallversicherungsanstalt (nachfolgend: SUVA) Taggelder und ab 1. Dezember 1994 eine Rente bei einem Invaliditätsgrad von 25 % aus (Verfügung vom 18. November 1994, bestätigt mit Einspracheentscheid vom 30. Januar 1996). Die IV-Stelle des Kantons Zürich sprach ihm ab 1. September 1993 eine ganze Invalidenrente samt Zusatzrenten für die Ehefrau und Kinder zu (Verfügung vom 7. April 1995). Mit Verfügung vom 26. April 1996 teilte ihm die IV-Stelle mit, dass sein Invaliditätsgrad nur noch 23 % betrage, und hob seine Invalidenrente samt Zusatzrenten auf. Die hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 24. Dezember 1998 gut und wies die Sache zu erneuter Abklärung und Neufestsetzung des Anspruchs auf eine Invalidenrente an die Verwaltung zurück. Die IV-Stelle sprach Y._ mit Beschluss vom 8. Februar 2000 weiterhin eine ganze Invalidenrente zu. Die BVG-Sammelstiftung der Rentenanstalt (nachfolgend: Stiftung), bei welcher Y._ durch seine Arbeitgeberin im Rahmen der beruflichen Vorsorge versichert war, teilte ihm mit Schreiben vom 4. Februar 1997 mit, dass er von 1. Dezember 1994 bis 31. Mai 1996 Anspruch auf Koordinationsleistungen von jährlich Fr. 15'389.-- habe. B.- Mit Klage vom 29. April 1997 beantragte Y._, die Stiftung sei zu verpflichten, ihm ab 1. Dezember 1994 eine höhere Invalidenrente und höhere Invalidenkinderrenten zuzüglich Zins sowie diese Renten über den 1. Juni 1996 hinaus zu bezahlen. Die am 8. Juli 1997 bis zum Vorliegen des Entscheids bezüglich der Rente der Invalidenversicherung verfügte Sistierung des Verfahrens wurde am 14. April 2000 aufgehoben. Mit Entscheid vom 31. Mai 2001 hiess das Sozialversicherungsgericht des Kantons Zürich die Klage teilweise gut und verpflichtete die Stiftung zur Bezahlung höherer Rentenbetreffnisse sowie einer Parteientschädigung von Fr. 4'500.--. C.- Y._ lässt Verwaltungsgerichtsbeschwerde führen und die Ausrichtung höherer Leistungen sowie einer ungekürzten Parteientschädigung beantragen. Zudem ersucht er um unentgeltliche Rechtspflege. Die Stiftung schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung.