A.- Der 1965 geborene P._ war vom 1. Januar 1993 bis zu seiner Kündigung per Ende Januar 1994 als Lagerist bei der Firma X._ tätig und bei der ASGA Pensionskasse des Gewerbes (nachfolgend: ASGA) berufsvorsorgerechtlich versichert. Am 7. Januar 1994 meldete er sich unter Hinweis auf chronische Rückenschmerzen im Lendenwirbelbereich mit dem Begehren um berufliche Eingliederungsmassnahmen bei der Invalidenversicherung an. Nachdem die IV-Stelle des Kantons Zürich u.a. Berichte und Arztzeugnisse des Dr. med. W._, Spezialarzt FMH für Innere Medizin, vom 18. Januar 1994, des Dr. med.
V._, Spezialarzt FMH für Rheumatologie, vom 12. Januar und 11. Februar 1994 sowie des Dr. med. H._, Spezialarzt FMH für Psychiatrie und Psychotherapie, vom 7. Februar 1994 eingeholt und einen beruflichen Abklärungsbericht vom 24. Oktober 1994 veranlasst hatte, schrieb sie das Leistungsbegehren mit Beschluss vom 15. November 1994 als erledigt ab, da der Versicherte gemäss eigenen Angaben zur Zeit von beruflichen Massnahmen absehen wolle.
Am 20. April 1995 ersuchte P._ erneut um Zusprechung von Leistungen der Invalidenversicherung (berufliche Eingliederungsmassnahmen, Rente), wobei er auf seine ab dem 15. März 1994 ärztlich attestierte vollumfängliche Arbeitsunfähigkeit verwies. Die IV-Stelle zog ergänzend Berichte des Dr. med. H._ vom 17. Mai 1995 und des Dr. med. W._ vom 23. Mai 1995 bei. Gestützt darauf sprach sie dem Versicherten mit Verfügung vom 3. August 1995 ab 1. März 1994 eine ganze Invalidenrente auf der Basis einer Erwerbsunfähigkeit von 100 % zu.
B.- Am 2. Juni 2000 liess P._ Klage gegen die ASGA erheben mit dem Antrag, die Vorsorgeeinrichtung sei zu verpflichten, ihm ab 1. Juni 1995 eine volle Invalidenrente auszurichten, zuzüglich 5 % Verzugszins ab 3. Juni 2000.
Mit Entscheid vom 22. Mai 2001 wies das Sozialversicherungsgericht des Kantons Zürich die Rechtsvorkehr ab.
C.- P._ lässt Verwaltungsgerichtsbeschwerde führen und sein vorinstanzlich gestelltes Rechtsbegehren erneuern. Ferner ersucht er um Gewährung der unentgeltlichen Verbeiständung.
Während die ASGA auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen lässt, enthält sich das Bundesamt für Sozialversicherung einer Stellungnahme zur Sache.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Die Vorinstanz hat die Bestimmungen und Grundsätze über den Anspruch auf Invalidenleistungen der obligatorischen beruflichen Vorsorge (Art. 23 und 24 Abs. 1 BVG), das für die Leistungspflicht der ehemaligen Vorsorgeeinrichtung massgebende Erfordernis des engen sachlichen und zeitlichen Zusammenhanges zwischen Arbeitsunfähigkeit und Invalidität (<ref-ruling> Erw. 1c, 120 V 117 f. Erw. 2c/aa und bb mit Hinweisen) sowie die Verbindlichkeit der Beschlüsse der Organe der Invalidenversicherung für die Einrichtungen der beruflichen Vorsorge (<ref-ruling> Erw. 2a, 120 V 108 f. Erw. 3c, je mit Hinweisen; vgl. auch <ref-ruling> Erw. 1) zutreffend wiedergegeben. Darauf wird verwiesen.
Zu ergänzen ist, dass ein enger sachlicher Zusammenhang vorliegt, wenn der der Invalidität zu Grunde liegende Gesundheitsschaden im Wesentlichen derselbe ist, der zur Arbeitsunfähigkeit geführt hat (<ref-ruling> f. Erw. 1c, 120 V 117 f. Erw. 2c/aa und bb mit Hinweisen), und dass für den Beginn des Anspruchs auf Invalidenleistungen sinngemäss die entsprechenden Bestimmungen des IVG (<ref-law>) gelten (Art. 26 BVG).
b) Die Invalidenleistungen nach BVG werden von derjenigen Vorsorgeeinrichtung geschuldet, welcher die den Anspruch erhebende Person bei Eintritt des versicherten Ereignisses angeschlossen war. Im Bereich der obligatorischen beruflichen Vorsorge fällt dieser Zeitpunkt nicht mit dem Eintritt der Invalidität nach IVG, sondern mit dem Eintritt der Arbeitsunfähigkeit zusammen, deren Ursache zur Invalidität geführt hat (vgl. Art. 23 BVG). Auf diese Weise wird dem Umstand Rechnung getragen, dass die versicherte Person meistens erst nach einer längeren Zeit der Arbeitsunfähigkeit (nach einer Wartezeit von einem Jahr gemäss <ref-law> in Verbindung mit Art. 26 BVG) invalid wird. Damit nämlich der durch die zweite Säule bezweckte Schutz zum Tragen kommt, muss das Invaliditätsrisiko auch dann gedeckt sein, wenn es rechtlich gesehen erst nach einer langen Krankheit eintritt, während welcher die Person unter Umständen aus dem Arbeitsverhältnis ausgeschieden ist und daher nicht mehr dem Obligatorium unterstanden hat (<ref-ruling> Erw. 1b, 121 V 101 Erw. 2a, 120 V 116 Erw. 2b, je mit Hinweisen). Der Zeitpunkt des Eintritts der massgebenden Arbeitsunfähigkeit muss indes hinlänglich ausgewiesen sein. Wenn im Arbeitsvertragsrecht bereits eine Arbeitsunfähigkeit des Arbeitnehmers von wenigen Tagen durch ein ärztliches Zeugnis oder auf andere Weise bewiesen werden muss, darf hinsichtlich des erwähnten Eintritts der berufsvorsorgerechtlich relevanten Arbeitsunfähigkeit mit viel weitreichenderen Folgen (lebenslange Rentenleistungen, etc.) auf einen hinreichend klaren Nachweis nicht verzichtet werden. Er darf nicht durch spekulative Annahmen und Überlegungen ersetzt werden, sondern hat nach dem im Sozialversicherungsrecht üblichen Beweisgrad der überwiegenden Wahrscheinlichkeit (<ref-ruling> Erw. 5b mit Hinweisen) zu erfolgen (zum Ganzen: Urteil B. vom 22. Februar 2002, B 35/00).
2.- Streitig und zu prüfen ist der Anspruch des Beschwerdeführers auf eine Invalidenrente der Beschwerdegegnerin.
Ein solcher ist zu bejahen, wenn während der Anstellungsdauer bei der Firma X._ vom 1. Januar 1993 bis
31. Januar 1994 (bzw. bis Ende Februar 1994 gemäss der Nachdeckungsfrist von dreissig Tagen nach Auflösung des Arbeitsverhältnisses [Art. 10 Abs. 3 BVG in der bis 31. Dezember 1994 gültig gewesenen, hier anwendbaren Fassung]) eine relevante Arbeitsunfähigkeit eingetreten ist und zwischen dieser und der Invalidität, die den Anspruch auf eine Rente der Invalidenversicherung begründet, der erforderliche enge sachliche und zeitliche Zusammenhang gegeben ist.
3.- a) Der Beschwerdeführer war im Rahmen des interessierenden Arbeitsverhältnisses lediglich in der Zeit vom 14. bis 18. Oktober 1993 und vom 7. bis 31. Januar 1994 vollumfänglich arbeitsunfähig. Der Grund hierfür lag gemäss den Berichten der Dres. med. W._ vom 18. Januar 1994 und V._ vom 11. Februar 1994 in intermittierenden, belastungsabhängigen, lumbalen Rückenbeschwerden. Das unter Hinweis auf diesen Gesundheitsschaden mit Anmeldung vom 7. Januar 1994 in die Wege geleitete Verwaltungsverfahren wurde mit Beschluss vom 15. November 1994 eingestellt, da der Versicherte auf weitere Abklärungen im Hinblick auf berufliche Eingliederungsmassnahmen ausdrücklich verzichtet hatte.
b) Auf erneute Anmeldung vom 20. April 1995 hin holte die IV-Stelle u.a. einen Bericht des Dr. med. H._ vom 17. Mai 1995 ein, worin die zufolge einer schweren Persönlichkeitsstörung eingetretene Arbeitsunfähigkeit für die Zeit vom 15. März bis 19. Juni 1994 auf 100 %, vom 20. Juni bis 15. August 1994 auf 50 % sowie ab 16. August bis auf weiteres wiederum auf 100 % beziffert wurde. Mit Bericht vom 7. Februar 1994 hatte Dr. med. H._ zwar bereits die gleichen, seit längerer Zeit bestehenden Befunde erhoben, zum Leistungsvermögen des Versicherten indes (noch) festgehalten, dieses sei - obwohl immer wieder in Frage gestellt - aus psychischen Gründen nicht grundsätzlich und dauernd beeinträchtigt. Gestützt auf diese Angaben sprach die IV-Stelle dem Beschwerdeführer mit Verfügung vom 3. August 1995 eine ganze Invalidenrente zu, wobei der Rentenbeginn auf den 1. März 1994 festgesetzt wurde. Dieser Zeitpunkt erweist sich, wie bereits Vorinstanz und Beschwerdegegnerin erkannt haben - und wie auch der Beschwerdeführer mit Schreiben vom 4. November 1998 gegenüber der ASGA zugestanden hat -, im Lichte der medizinischen Akten als offensichtlich unrichtig und müsste korrekterweise die Eröffnung der einjährigen Wartezeit gemäss <ref-law> darstellen. Gleiches geht im Übrigen aus der Stellungnahme des IV-Arztes vom 15. Juni 1995, wonach als Beginn der Wartezeit ausdrücklich der 15. März 1994 genannt wird, und der Mitteilung der IV-Stelle vom 20. Juni 1995 hervor, in welcher von einem Invaliditätsgrad von 100 % ab dem 15. März 1994 die Rede ist. Im angefochtenen Entscheid wurde demnach zu Recht erwogen, dass der Beschwerdeführer aus dem Umstand der Rentenzusprechung durch die Invalidenversicherung mit Wirkung ab 1. März 1994 im vorliegenden Verfahren nichts zu seinen Gunsten ableiten kann. Insbesondere lässt die Tatsache des Rentenbeginns gerade keinen Rückschluss auf eine bereits ab März 1993 - und damit während des massgeblichen Arbeits- bzw. Vorsorgeverhältnisses - andauernde erhebliche Beeinträchtigung der Arbeitsfähigkeit zu.
4.- a) Den ärztlichen Unterlagen, namentlich den Berichten der Dres. med. H._ vom 17. und W._ vom 23. Mai 1995, ist zu entnehmen, dass die Gewährung der ganzen Rente durch die Invalidenversicherung auf der schweren psychischen Erkrankung des Beschwerdeführers bzw. der damit einhergehenden - entgegen den Vorbringen des Beschwerdeführers erst ab dem 15. März 1994 in hinreichendem Masse ausgewiesenen (vgl. Erw. 1b in fine hievor) - Arbeits- und Erwerbsunfähigkeit beruht. Seine Kündigung gegenüber der Firma X._ begründete der Versicherte in seinem Schreiben vom 30. Dezember 1993 indessen ausschliesslich mit chronischen Rückenschmerzen im Lendenwirbelbereich (Scheuermann, extremes Hohlkreuz), welche in der Folge denn auch - wie zuvor dargelegt - im ersten Gesuch um IV-Leistungen anfangs 1994 als einzige Behinderung genannt wurden. Soweit der Beschwerdeführer bereits während seiner Anstellung bei der Firma X._ und somit unter dem Versicherungsschutz der Beschwerdegegnerin arbeitsunfähig war (vgl. Erw. 3a hievor), lag dieser Leistungsverminderung nach dem Gesagten eine Beeinträchtigung der Lendenwirbelsäule zu Grunde. Dabei handelt es sich offenkundig nicht um dieselbe Gesundheitsschädigung, die in Form einer psychischen Erkrankung letztendlich zur Invalidität geführt hat, zumal der Beschwerdeführer aus rheumatologischer Sicht in einer leichten körperlichen Tätigkeit weiterhin durchaus arbeitsfähig wäre. Ein enger sachlicher Zusammenhang im Sinne der Rechtsprechung ist mithin zu verneinen.
b) Nicht gefolgt werden kann ferner auch dem Einwand in der Verwaltungsgerichtsbeschwerde, zwischen dem rein körperlichen (Rücken-)Leiden und dem psychischen Gesundheitsschaden des Versicherten bestehe ein derart enger, unauflöslicher Zusammenhang, dass die beiden Krankheitsbilder nicht getrennt voneinander beurteilt werden dürften. Aus den Akten ergeben sich keinerlei Hinweise für eine Wechselwirkung in diesem Sinne. Vielmehr stellte Dr. med.
H._ in seinem Bericht vom 17. Mai 1995 die Diagnose einer schwerst neurotisch gestörten Persönlichkeit (selbstunsichere Persönlichkeit) mit zwanghaften Zügen, massiver Somatisierungstendenz, Tranquilizer-Abhängigkeit sowie Rückfällen in Heroin- und Alkoholkonsum. Es ist nicht ersichtlich und wird auch nicht näher dargelegt, inwiefern diese Befunde in einem engen Zusammenhang mit den vom Versicherten geklagten Rückenschmerzen stehen sollten.
Da der der Invalidität zu Grunde liegende psychische Gesundheitsschaden somit in keiner wie auch immer gearteten Verbindung zu der bis Ende Januar 1994 auf Grund des Rückenleidens eingetretenen Arbeitsunfähigkeit steht, vermag auch das vom Beschwerdeführer angeführte Argument, zwischen den Arbeitsunfähigkeitsperioden habe lediglich ein kurzer Unterbruch von 1 1/2 Monaten gelegen, welcher rechtsprechungsgemäss nicht genüge, den zeitlichen Kausalzusammenhang zwischen der ursprünglichen Beeinträchtigung des Leistungsvermögens und der resultierenden Invalidität in Frage zu stellen, am vorliegenden Ergebnis nichts zu ändern.
5.- Da es im vorliegenden Verfahren um Versicherungsleistungen geht, sind gemäss Art. 134 OG keine Gerichtskosten zu erheben. Dem Gesuch um unentgeltliche Verbeiständung kann stattgegeben werden (Art. 152 in Verbindung mit Art. 135 OG), da die Bedürftigkeit aktenkundig ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung geboten war (<ref-ruling> Erw. 4a und 372 Erw. 5b, je mit Hinweisen). Es wird indessen ausdrücklich auf Art. 152 Abs. 3 OG aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Zufolge Gewährung der unentgeltlichen Verbeiständung wird Rechtsanwältin Helena Böhler, Zürich, für das Verfahren vor dem Eidgenössischen Versicherungsgericht
aus der Gerichtskasse eine Entschädigung (einschliesslich
Mehrwertsteuer) von Fr. 2'500.-- ausgerichtet.
IV. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 24. Juni 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: