A.- Der 1954 geborene S._ arbeitete vom 1. August 1989 bis zum 31. Dezember 1990 bei der Firma G._ AG und war dadurch bei deren Vorsorgeeinrichtung Y._ berufsvorsorgeversichert. Vom 1. Februar bis zum 30. September 1991 war er als Hilfsgärtner bei der Stadt Zürich angestellt und in dieser Eigenschaft bei der Versicherungskasse der Stadt Zürich versichert.
Wegen eines geistigen Gesundheitsschadens sprach die IV-Stelle des Kantons Zürich S._ mit Wirkung ab September 1992 eine ganze Invalidenrente zu (Verfügung vom 4. Juli 1994). Dabei ging sie von einer seit dem 9. September 1991 bestehenden Arbeitsunfähigkeit aus.
S._ ersuchte auch die städtische Versicherungskasse, ihm eine Invalidenrente auszurichten. Diese lehnte das Begehren am 27. September 1994 ab mit der sinngemässen Begründung, die zur Invalidität führende Arbeitsunfähigkeit sei bereits vor dem 1. Februar 1991 eingetreten, weshalb die Stadt keine Leistungspflicht treffe. Eine dagegen erhobene Einsprache wies der Finanzvorstand der Stadt Zürich mit Entscheid vom 8. August 1995 ab. Ein gleichlautendes Gesuch an die Vorsorgeeinrichtung Y._ lehnte diese mit Schreiben vom 18. September 1997 ab, weil die fragliche Arbeitsunfähigkeit gemäss den Akten der IV-Stelle erstmals und voraussichtlich bleibend am 9. September 1991 aufgetreten sei. Ein den Rentenbeginn betreffendes Wiedererwägungsgesuch hatte die IV-Stelle bereits am 11. April 1997 abgelehnt.
B.- S._ liess am 10. November 1997 Klage erheben mit dem Rechtsbegehren, die Versicherungskasse der Stadt Zürich, eventualiter die Vorsorgeeinrichtung Y._, sei zu verpflichten, ihm ab 1. September 1992 eine Rente zuzusprechen, zuzüglich 5 % Zins seit Einreichung der Klage. Mit Entscheid vom 22. Februar 2000 hiess das Sozialversicherungsgericht des Kantons Zürich die Klage gut und verpflichtete die Stadt Zürich als Rechtsträgerin ihrer Versicherungskasse, S._ unter Berücksichtigung der erbrachten Freizügigkeitsleistungen ab 1. September 1992 eine Invalidenrente auszurichten, zuzüglich 5 % Zins auf den aufgelaufenen Rentenbetreffnissen seit Einreichung der Klage.
C.- Mit Verwaltungsgerichtsbeschwerde lässt die Stadt Zürich beantragen, der vorinstanzliche Entscheid sei aufzuheben und es sei festzustellen, dass sie mit Ausnahme der bereits ausgerichteten Freizügigkeitsleistung zu keinerlei Leistungen gegenüber S._ verpflichtet sei.
Während S._ und das Bundesamt für Sozialversicherung auf eine Stellungnahme verzichten, schliesst die Vorsorgeeinrichtung Y._ auf Abweisung der Verwaltungsgerichtsbeschwerde.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Die vorliegende Streitigkeit unterliegt der Gerichtsbarkeit der in Art. 73 BVG erwähnten richterlichen Behörden, welche sowohl in zeitlicher als auch in sachlicher Hinsicht zuständig sind (<ref-ruling> Erw. 2, 120 V 18 Erw. 1a, je mit Hinweisen).
b) Im Rahmen von Art. 73 Abs. 4 BVG entscheidet sich die Frage der Überprüfungsbefugnis des Eidgenössischen Versicherungsgerichts danach, ob ein Streit um Versicherungsleistungen vorliegt (<ref-ruling> Erw. 2b). Geht es um Versicherungsleistungen, so erstreckt sich die Überprüfungsbefugnis des Eidgenössischen Versicherungsgerichts auch auf die Angemessenheit des angefochtenen Entscheides; das Gericht ist dabei nicht an die vorinstanzliche Feststellung des rechtserheblichen Sachverhalts gebunden und kann über die Begehren der Parteien zu deren Gunsten oder Ungunsten hinausgehen (Art. 132 OG; <ref-ruling> Erw. I/3a, 117 V 306 Erw. 1).
2.- a) Gemäss Art. 23 BVG haben Personen Anspruch auf Invalidenleistungen, die im Sinne der Invalidenversicherung zu mindestens 50 % invalid sind und bei Eintritt der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, versichert waren. Nach Art. 24 Abs. 1 BVG hat der Versicherte Anspruch auf eine volle Invalidenrente, wenn er im Sinne der Invalidenversicherung mindestens zu zwei Dritteln, und auf eine halbe Rente, wenn er mindestens zur Hälfte invalid ist. Für den Beginn des Anspruchs auf Invalidenleistungen gelten laut Art. 26 Abs. 1 BVG sinngemäss die entsprechenden Bestimmungen des Bundesgesetzes über die Invalidenversicherung (<ref-law>).
aa) Es entspricht dem klaren Willen des Gesetzgebers, dass die Versicherteneigenschaft als Leistungsvoraussetzung nicht erst im Zeitpunkt des Eintritts der Invalidität, sondern bereits beim Auftreten der für die Entstehung der Invalidität relevanten Arbeitsunfähigkeit gegeben sein muss.
Fehlt es hieran, lässt auch eine allfällige Versicherteneigenschaft im Zeitpunkt des Invaliditätseintritts keine Leistungsansprüche für einen vorbestandenen Gesundheitsschaden entstehen (<ref-ruling> Erw. 2c, 118 V 99 Erw. 2b, 117 V 331 Erw. 3).
Unter relevanter Arbeitsunfähigkeit ist nach der Rechtsprechung des Eidgenössischen Versicherungsgerichts eine Einbusse an funktionellem Leistungsvermögen im bisherigen Beruf oder Aufgabenbereich zu verstehen (<ref-ruling> Erw. 3c). Ob eine Person trotz Lohnzahlung tatsächlich erheblich arbeitsunfähig ist, ob sie also im Rahmen eines Arbeitsverhältnisses ihre übliche oder aber eine gesundheitsbedingt eingeschränkte Leistung erbringt, ist von Amtes wegen mit aller Sorgfalt zu prüfen (Meyer-Blaser, Rechtsprechung des Bundesgerichts zum IVG, Zürich 1997, S. 289).
bb) Mit der Regelung, wonach berufsvorsorgerechtliche Invalidenleistungen von derjenigen Vorsorgeeinrichtung geschuldet sind, welcher der Ansprecher bei Eintritt der Arbeitsunfähigkeit, die zur Invalidität geführt hat, angeschlossen war, wird erreicht, dass auch eine erwerbstätig gewesene Person, die nach längerer Krankheit erst in einem Zeitpunkt invalid wird, in welchem sie wegen der inzwischen erfolgten Auflösung des Arbeitsverhältnisses nicht mehr versichert ist, noch in den Genuss von Versicherungsleistungen gelangen kann (<ref-ruling> Erw. 1a). Besteht auf Grund einer während der Versicherungsdauer eingetretenen Arbeitsunfähigkeit ein Anspruch auf Invalidenleistungen, muss die Vorsorgeeinrichtung diese auch dann erbringen, wenn sich die Invalidität nach Beendigung des Versicherungsverhältnisses ändert (<ref-ruling> Erw. 1a mit Hinweisen).
Art. 23 BVG grenzt die Haftung mehrerer Vorsorgeeinrichtungen voneinander ab, wenn eine erwerbstätige Person, deren Gesundheit bereits in einem sich auf die Arbeitsfähigkeit auswirkenden Ausmass beeinträchtigt ist, eine neue Stelle antritt und dabei die Vorsorgeeinrichtung wechselt.
Wird dieser später eine Rente der Invalidenversicherung zugesprochen, ergibt sich ein berufsvorsorgerechtlicher Anspruch auf Invalidenleistungen nicht aus dem neuen Vorsorgeverhältnis.
Solche Leistungen sind von der ursprünglichen Vorsorgeeinrichtung zu erbringen, welcher die versicherte Person im Zeitpunkt des Auftretens der Arbeitsunfähigkeit, welche zur Invalidität geführt hat, angehört hat (<ref-ruling> Erw. 1c, 120 V 117 Erw. 2c mit Hinweisen).
cc) Damit die Vorsorgeeinrichtung, der ein Arbeitnehmer bei Eintritt seiner Arbeitsunfähigkeit angeschlossen war, für die erst nach Beendigung des Vorsorgeverhältnisses eingetretene Invalidität aufzukommen hat und leistungspflichtig wird, muss zwischen der während der Versicherungsdauer aufgetretenen Arbeitsunfähigkeit und der nachfolgenden Invalidität sowohl in sachlicher als auch in zeitlicher Hinsicht ein enger Zusammenhang bestehen (<ref-ruling> oben).
In sachlicher Hinsicht liegt ein solcher Zusammenhang vor, wenn der der Invalidität zu Grunde liegende Gesundheitsschaden im Wesentlichen derselbe ist, der zur Arbeitsunfähigkeit geführt hat. Die Annahme eines engen zeitlichen Zusammenhangs setzt voraus, dass die versicherte Person nach Eintritt der Arbeitsunfähigkeit nicht während längerer Zeit wieder arbeitsfähig war. Die frühere Vorsorgeeinrichtung hat nicht für Rückfälle oder Spätfolgen einer Krankheit einzustehen, die erst Jahre nach Wiedererlangung der vollen Arbeitsfähigkeit eintreten. Andererseits darf nicht bereits eine Unterbrechung des zeitlichen Zusammenhangs angenommen werden, wenn die versicherte Person bloss für kurze Zeit wieder an die Arbeit zurückgekehrt ist. Ebenso wenig darf die Frage des zeitlichen Zusammenhanges zwischen Arbeitsunfähigkeit und Invalidität schematisch in analoger Anwendung der Regel von <ref-law> beurteilt werden, wonach eine anspruchsbeeinflussende Verbesserung der Erwerbsfähigkeit in jedem Fall zu berücksichtigen ist, wenn sie ohne wesentliche Unterbrechung drei Monate gedauert hat und voraussichtlich weiterhin andauern wird. Zu berücksichtigen sind vielmehr die gesamten Umstände des konkreten Einzelfalles, namentlich die Art des Gesundheitsschadens, dessen prognostische Beurteilung durch den Arzt oder die Ärztin und die Beweggründe, welche die versicherte Person zur Wiederaufnahme der Arbeit veranlasst haben (<ref-ruling>, 120 V 117 Erw. 2c/aa und Erw. 2c/bb mit Hinweis).
b) aa) Aus der engen Verbindung zwischen dem Recht auf eine Rente der Invalidenversicherung und demjenigen auf eine Invalidenleistung nach BVG ergibt sich, dass der Invaliditätsbegriff im obligatorischen Bereich der beruflichen Vorsorge und in der Invalidenversicherung grundsätzlich der gleiche ist (<ref-ruling> Erw. 2a, 120 V 108 Erw. 3c, je mit Hinweisen). Auf Grund von Art. 6 BVG steht es den Vorsorgeeinrichtungen frei, den Invaliditätsbegriff bereits in der obligatorischen Versicherung zu Gunsten des Versicherten zu erweitern oder Invalidenrenten schon bei einem Invaliditätsgrad von weniger als 50 % auszurichten. Dabei bedeutet allerdings praxisgemäss die Gestaltungsfreiheit nach Art. 6 (und auch diejenige nach Art. 49 Abs. 2) BVG nicht uneingeschränktes Ermessen. Wenn die Vorsorgeeinrichtungen in ihren Urkunden, Statuten oder Reglementen einen bestimmten Invaliditätsbegriff verwenden, so haben sie bei der Interpretation darauf abzustellen, was in anderen Gebieten der Sozialversicherung oder nach den allgemeinen Rechtsgrundsätzen darunter verstanden wird. Die Vorsorgeeinrichtungen sind somit frei in der Wahl des Invaliditätsbegriffs; sie haben sich aber an eine einheitliche Begriffsanwendung zu halten. Gehen die Vorsorgeeinrichtungen ausdrücklich oder unter Hinweis auf das Gesetz vom gleichen Invaliditätsbegriff aus wie die Invalidenversicherung, sind sie hinsichtlich des versicherten Ereignisses an die Invaliditätsbemessung der IV-Stelle gebunden, es sei denn, dass diese sich als offensichtlich unhaltbar erweist. Verwenden die Vorsorgeeinrichtungen demgegenüber einen anderen Invaliditätsbegriff als die Invalidenversicherung, rechtfertigt sich eine selbstständige Prüfung, wobei sich die Vorsorgeeinrichtung ebenfalls auf die medizinischen und erwerblichen Abklärungen der IV-Organe stützen kann. Diese Grundsätze über die Massgeblichkeit des Beschlusses der IV-Stelle gelten nicht nur bei der Festlegung der Höhe des Invaliditätsgrades, sondern auch bei der Entstehung des Rentenanspruches, mithin dort, wo sich die Frage stellt, wann die Arbeitsfähigkeit sich erheblich verschlechtert hat oder wann die Invalidität weggefallen ist (<ref-ruling> Erw. 3c mit Hinweisen; SZS 1999 S. 129).
bb) Die Versicherungskasse der Stadt Zürich verwendet in den vorliegend anwendbaren Statuten vom 24. Oktober 1984 nicht den gleichen Invaliditätsbegriff wie die Invalidenversicherung.
Während Letztere vom Begriff der Erwerbsinvalidität ausgeht, indem sie Bezug auf die allgemeine Erwerbsfähigkeit nimmt (<ref-law>), richtet sich der Anspruch auf eine Invalidenrente der Vorsorgeeinrichtung nach der Beeinträchtigung im Rahmen der bisherigen dienstlichen Verrichtung (sog. Berufsinvalidität; Art. 74, insbesondere Abs. 2 der Statuten), weshalb die Feststellung des Beginns der Arbeitsunfähigkeit durch die IV-Stelle auf Anfang September 1991 (Verfügung vom 4. Juli 1994; Wiedererwägungsverfügung vom 11. April 1997) keine bindende Wirkung zeigt. Dies hat die Vorinstanz übersehen.
3.- a) Ab dem 9. September 1991 war der Versicherte bei Dr. V._ in Behandlung. Dieser hielt im Bericht an die IV-Stelle (vom 29. März 1993) fest, dass der Beschwerdeführer seit Sommer 1991 bis auf weiteres vollständig arbeitsunfähig sei. Als Grund angegeben wird ein seit mindestens 1987 bestehendes schweres, chronifiziertes, präpsychotisches Zustandsbild mit psychoenergetischem Potentialsverlust, fragmentierter Selbstwahrnehmungsfähigkeit, paranoiden Ängsten und Stimmungsschwankungen bei sozial isolierter und bereits prämorbid manifestierter Persönlichkeitsstörung. Die Gutachter der psychiatrisch-psychotherapeutischen Klinik Z._, welche den Versicherten am 18. Oktober 1993 persönlich untersucht haben, präzisieren die Angaben des behandelnden Arztes dahingehend, dass die Arbeitsfähigkeit des Patienten seit ca. 1987 auf Grund des psychischen Leidens zusehends abgenommen habe; ab Ende 1991/Anfang 1992 betrage diese für die früher ausgeübten Hilfsarbeitertätigkeiten weniger als 30 %.
b) Das kantonale Sozialversicherungsgericht hielt fest, dass die von der Klinik Z._ gemachten Aussagen über die Auswirkungen des Gesundheitsschadens auf die Arbeitsfähigkeit zwischen 1987 und Ende 1991 nichts mehr als eine Vermutung seien. Dem kann insofern zugestimmt werden, als dass sich in den (übrigen) medizinischen Akten keine Atteste aus diesem Zeitraum finden, welche dem Versicherten wegen psychischer Probleme eine reduzierte Arbeitsfähigkeit bescheinigen würden. Dies obwohl er während dieser Zeit praktisch durchgehend einer Erwerbstätigkeit nachging. Es war erstmals der den Versicherten seit anfangs September 1991 behandelnde Dr. V._, welcher auf Grund persönlicher Wahrnehmung eine psychisch bedingte Arbeitsunfähigkeit bescheinigte, zu einem Zeitpunkt, an dem der Beschwerdegegner bereits seit rund sieben Monaten der Versicherungskasse der Stadt Zürich angeschlossen war. Angesichts des weiteren Umstandes, dass der Beschwerdegegner nicht nur beim Stellenantritt am 1. Februar 1991 beim Gartenbauamt von dessen Vertrauensarzt für uneingeschränkt leistungsfähig betrachtet wurde, sondern darüber hinaus immerhin bis Ende September bei zwei geringen krankheitsbedingten Absenzen arbeitete, besteht kein Anlass, die Tätigkeit beim Gartenbauamt lediglich als gescheiterten Arbeitsversuch zu qualifizieren. Vor allem wegen der fehlenden Atteste von ärztlicher Seite kann die Aussage des Versicherten gegenüber der Klinik Z._, von früheren Arbeitgebern wegen ungenügender Leistungen entlassen worden zu sein, nicht gleichgesetzt werden mit einer bereits vor dem 1. Februar 1991 bestehenden Beeinträchtigung in der Arbeitsfähigkeit.
In den Akten fehlen Anhaltspunkte, dass der psychische Zustand bereits bei den früheren Arbeitgebern zur hier zu berücksichtigenden Arbeitsunfähigkeiten geführt hätte, sodass die von der Invalidenversicherung auf September 1991 festgesetzte Arbeitsunfähigkeit zumindest zeitlich als Fortsetzung einer vorangehenden, leistungsreduzierenden psychischen Entwicklung betrachtet werden könnte.
Vielmehr ist von einem schleichenden Verlauf der Krankheit auszugehen, die sich in beruflicher Hinsicht erst im Sommer 1991 ausgewirkt hat. Damit erweist sich der von der Invalidenversicherung als Beginn der schliesslich zur Invalidität führenden Arbeitsunfähigkeit gewählte Zeitpunkt September 1991 als richtig, womit die städtische Versicherungskasse für deren Auswirkungen leistungspflichtig ist.
4.- Nach Art. 134 OG darf das Eidgenössische Versicherungsgericht im Beschwerdeverfahren über die Bewilligung oder Verweigerung von Versicherungsleistungen den Parteien in der Regel keine Verfahrenskosten auferlegen. Diese Bestimmung wurde vom Gesetzgeber vor allem im Interesse der Versicherten geschaffen, die mit einem Sozialversicherer im Streit stehen (<ref-ruling> Erw. 6). Rechtsprechungsgemäss findet der Grundsatz der Unentgeltlichkeit des Verfahrens vor dem Eidgenössischen Versicherungsgericht keine Anwendung, wenn sich zwei Unfallversicherer (<ref-ruling> Erw. 3, 119 V 223 Erw. 4c), eine Krankenkasse und ein Unfallversicherer (<ref-ruling> Erw. 6, AHI 1998 S. 110) oder die Invalidenversicherung und der Unfallversicherer (AHI 2000 S. 206 Erw. 2) über ihre Leistungspflicht für einen gemeinsamen Versicherten streiten. Gleiches hat zu gelten, wenn, wie vorliegend, zwei Vorsorgeeinrichtungen im Streit um ihre Zuständigkeit zur Erbringung von Leistungen an eine bei ihnen (vorliegend während verschiedener zeitlicher Perioden) versicherte Person stehen. Folglich hat die Stadt Zürich als unterliegende Partei die Gerichtskosten zu tragen (Urteil H. vom 26. Januar 2001, B 79/99+B 4/00).

Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II.Die Gerichtskosten von Fr. 3000.- werden der Stadt Zürich auferlegt.
III. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht
des Kantons Zürich, dem Bundesamt für
Sozialversicherung und der Vorsorgeeinrichtung
Y._ zugestellt.
Luzern, 4. Mai 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Der Gerichtsschreiber: