A.- Inscrit au chômage depuis 1993, C._ a été engagé le 21 août 1995 en qualité de nettoyeur par l'entreprise X._. Quelques jours après son engagement, le 2 septembre, il s'est blessé en chutant d'une échelle alors qu'il effectuait des travaux dans la salle W._ à Genève. Il a subi une fracture du scaphoïde droit ainsi qu'une luxation de l'articulation astragalo-naviculaire. La Caisse nationale suisse en cas d'accidents (CNA) a pris en charge le cas et lui a versé des indemnités journalières. Egalement appelée à intervenir, l'AI lui a octroyé une rente entière du 1er septembre au 31 décembre 1996, une demi-rente du 1er janvier au 31 juin 1997, puis à nouveau une rente entière à partir du 1er juillet 1997 (décisions du 8 octobre 1997).
Au mois de janvier 1999, C._ a saisi la Fondation collective LPP de l'Elvia (ci-après : la fondation) - à laquelle son ancien employeur, tombé en faillite dans l'intervalle, était affilié pour la prévoyance professionnelle - d'une demande de rente. Celle-ci a refusé de lui allouer des prestations, arguant qu'il n'avait jamais été annoncé auprès d'elle comme salarié soumis à l'assurance obligatoire, et qu'il n'était donc pas assuré.
B.- Par mémoire du 15 juin 1999, C._ a ouvert action devant le Tribunal administratif du canton de Genève, en concluant à ce que la fondation fût condamnée à lui verser les prestations légales dues à la suite de son accident du 2 septembre 1995.
Après avoir vainement tenté d'obtenir auprès des autorités de chômage des renseignements sur la durée de l'engagement du demandeur, le tribunal a déclaré l'action irrecevable (jugement du 26 septembre 2000).
C.- C._ interjette recours de droit administratif contre ce jugement dont il requiert l'annulation, en reprenant ses conclusions formulées devant la juridiction cantonale.
La fondation conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il a renoncé à présenter une proposition.

Considérant en droit :
1.- Nonobstant les termes du dispositif rendu par les premiers juges, il ressort clairement des motifs du jugement entrepris que ceux-ci sont entrés en matière sur le fond du litige. A juste titre d'ailleurs, puisque la contestation ici en cause relève manifestement des autorités juridictionnelles mentionnées à l'<ref-law>, tant du point de vue de la compétence ratione temporis que celui de la compétence ratione materiae (<ref-ruling> consid. 2, 120 V 18 consid. 1a et les références). Il y a donc lieu de lever d'office cette contradiction et d'interpréter le dispositif selon son sens véritable, à savoir comme un rejet de la demande du recourant (cf. <ref-ruling> consid. 1c non publié).
2.- Est litigieux le point de savoir si, au moment de la survenance de son accident, C._ remplissait la condition d'assurance à l'égard de la fondation (<ref-law>).
3.- Selon l'<ref-law>, l'assurance obligatoire commence en même temps que les rapports de travail. Y sont soumis les salariés qui ont plus de 17 ans et reçoivent d'un même employeur un salaire annuel supérieur au montant limite fixé par l'<ref-law> (<ref-law>). Lorsqu'un salarié est occupé par un employeur pendant moins d'une année, son salaire annuel est réputé être celui qu'il obtiendrait en travaillant toute l'année (art. 2 OPP 2).
Conformément à la délégation de compétence que lui confère l'<ref-law>, le Conseil fédéral a défini, à l'art. 1er OPP, certaines catégories de salariés qui, pour des motifs particuliers, ne sont pas soumis à l'assurance obligatoire. Sont ainsi exclus du cercle des assurés, les salariés engagés pour une durée limitée ne dépassant pas trois mois (art. 1 al. 1 let. b OPP 2, 1ère phrase).
4.- a) Les juges cantonaux ont considéré que le recourant ne pouvait se prévaloir d'un contrat de travail d'une durée supérieure à trois mois et qu'il n'était donc pas soumis à l'assurance obligatoire en application de l'art. 1er al. 1 let. b OPP 2. Pour cela, ils se sont principalement fondés sur deux éléments : d'une part, le fait que sur la déclaration d'accident LAA, X._ avait mentionné que le recourant effectuait un remplacement et, d'autre part, le fait qu'au moment de son accident, celui-ci travaillait à Y._, soit dans un complexe accueillant des manifestations généralement de courte durée.
Le recourant s'oppose à cette déduction. Selon lui, il n'existe aucun élément parlant en faveur d'un contrat de travail de durée déterminée, de surcroît inférieur à trois mois, si bien que celui-ci doit, a contrario, être qualifié comme étant de durée indéterminée. En particulier, le terme "remplacement" apposé sur la déclaration d'accident LAA ne constitue pas, à ses yeux, un indice propre à établir que ses rapports de service auraient duré moins de trois mois.
Il précise enfin qu'il avait travaillé comme remplaçant aux cuisines des Hôpitaux Z._ pendant deux ans et qu'au terme de ce contrat, intervenu au mois de mars 1995, il n'aurait jamais accepté un travail de très courte durée.
b) Selon l'<ref-law>, le contrat de travail de durée déterminée se définit comme celui qui prend fin sans qu'il soit nécessaire de donner le congé. La durée déterminée du contrat résulte de la loi, de la nature du contrat ou de la convention des parties. Celles-ci peuvent fixer soit un terme, soit une durée, soit un laps de temps objectivement déterminable (par exemple une saison). Dans tous les cas, elles doivent être en mesure de connaître de façon suffisamment précise la fin des rapports de travail (message du Conseil fédéral du 9 mai 1984 concernant l'initiative populaire "pour la protection des travailleurs contre les licenciements dans le droit du contrat de travail" et la révision des dispositions sur la résiliation du contrat de travail dans le code des obligations, FF 1984 II 615; Brunner/Bühler/Waeber, Commentaire du contrat de travail, 2ème édition, 1996, notes 1 et 2 ad <ref-law>; Streiff/von Kaenel, Leidfaden zum Arbeitsvertragsrecht, no 2 ad <ref-law>; Rehbinder, Berner Kommentar, 1992, p. 42 sv. no 7; Brand et al., Der Einzelarbeitsvertrag im Obligationenrecht, no 5 ad <ref-law>). Inversement, sont des contrats de durée indéterminée au sens de l'<ref-law>, tous les contrats dont l'échéance n'est pas fixée à l'avance par les parties, de sorte qu'une résiliation est nécessaire pour mettre fin aux rapports de travail (Brunner/Bühler/Waeber, op. cit. , note 2 ad <ref-law>).
c) Sous réserve du respect des dispositions impératives et relativement impératives régissant la matière, c'est la volonté des parties qui fait règle quant à la durée du contrat de travail (cf. Pierre Engel, Contrat de droit suisse, 2ème éd. Berne 2000, p. 356).
En l'occurrence, le dossier renferme peu d'indices susceptibles de renseigner sur le contenu des déclarations échangées entre les parties contractantes. En particulier, il n'existe pas de convention signée, ni de témoignages portant sur les circonstances d'engagement du recourant.
Les éléments que l'intimée avance dans sa réponse au recours n'apportent à cet égard aucune indication supplémentaire.
Que C._ était rémunéré sur la base d'un salaire horaire ne constitue en effet pas un élément décisif quant à la durée du contrat convenu; ce mode de rémunération a cours dans de nombreux secteurs de l'économie (construction, industrie) sans pour autant être lié à la conclusion de contrats de courte durée. De même, on ne peut rien déduire du fait que le recourant n'a pas été annoncé à l'intimée par son employeur, une telle omission pouvant tout aussi bien résulter d'un oubli, d'une négligence ou d'une erreur. Il est vrai que C._ n'a jamais reçu de lettre de résiliation et qu'il était appelé en remplacement.
Si cette dernière circonstance permet sans doute de présumer que les parties ont entendu se lier par un rapport de travail temporaire, elle n'autorise en revanche aucune conclusion au sujet de la durée convenue ou prévisible de l'engagement. On ignore en effet tout des motifs de ce remplacement (poste à repourvoir, employé malade etc.) et rien n'indique que le recourant fût exclusivement engagé pour le nettoyage de la salle de W._ à Y._ comme semblent le retenir les premiers juges. Or, à défaut d'indice propre à établir une limitation dans le temps des rapports contractuels, on ne saurait admettre l'existence d'un contrat de durée déterminée; il convient bien plutôt dans une telle situation de présumer l'existence d'un contrat de durée indéterminée (cf. Brühwiler, Kommentar zum Einzelarbeitsvertrag, OR Art. 319-343, 1996, ad. art. 334 p. 291; Rehbinder, op. cit. , no 6-7, p. 42-43).
d) Par ailleurs, vu le salaire horaire versé au recourant (soit 17 fr. 25) et son temps de travail hebdomadaire (soit 44 heures selon les indications fournies par l'employeur sur la déclaration d'accident LAA), il aurait pu prétendre un revenu annualisé de 39 468 fr. (art. 2 OPP 2), à savoir un montant supérieur au seuil fixé par l'<ref-law> qui s'élevait en 1995 à 23 280 francs (art. 5 OPP 2).
Par conséquent, C._ remplissait, lors de la survenance de son accident, les conditions de soumission à l'assurance posés par l'<ref-law>. Il appartient donc à l'intimée de prendre en charge les suites de cet accident puisque c'est auprès de cette institution de prévoyance que X._ était affilié au moment déterminant (<ref-law>). Le recours est bien fondé, ce qui justifie l'annulation du jugement entrepris et le renvoi de la cause aux premiers juges afin qu'ils examinent le droit du recourant à une rente d'invalidité, puis rendent un nouveau jugement.
5.- La procédure est gratuite (art. 134 OJ).
Dès lors qu'il obtient gain de cause et qu'il est représenté par un syndicats de travailleurs, le recourant a en outre droit à des dépens à charge de l'intimée (art. 159 OJ; <ref-ruling> consid. 3; arrêt non publié D. F. du 18 juillet 1997, I 73/96; cf., par analogie, <ref-ruling> consid. 3b).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis et le jugement du 26 septembre
2000 du Tribunal administratif du canton de Genève est
annulé, la cause étant renvoyée à cette autorité pour
nouveau jugement au sens des considérants.
II. Il n'est pas perçu de frais de justice.
III. L'avance de frais versée par le recourant, d'un montant de 500 fr., lui est restituée.
IV. L'intimée versera au recourant une indemnité de dépens de 1200 fr.
V. Le présent arrêt sera communiqué aux parties, au Tribunal
administratif du canton de Genève et à l'Office
fédéral des assurances sociales.
Lucerne, le 26 novembre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
La Greffière :