A.- Par mémoire du 10 octobre 2001, la Fondation institution supplétive LPP (ci-après : la Fondation) a ouvert action en paiement de 11 865 fr. 10 en capital avec intérêts et frais contre A._ devant le Tribunal administratif du canton de Fribourg. A l'appui de sa demande, elle exposait qu'à la suite d'un rapport de la Caisse de compensation du canton de Fribourg, l'autorité cantonale de surveillance avait sommé l'intéressé de s'affilier dans les six mois à une institution de prévoyance. Celui-ci n'ayant pas donné suite, le dossier lui avait été transmis en vue d'une affiliation d'office. Après vaine sommation, l'intéressé avait été affilié par décision du 28 juillet 1999.
Sur la base des indications fournies par la caisse de compensation au sujet des salaires versés, la Fondation avait calculé les montants dus à titre de cotisations dont elle réclamait présentement le paiement.
A._ a conclu, sous suite de frais et dépens, au rejet de la demande, par mémoire du 14 novembre 2001.
Par lettre du 11 décembre 2001, la Fondation a déclaré retirer purement et simplement son action.
Prenant acte de cette déclaration de retrait, le président du tribunal a, par décision du 24 janvier 2002, rayé sans frais l'affaire du rôle et alloué une indemnité de dépens de 1076 fr. au défendeur à charge de la demanderesse.
B.- La Fondation interjette recours de droit administratif contre cette décision dont elle demande la modification en ce qui concerne l'allocation de dépens.
A._ a conclu au rejet du recours avec suite de dépens, alors que l'Office fédéral des assurances sociales en propose l'admission.

Considérant en droit :
1.- a) Aux termes de l'art. 128 OJ, le Tribunal fédéral des assurances connaît en dernière instance des recours de droit administratif contre des décisions au sens des art. 97, 98 let. b à h et 98a OJ en matière d'assurances sociales. Selon la jurisprudence, les jugements incidents et finaux rendus par des tribunaux cantonaux dans des litiges ressortissant au droit fédéral des assurances sociales et tranchant une question de droit de procédure cantonale peuvent aussi être déférés au Tribunal fédéral des assurances par la voie du recours de droit administratif, indépendamment du point de savoir si un recours est interjeté sur la question de fond (<ref-ruling> ss consid. 1 et 2).
Le recours de droit administratif limité, comme en l'espèce, à la question des dépens en matière de prévoyance professionnelle, alloués en vertu du droit de procédure cantonal (<ref-ruling> consid. 2 et les références), est ainsi recevable (<ref-ruling>).
b) La décision litigieuse n'ayant pas pour objet l'octroi ou le refus de prestations d'assurance, le Tribunal fédéral des assurances doit se borner à examiner si les premiers juges ont violé le droit fédéral, y compris par l'excès ou par l'abus de leur pouvoir d'appréciation, ou si les faits pertinents ont été constatés d'une manière manifestement inexacte ou incomplète, ou s'ils ont été établis au mépris de règles essentielles de procédure (art. 132 en corrélation avec les art. 104 let. a et b et 105 al. 2 OJ).
Par ailleurs, saisi d'un recours ayant trait à l'octroi de dépens en procédure cantonale, le Tribunal fédéral des assurances doit se limiter à examiner si l'application des dispositions cantonales déterminantes ou - à défaut de réglementation cantonale - l'exercice du pouvoir d'appréciation par la juridiction cantonale conduit à une violation du droit fédéral (art. 104 let. a OJ), en particulier une violation de l'interdiction de l'arbitraire ou du formalisme excessif (<ref-ruling> consid. 4a, 114 V 205 consid. 1a et les références).
2.- Prenant en considération le fait que le défendeur avait recouru aux services nécessaires d'un mandataire professionnel, le président du tribunal administratif a décidé, au vu du retrait pur et simple de la demande, d'allouer une indemnité équitable à titre de dépens de 1000 fr.
(à laquelle s'ajoute la taxe sur la valeur ajoutée), en se fondant sur les articles 137 sv. du code cantonal fribourgeois de procédure et de juridiction administrative (CPJA).
La recourante conteste le bien-fondé de cette décision, soutenant que l'action a dû être introduite en raison du comportement négligent de l'intimé. Il n'était ainsi pas justifié de lui allouer des dépens, ce que ce dernier conteste en se référant pour l'essentiel à la décision entreprise.
En critiquant la mise à sa charge de dépens, la recourante se plaint en définitive d'une application arbitraire, ou contraire à l'art. 9 Cst. , des art. 137 sv. CPJA. Selon les principes exposés plus haut, le Tribunal fédéral des assurances n'annulera la décision attaquée que si elle méconnaît gravement une norme ou un principe juridique clair et indiscuté ou si elle heurte de manière choquante le sentiment de la justice ou de l'équité. En d'autres termes, il ne s'écarte de la solution retenue en dernière instance cantonale que si elle est insoutenable, en contradiction manifeste avec la situation effective, si elle a été adoptée sans motif objectif ou en violation d'un droit certain.
Il ne suffit pas que la motivation de la décision soit insoutenable; encore faut-il qu'elle soit arbitraire dans son résultat (<ref-ruling> consid. 2b, 126 III 440 consid. 3, 125 I 168 consid. 2a, 125 II 15 consid. 3a, 134 consid. 5b et les arrêts cités).
3.- a) Les dépens constituent une indemnisation, soumise à des règles particulières, du préjudice causé à une partie en raison des frais que lui occasionne la procédure.
Si les conditions sont remplies, l'allocation de cette indemnité est un droit de la partie et non une simple faculté de l'autorité.
C'est en principe la partie qui succombe qui supporte le paiement des dépens à la partie adverse. Des dépens, cas échéant réduits, peuvent être alloués à la partie qui n'obtient que partiellement gain de cause. En cas de retrait du recours, la partie adverse qui s'opposait aux conclusions du recourant est considérée comme obtenant gain de cause.
En cas d'acquiescement ou lorsque l'autorité intimée révoque la décision attaquée après le dépôt du recours, c'est le recourant qui est considéré comme ayant obtenu gain de cause. En revanche, lorsque le procès devient sans objet pour d'autres raisons, la détermination de la partie qui obtient gain de cause dépend généralement des chances de succès de chaque partie au moment où intervient le fait qui met fin à la procédure (Benoît Bovay, Procédure administrative, Berne 2000, p. 461 sv.; Martin Bernet, Die Parteientschädigung in der schweizerischen Verwaltungsrechtspflege, thèse Zurich 1986, p. 143 sv.).
b) Le droit de procédure fribourgeois a repris en substance ces principes généraux aux articles 137 sv. CPJA (cf. aussi Christian Pfammatter, L'indemnité de partie devant le tribunal administratif fribourgeois, RFJ 1993, p. 123 sv.).
Selon l'art. 137 al. 1 CPJA, en cas de recours, de révision ou d'interprétation devant une autorité statuant en dernière instance cantonale et en cas d'action, l'autorité de la juridiction administrative alloue, sur requête, à la partie qui obtient gain de cause une indemnité pour les frais nécessaires qu'elle a engagés pour la défense de ses intérêts. La partie qui, par sa faute, n'a pas obtenu satisfaction dans la procédure antérieure n'a pas droit à une indemnité de partie (art. 138 al. 1 CPJA). Lorsqu'une partie n'obtient que partiellement gain de cause, l'indemnité est réduite en proportion (al. 2). Enfin l'art. 141 al. 1 CPJA précise que l'indemnité est mise à la charge de la ou des parties qui succombent.
4.- Dans le cas d'espèce, la Fondation recourante a retiré purement et simplement la demande déposée devant le tribunal administratif, si bien que l'intimé qui s'opposait à ses conclusions doit être considéré comme obtenant gain de cause et peut prétendre à une indemnité de partie à charge de la partie adverse (art. 137 et 141 CPJA). La décision attaquée se réfère explicitement à ces dispositions.
Par ailleurs, comme le procès n'est pas devenu sans objet, la Fondation renonçant à réclamer plus avant le paiement de primes, cotisations et frais, il n'y avait pas lieu pour le juge cantonal d'examiner encore les chances de succès de chaque partie en vue de statuer, cas échéant, de manière différente au sujet des dépens.
Comme on l'a vu, le droit fribourgeois de procédure est fondé - pour ce qui concerne l'indemnité de partie - sur le principe fondamental que la partie qui l'emporte a droit à des dépens de la part de celle qui succombe. Sauf dans le cas particulier visé à l'art. 138 al. 1 CPJA qui concerne manifestement une situation différente du cas d'espèce (cf. dans ce sens Pfammatter, op. cit. p. 131), ce système cantonal ne prévoit pas la prise en compte, concurremment, de la causalité pour justifier une répartition éventuellement différente ou une réduction des dépens. A tout le moins cela n'est-il ni allégué ni soutenu en cause.
En définitive, l'appréciation au cas particulier de motifs justifiant, par exception, de s'écarter de la règle légale et de statuer en tenant compte du comportement causal de la partie adverse relève tout au plus du pouvoir d'appréciation du juge. A cet égard, on aurait pu certes envisager, comme le soutient la recourante, une solution différente voire meilleure qui tienne compte de la responsabilité de l'intimé à l'origine de la procédure. Mais il n'en demeure pas moins qu'en s'en tenant strictement au système de la loi, la décision du juge qui se fonde sur le principe fondamental repris aux art. 137 et 141 CPJA n'est ni insoutenable ni par conséquent rendue en violation du droit.
Au demeurant rien n'empêchait la Fondation, dans les circonstances du cas particulier, de poursuivre en justice l'intimé en vue d'obtenir le paiement de ses frais (frais administratifs, frais extraordinaires et frais de contentieux), ce qu'elle a renoncé à faire en retirant purement et simplement sa demande dans sa totalité.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I.Le recours est rejeté.
II.Les frais de justice, d'un montant de 500 fr., sont mis à la charge de la Fondation institution supplétive LPP.
III. La recourante versera à l'intimé la somme de 500 fr.
(y compris la taxe sur la valeur ajoutée) à titre de
dépens pour l'instance fédérale.
IV.Le présent arrêt sera communiqué aux parties, au Tribunal administratif du canton de Fribourg, Cour des assurances sociales, et à l'Office fédéral des assurances
sociales.
Lucerne, le 18 juin 2002
Au nom du
Tribunal fédéral des assurances
La Présidente de la IVe Chambre :
Le Greffier :