Faits: Faits: A. Par décision du 28 juillet 1999, la Fondation institution supplétive LPP (ci-après : la Fondation) a affilié d'office en qualité d'employeur A._, lequel ne s'était pas conformé à son obligation de s'affilier à une institution de prévoyance. Cette décision n'a pas été attaquée. Le 10 octobre 2001, la Fondation a ouvert action contre A._ devant le Tribunal administratif du canton de Fribourg, en concluant au paiement d'un montant de 11'865 fr. 10 en capital avec intérêts et frais de contentieux. La Fondation ayant toutefois déclaré, par lettre du 11 décembre 2001, retirer purement et simplement son action, le Président du tribunal a rayé sans frais l'affaire du rôle et alloué une indemnité de dépens de 1'076 fr. au défendeur à charge de la demanderesse (décision du 24 janvier 2002). Saisi d'un recours de la Fondation qui demandait la modification de la décision attaquée en ce qui concerne l'allocation de dépens, le Tribunal fédéral des assurances l'a rejeté par arrêt du 18 juin 2002 (B 14/02). Saisi d'un recours de la Fondation qui demandait la modification de la décision attaquée en ce qui concerne l'allocation de dépens, le Tribunal fédéral des assurances l'a rejeté par arrêt du 18 juin 2002 (B 14/02). B. Par décision du 14 janvier 2002, la Fondation a annulé avec effet rétroactif l'affiliation d'office de A._ et mis à la charge du prénommé un montant de 1'705 fr. Ce montant comprenait 150 fr. à titre de frais de la décision d'annulation, 525 fr. pour la décision d'affiliation antérieure, 200 fr. pour frais administratifs, 450 fr. pour frais extraordinaires et 380 fr. pour frais de contentieux. Cette décision n'a pas été attaquée par l'intéressé. Celui-ci ne s'étant pas acquitté des frais mis à sa charge, la Fondation lui a fait notifier, le 19 mars 2002, un commandement de payer la somme de 1'705 fr., avec intérêt à 5 % l'an dès le 19 février 2002, et 150 fr. au titre de frais de contentieux. Le débiteur a fait opposition à cet acte de poursuite. Celui-ci ne s'étant pas acquitté des frais mis à sa charge, la Fondation lui a fait notifier, le 19 mars 2002, un commandement de payer la somme de 1'705 fr., avec intérêt à 5 % l'an dès le 19 février 2002, et 150 fr. au titre de frais de contentieux. Le débiteur a fait opposition à cet acte de poursuite. C. Le 13 décembre 2002, la Fondation a ouvert action contre A._ devant le Tribunal administratif du canton de Fribourg. Par jugement du 6 février 2004, le tribunal cantonal a rejeté la demande et mis les frais de justice, par 500 fr., à la charge de la demanderesse pour procédure téméraire. Par jugement du 6 février 2004, le tribunal cantonal a rejeté la demande et mis les frais de justice, par 500 fr., à la charge de la demanderesse pour procédure téméraire. D. La Fondation interjette recours de droit administratif contre ce jugement dont elle demande l'annulation, en demandant au Tribunal de « prononcer une reconnaissance de droits qui écarte expressément l'opposition (art. 79 LP) en faveur de la recourante » et d'annuler les frais de justice de 500 fr. mis à la charge de la recourante. A._ conclut au rejet du recours sous suite de dépens. De son côté, l'Office fédéral des assurances sociales a renoncé à présenter des déterminations.