A.- Par décision du 17 novembre 1995, la Fondation institution supplétive LPP (la Fondation) a prononcé l'affiliation d'office de P._, exploitant un bureau commercial à Y._, avec effet au 1er mars 1989. Elle lui a adressé, le 31 mai 1996, un décompte de primes pour la période du 1er mars au 31 décembre 1989, relatif à un salaire versé à un employé.
Aucun paiement n'étant intervenu, la Fondation a fait notifier le 29 juin 1998, par l'intermédiaire de l'Office des poursuites de X._, une poursuite à l'adresse de P._. Elle requérait le paiement de 3627 fr. 65 avec intérêt à 5 % dès le 1er janvier 1998, ainsi que 150 fr.
pour ses frais de contentieux. P._ a fait opposition au commandement de payer n° 199334.
La Fondation a ouvert action devant le Tribunal des assurances du canton de Vaud. Elle a conclu à ce que P._ soit reconnu, sous suite de dépens, son débiteur pour la somme de 3627 fr. 65, montant échu au 31 décembre 1997, ainsi qu'à la mainlevée de l'opposition formée au commandement de payer n° 199334 sous suite de frais et dépens.
Par jugement du 12 mai 1999, notifié le 7 septembre 1999, le tribunal des assurances a rejeté la demande au motif que celle-ci était prescrite.
Par arrêt du 1er mai 2000, le Tribunal fédéral des assurances a admis le recours de droit administratif interjeté par la Fondation contre ce jugement, annulé le jugement entrepris et renvoyé la cause à la juridiction cantonale pour qu'elle statue sur les prétentions de la Fondation.
B.- Par jugement du 26 juin 2000, le Tribunal cantonal des assurances du canton de Vaud a partiellement admis la demande de la Fondation. Il a considéré que P._ était débiteur de la Fondation à raison de 2663 fr., avec intérêts à 5 % l'an dès le 1er juillet 1996, ainsi que de 150 fr. à titre de frais de contentieux. Il a également définitivement levé l'opposition totale formée par le débiteur au commandement de payer no 199334 de l'Office des poursuites de X._ à concurrence des deux montants précités.
C.- La Fondation interjette recours de droit administratif contre ce jugement dont elle demande, principalement, la réformation en ce sens que P._ soit condamné à lui payer la somme de 3627 fr. 65, avec intérêts à 5 % l'an à partir du 1er janvier 1998, ainsi que 150 fr.
et que l'opposition formée par le prénommé soit définitivement levée au commandement de payer no 199334 de l'Office des poursuites de X._. Subsidiairement, la Fondation demande l'annulation du jugement attaqué et le renvoi de la cause à la juridiction cantonale, pour qu'elle rende un jugement dans le sens des considérants de l'arrêt.
P._ n'a pas répondu au recours, alors que l'Office fédéral des assurances sociales (OFAS) en propose l'admission.

Considérant en droit :
1.- a) La contestation porte sur la prétention de la recourante au paiement d'intérêts moratoires sur des cotisations LPP pour la période d'avril 1989 au 30 juin 1996.
b) Dès lors que la décision litigieuse n'a pas pour objet l'octroi ou le refus de prestations d'assurance, le Tribunal fédéral des assurances doit se borner à examiner si les premiers juges ont violé le droit fédéral, y compris par l'excès ou par l'abus de leur pouvoir d'appréciation, ou si les faits pertinents ont été constatés d'une manière manifestement inexacte ou incomplète, ou s'ils ont été établis au mépris de règles essentielles de procédure (art. 132 en corrélation avec les art. 104 let. a et b et 105 al. 2 OJ).
2.- a) Aux termes de l'<ref-law>, les salariés et leurs survivants ont droit aux prestations légales même si l'employeur ne s'est pas encore affilié à une institution de prévoyance. Ces prestations sont servies par l'institution supplétive. Selon l'al. 2 de l'<ref-law>, dans ce cas, l'employeur doit à l'institution supplétive non seulement les cotisations arriérées, en principal et intérêts, mais encore une contribution supplémentaire à titre de réparation du dommage.
b) En vertu de l'art. 3 al. 1 de l'Ordonnance du 28 août 1985 sur les droits de l'institution supplétive en matière de prévoyance professionnelle (ci-après : Ordonnance), l'employeur doit verser à l'institution supplétive les cotisations dues pour l'ensemble des salariés soumis à la loi, avec effet dès le moment où il aurait dû être affilié à une institution de prévoyance. Selon l'al. 2 de l'art. 3 précité, le taux de l'intérêt moratoire correspond à celui qu'applique habituellement l'institution de prévoyance en cas de retard dans le paiement des cotisations.
3.- Dans son arrêt du 1er mai 2000 (B 54/99), la Cour de céans a considéré que la créance en principal de la recourante à l'encontre de l'intimé n'était pas prescrite en ce qui concerne les cotisations dues sur les salaires versés à son employé pour la période du 1er mars au 31 décembre 1989. Il en résulte que les intérêts moratoires dus sur ces cotisations (<ref-ruling> consid. 4b; SVR 1994 BVG no 2 p. 5 consid. 3b; SZS 1990 p. 161 consid. 4b) ne sont pas non plus prescrits.
4.- a) En l'espèce, seule est litigieuse la date à partir de laquelle courent les intérêts moratoires, le premier juge l'ayant fixée au 1er juillet 1996 (l'interpellation datant du 31 mai 1996), alors que la recourante l'a faite remonter au moment auquel l'intimé aurait dû affilier son employé à une institution de prévoyance (mars 1989), soit au 1er avril 1989.
b) Contrairement à ce qu'a retenu la cour cantonale, il découle des <ref-law> et 3 al. 1 de l'Ordonnance, interprétés à la lumière de l'arrêt <ref-ruling> consid. 4c, que les intérêts moratoires sont dus sans qu'une interpellation de l'institution supplétive soit nécessaire, conformément à l'<ref-law>. Si on exigeait une telle interpellation, l'institution supplétive subirait un dommage dans le cadre de l'exercice de ses obligations découlant de l'<ref-law>, sans disposer des moyens pour en empêcher la survenance. Il peut en effet s'écouler un temps important entre la période à laquelle aurait dû avoir lieu l'assujettissement et le moment où l'institution supplétive est informée du fait qu'un employeur ne s'est pas conformé à son obligation.
Dans ces circonstances, la recourante peut prétendre des intérêts moratoires à compter du 1er avril 1989.
Le recours est bien fondé.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis et le jugement du 26 juin 2000 du
Tribunal des assurances du canton de Vaud est réformé
en ce sens que l'intimé est débiteur de la recourante
à raison de 2663 fr. avec intérêts à 5 % l'an dès le
1er avril 1989, ainsi que de 150 fr. à titre de frais
de contentieux.
II. L'opposition formée par l'intimé au commandement de payer no 199334 de l'Office des poursuites de X._ est définitivement levée à due concurrence.
III. Les frais de justice, d'un montant de 300 fr., sont mis à la charge de l'intimé.
IV. L'avance de frais versée par la recourante, d'un montant
de 700 fr., lui est restituée.
V. Le présent arrêt sera communiqué aux parties, au
Tribunal des assurances du canton de Vaud et à
l'Office fédéral des assurances sociales.
Lucerne, le 28 mai 2001
Au nom du
Tribunal fédéral des assurances
Le juge présidant la IIe Chambre :
La Greffière :