A.- Pb._, et Pa._, consultent toutes deux le même médecin traitant, le docteur A._.
A la suite d'une demande de prestations de l'assurance-invalidité déposée le 16 août 1996 par la premièrenommée, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après : l'office AI) a envoyé un questionnaire médical au docteur A._ en y indiquant notamment le nom de l'assurée concernée.
Celui-ci a retourné, le 5 septembre 1996, à l'office AI son questionnaire, laissé vierge, en y joignant un rapport médical dans lequel il avait décrit non pas l'état de santé de Pb._, mais celle de son homonyme. Le rapport faisait état de troubles cardio-vasculaires entraînant une incapacité de travail totale du 25 septembre 1993 au 28 février 1994, et d'une incapacité de travail de 50 % depuis le 1er mars 1994. Il indiquait concerner "Pa. _ - née le X._, No AVS Y._".
Ce n'est que le 26 février 1997, à la suite d'un téléphone de la secrétaire du docteur A._, que l'office AI s'est aperçu que le rapport de ce praticien concernait une assurée pour laquelle aucun dossier n'avait encore été ouvert. Le lendemain, Pa._, déposait une demande de prestations, sur formule officielle. Par décision du 7 janvier 1999, l'office AI lui a alloué une demi-rente d'invalidité, avec effet depuis le 1er février 1996.
B.- Par jugement du 31 mai 2000, le Tribunal des assurances du canton de Vaud a rejeté un recours déposé par l'assurée contre cette décision.
C.- Pa._ interjette un recours de droit administratif contre ce jugement. Elle en demande la réforme en concluant, sous suite de dépens, à ce qu'une demi-rente d'invalidité lui soit allouée, avec effet depuis le 1er septembre 1995. L'office AI renvoie au jugement cantonal alors que l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Le litige porte sur le moment à partir duquel une demi-rente d'invalidité doit être allouée à la recourante.
2.- a) L'assuré doit exercer son droit aux prestations en présentant une demande auprès de l'Office de l'assurance-invalidité compétent (art. 46 LAI). Si l'assuré présente sa demande plus de douze mois après la naissance du droit, les prestations ne sont allouées que pour les douze mois précédant le dépôt de la demande. Elles sont allouées pour une période antérieure si l'assuré ne pouvait pas connaître les faits ouvrant droit à prestations et qu'il présente sa demande dans les douze mois dès le moment où il en a eu connaissance (art. 48 al. 2 LAI).
La demande de prestations doit être présentée sur formule officielle (art. 65 RAI). Cependant, lorsque l'assuré fait valoir son droit par un acte écrit ne répondant pas à cette exigence formelle, l'assurance doit lui envoyer une formule adéquate en l'invitant à la remplir. La date d'arrivée de la première pièce est alors déterminante quant aux effets juridiques du dépôt de la demande (ATF 103 V69).
b) La recourante n'a déposé une demande de prestations sur formule officielle que le 27 février 1997. Rien n'indique qu'elle ait ignoré, pendant une certaine période, les faits ouvrant droit à prestations, ce qu'elle ne prétend du reste pas. Elle fait valoir que le rapport du 5 septembre 1996 du docteur A._ doit être considéré comme une demande de prestations écrite. Toutefois, le rapport auquel se réfère la recourante n'était que la réponse d'un médecin à un questionnaire médical. Le fait que ce praticien ait par erreur décrit l'état de santé de la recourante, plutôt que celui de la patiente à propos de laquelle il était interrogé, ne modifie pas le caractère uniquement descriptif de son rapport, qui ne contient aucune manifestation de volonté comparable à une demande de prestations. Il ne peut donc pas y être assimilé, de sorte qu'aucune demande écrite n'a précédé le dépôt de la formule officielle de demande de prestations, le 27 février 1997.
3.- La recourante fait encore valoir qu'elle ignorait les démarches à effectuer pour faire valoir ses droits.
Selon elle, l'office AI devait, à réception du rapport du docteur A._, s'apercevoir qu'elle pouvait prétendre des prestations et l'informer de ses droits et obligations.
A tout le moins devait-il aviser le médecin traitant de sa méprise; d'après la recourante, le docteur A._ lui aurait alors certainement conseillé de déposer une demande de prestations. Dans ces circonstances, il serait contraire aux règles de la bonne foi de s'en tenir strictement aux règles des art. 46 et 48 al. 2 LAI.
a) Il n'est pas nécessaire de déterminer si l'office AI devait remarquer avant le 26 février 1997 que le rapport du docteur A._ ne concernait pas Pb._, mais une assurée n'ayant pas encore déposé de demande de prestations. En effet, même si tel était le cas, l'argumentation de la recourante devrait être rejetée, pour les motifs exposés ci-dessous.
b) Les principes que la jurisprudence a déduit de l'art. 4 aCst. valent également sous l'empire de l'art. 9 Cst. (<ref-ruling> consid. 3a). Ils comportent notamment l'interdiction pour l'administration d'adopter un comportement contraire aux règles de la bonne foi, ce qui peut la contraindre parfois à concéder à un administré un avantage contraire à la loi. Tel pourra être le cas, à certaines conditions, lorsqu'elle lui a donné un renseignement erroné (cf. <ref-ruling> consid. 2a et les références).
Sous réserve de dispositions légales ou réglementaires spéciales, les règles de la bonne foi n'imposent à l'administration de renseigner spontanément un administré que dans des circonstances particulières (cf. <ref-ruling> consid. 2b). Il faut notamment que l'administration soit objectivement en mesure de le faire et que, de son côté, l'administré se trouve avec elle dans une relation de fait ou de droit assez étroite pour qu'il puisse attendre d'elle un tel comportement (Pierre Moor, Droit administratif, vol.
1, Berne 1994, p. 436). Il faut encore que l'administré n'ait pas manqué de la diligence requise au vu des circonstances (art. 3 al. 2 CC; RAMA 1999 KV 97 525 consid. 4b et les références).
c) L'office AI n'a pas donné de renseignement erroné à la recourante, et aucune disposition légale ou réglementaire ne l'obligeait à renseigner spécialement cette dernière sur ses droits et obligations. Par ailleurs, il n'avait pas avec elle de relation qui pût fonder un devoir de renseignement particulier à son égard, la seule réception fortuite d'un rapport médical la concernant étant, de ce point de vue, insuffisante.
La recourante savait n'avoir rien entrepris auprès de l'office AI, alors qu'elle ne pouvait ignorer, vu son importante incapacité de travail depuis plusieurs années, que des prestations de l'assurance-invalidité pouvaient entrer en considération. Dans ces circonstances, elle devait au moins demander des renseignements sur ses droits et sur la procédure à suivre pour les faire valoir. Ayant négligé de le faire, elle ne peut se prévaloir d'avoir ignoré que le dépôt d'une demande était nécessaire pour obtenir des prestations de l'assurance-invalidité.
4.- Vu ce qui précède, le jugement entrepris n'est pas critiquable. La recourante, qui succombe, ne peut prétendre de dépens (art. 159 al. 1 en relation avec l'art. 135 OJ).
Elle n'aura pas à supporter de frais de justice, la procédure étant gratuite (art. 134 OJ).

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 18 juillet 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
p. le Greffier :