A.- M._ travaillait au service de la société X._. A ce titre, elle était affiliée à la caisse-maladie Helvetia (devenue depuis lors Helsana Assurances SA; ci-après : la caisse) dans le cadre d'un contrat collectif prévoyant notamment le versement d'une indemnité journalière en cas d'incapacité de travail. Souffrant de cervico-dorso-lombalgies, ainsi que d'un état anxio-dépressif, elle a bénéficié, à partir du 18 décembre 1992, de l'indemnité journalière assurée, en raison d'une incapacité de travail de 50 pour cent, sauf pendant la période du 19 au 24 novembre 1993, durant laquelle l'incapacité fut totale.
Par décision du 26 novembre 1993, la caisse de compensation Y._ lui a alloué une demi-rente d'invalidité, de 715 francs par mois, à partir du 1er juin 1993. Depuis la même date, l'institution de prévoyance de l'employeur lui verse également une demi-rente d'invalidité, dont le montant s'élevait initialement à 313 fr. 70 par mois.
Par lettre du 10 novembre 1993, la caisse a fait savoir à son assurée qu'elle réduisait ses prestations, pour cause de surindemnisation, avec effet au 1er juin 1993.
Dans son calcul, la caisse tenait compte du montant de la rente de l'assurance-invalidité, ainsi que du salaire versé par l'employeur pour une activité à mi-temps.
B.- Ultérieurement, par lettre du 5 mars 1998, la caisse a informé l'assurée que son droit à l'indemnité journalière avait pris fin le 31 décembre 1997. Elle a confirmé sa position par une décision du 23 juin 1998, puis par une décision sur opposition du 6 novembre 1998.
Elle a considéré que les prestations ne pouvaient en principe pas être versées pour une durée supérieure à 720 jours. Cependant, comme elles avaient été réduites, l'indemnisation devait se prolonger jusqu'au 31 décembre 1997 au plus tard, soit deux ans après l'entrée en vigueur de la LAMal, conformément aux dispositions transitoires de cette loi. A cette date l'assurée avait reçu plus de la moitié du "capital assuré" de 82'302 fr. 50, soit au total un montant supérieur à la somme des indemnités journalières dues pendant 720 jours pour une incapacité de travail de 50 pour cent. Pour cette raison, elle n'avait plus de prétention à faire valoir à l'égard de la caisse. Celle-ci informait par ailleurs l'assurée que la couverture d'assurance était maintenue pour une capacité résiduelle de travail de 50 pour cent.
C.- Par jugement du 30 juin 1999, le Tribunal des assurances du canton de Vaud a rejeté le recours formé contre cette décision par M._.
D.- M._ interjette un recours de droit administratif dans lequel elle conclut à la réforme du jugement attaqué et au paiement par la caisse de ses prestations "jusqu'à épuisement des 720 indemnités journalières complètes".
Subsidiairement, elle conclut à l'annulation de ce jugement et au renvoi de la cause à l'autorité cantonale pour nouvelle décision.
La caisse conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé à son sujet.

Considérant en droit :
1.- a) Selon l'<ref-law>, le droit à l'indemnité journalière prend naissance lorsque l'assuré a une capacité de travail réduite au moins de moitié (première phrase). Les indemnités journalières doivent être versées pour une ou plusieurs maladies, durant au moins 720 jours dans une période de 900 jours (<ref-law>). En cas d'incapacité partielle de travail, une indemnité journalière réduite en conséquence est versée pendant la durée prévue au troisième alinéa; la couverture d'assurance est maintenue pour la capacité résiduelle de travail (<ref-law>). Lorsque l'indemnité journalière est réduite pour cause de surindemnisation selon l'<ref-law>, la personne atteinte d'une incapacité de travail a droit à l'équivalent de 720 indemnités journalières complètes; les délais relatifs à l'octroi des indemnités journalières sont prolongés en fonction de la réduction (<ref-law>).
b) La LAMA posait le principe selon lequel l'assurance ne devait pas être une source de gain pour les assurés. Par conséquent, lorsque l'assuré touchait des prestations émanant d'autres assureurs, les caisses-maladie réduisaient les indemnités journalières dues (cf. art. 26 LAMA).
Lorsque l'indemnité journalière était réduite selon l'art. 26 LAMA, l'art. 12bis al. 4 LAMA prévoyait l'augmentation de la durée des jours d'indemnisation. Ainsi, à une réduction de 50 pour cent de l'indemnité devait correspondre une durée de versement de 1440 jours compris dans une période de 1800 jours consécutifs, le calcul étant effectué rétrospectivement, à partir du jour où l'indemnité avait été accordée pour la dernière fois (<ref-ruling> consid. 2b; Borella, L'affiliation à l'assurance-maladie sociale suisse, thèse Genève 1993, p. 330 sv.). Il s'agissait, en d'autres termes, de garantir aux assurés le paiement de l'équivalent de 720 indemnités pleines et entières.
Ces principes étaient également applicables en cas de réduction de l'indemnité journalière pour cause d'incapacité de travail partielle (<ref-ruling> consid. 3b; RAMA 1989 no K 823 p. 394 consid. 3).
c) Dans son projet relatif à la LAMal, le Conseil fédéral abandonnait purement et simplement ce système légal et jurisprudentiel de prolongation de la durée d'indemnisation en cas de réduction de l'indemnité journalière.
L'art. 64 al. 3 du projet prévoyait en effet que les indemnités journalières devaient être versées, pour une ou plusieurs maladies, durant au moins 720 jours dans une période de 900 jours; le projet ne contenait pas de disposition analogue à l'art. 12bis al. 4 LAMA (message concernant la révision de l'assurance-maladie du 6 novembre 1991, FF 1992 I 183 sv. et 266; voir aussi Duc, Quelques réflexions relatives à l'assurance d'une indemnité journalière selon la LAMal, in : RSAS 1998 p. 261).
Au cours des débats parlementaires, les Chambres fédérales, sur proposition de la commission du Conseil national, ont cependant réintroduit la possibilité d'une telle prolongation, conformément à la pratique antérieure, mais seulement en cas de réduction de l'indemnité pour cause de surindemnisation, ce qui a conduit à l'adoption de l'<ref-law> (Bull. off. CN 1993 p. 1894 et Bull.
off. CE 1993 p. 1094). L'idée à la base de cette disposition est que l'assuré ne perde pas, en raison d'une surindemnisation, le bénéfice des prestations de l'assurance-maladie qui lui sont acquises par le versement de ses primes; l'assureur ne saurait tirer un avantage du fait que l'assuré bénéficie de prestations d'autres assureurs (procès-verbal de la Commission de la sécurité sociale et de la santé publique [CSSS] du Conseil national, séance du 8 juillet 1993).
En revanche, quand l'indemnité est réduite en raison de l'incapacité partielle de travail, la durée d'indemnisation est limitée à 720 jours pour une période de 900 jours (art. 72 al. 3 et 4 LAMal). Les jours d'incapacité partielle valent comme des jours entiers d'indemnisation. Mais pour compenser le fait que l'assuré ne reçoit pas, le cas échéant, 720 indemnités journalières complètes, le législateur a prévu - ce qui est une innovation par rapport à l'ancien droit (cf. <ref-ruling> consid. 3 in fine) - que la couverture d'assurance devait être maintenue pour la capacité de travail résiduelle (art. 72 al. 4 in fine LAMal; voir à ce sujet Gebhard Eugster, Zum Leistungsrecht der Taggeldversicherung nach KVG, in : LAMal-KVG, Recueil de travaux en l'honneur de la Société suisse de droit des assurances, Lausanne 1997, p. 527 sv.).
d) Au sujet de la durée maximale d'indemnisation, la LAMal ne fournit pas de réponse immédiate à la question qui se pose quand l'indemnité est - comme en l'espèce - réduite à la fois pour cause de surindemnisation et d'incapacité partielle de travail. Il s'agit donc de rechercher quelle est la relation réciproque entre les alinéas 4 et 5 de l'<ref-law>.
La loi s'interprète en premier lieu selon sa lettre.
Si le texte n'est pas absolument clair, si plusieurs interprétations de celui-ci sont possibles, il convient de rechercher quelle est la véritable portée de la norme, en la dégageant de tous les éléments à considérer, soit notamment des travaux préparatoires, du but de la règle, de son esprit, ainsi que des valeurs sur lesquelles elle repose ou encore de sa relation avec d'autres dispositions légales (<ref-ruling> consid. 6d, 126 III 104 consid. 2c, 126 V 58 consid. 3, 105 consid. 3 et les références).
Selon Eugster (loc. cit. , p. 530 sv.), en cas d'incapacité de travail de 50 pour cent, l'indemnité journalière réduite pour cause de surindemnisation doit être allouée aussi longtemps que l'assuré n'a pas obtenu l'équivalent de 720 demi-indemnités journalières (voir aussi, du même auteur : Krankenversicherung, in: Schweizerisches Bundesverwaltungsrecht [SBVR], Soziale Sicherheit, ch. 379). Les premiers juges se prononcent dans le même sens : ils considèrent que par "indemnités journalières complètes" selon l'<ref-law>, il faut entendre non seulement l'indemnité qui correspond à une incapacité de travail totale, mais aussi celle due en cas d'incapacité de travail partielle au sens de l'alinéa 4 et non réduite pour cause de surindemnisation.
L'opinion exprimée par cet auteur et par le tribunal des assurances mérite d'être confirmée. Les art. 72 al. 4 et 72 al. 5 LAMal sont des règles de rang identique qui ont été adoptées en même temps. Ni le texte ni la systématique de la loi ne permettent de considérer que l'une d'entre elles devrait l'emporter sur l'autre. On l'a vu, par l'adoption de l'<ref-law>, le législateur a voulu établir une certaine équivalence entre les primes versées et le droit aux prestations. Sous peine de contredire cette volonté clairement affirmée, on ne saurait admettre, quand l'indemnité journalière est réduite pour cause de surindemnisation et d'incapacité partielle de travail, que le droit aux prestations est limité à 720 jours conformément à l'<ref-law>. A l'inverse, il n'y a pas plus de motif d'accorder la priorité à l'alinéa 5 en reconnaissant à l'assuré, dans le même cas de figure, le droit à l'équivalent de 720 indemnités journalières complètes. Dès lors, si l'on veut concilier l'intention du législateur avec le texte de la loi, la seule solution qui s'impose consiste en une application combinée des dispositions légales en cause.
La durée de l'indemnisation doit ainsi être prolongée jusqu'au moment où l'assuré a reçu l'équivalent des indemnités journalières auxquelles il aurait eu droit durant la période de 720 jours, en fonction du taux de l'incapacité partielle de travail et à défaut de surindemnisation.
2.- Sous réserve de certaines dispositions inapplicables en l'espèce, la LAMal est entrée en vigueur le 1er janvier 1996 (art. 1er de l'ordonnance concernant l'entrée en vigueur et l'introduction de la LAMal; RS 832. 101).
Selon l'<ref-law>, les indemnités journalières dont le versement est en cours lors de l'entrée en vigueur de la présente loi et qui résultent de l'assurance d'indemnités journalières auprès de caisses reconnues devront encore être allouées pendant deux ans au plus, conformément aux dispositions de l'ancien droit sur la durée des prestations.
Cette norme transitoire vise précisément les situations de l'ancien droit dans lesquelles la durée des jours d'indemnisation était augmentée en application de l'art. 12bis al. 4 LAMA (message précité, p. 196 sv.).
En l'espèce, la caisse a alloué à la recourante des indemnités journalières à partir du 18 décembre 1992. Jusqu'au 31 décembre 1997, le versement de ces indemnités était soumis à la LAMA. Aussi bien la recourante a-t-elle perçu pour cette période des indemnités pendant 1840 jours, pour un montant total de 56'059 francs.
A partir du 1er janvier 1998, à l'expiration de la période transitoire de deux ans, le versement des indemnités était régi par le nouveau droit (103 al. 2 LAMal).
Dès ce moment, la recourante ne pouvait donc prétendre une prolongation du versement des indemnités que si elle n'avait pas perçu l'équivalent de 720 indemnités calculées en fonction de son taux d'incapacité de travail et abstraction faite de toute surindemnisation.
Selon un décompte non contesté de la caisse, le montant correspondant à 720 indemnités journalières complètes ("capital assuré") représente 82'302 fr. 50. L'indemnité journalière entière s'élève ainsi à 114 fr. 30 (82'302 fr. 50 : 720) et la demi-indemnité à 57 fr. 15. Au cours des 720 premiers jours d'indemnisation, l'incapacité de travail a été de 50 pour cent durant 714 jours et de 100 pour cent durant six jours (du 19 au 24 novembre 1993).
714 jours d'indemnisation à 57 fr. 15 représentent 40'805 fr. 10. A cela s'ajoutent six jours d'indemnisation à 114 fr. 30, soit 685 fr. 80. Au total, les indemnités qui étaient dues pour la période de 720 jours, s'il n'y avait pas eu surindemnisation, se seraient élevées à 41'490 fr. 90. Au 31 décembre 1997, la caisse avait versé un montant supérieur (56'059 francs), de sorte que la prétention de la recourante tendant au versement d'indemnités journalières supplémentaires n'est pas fondée.
3.- La recourante se prévaut du droit à la protection de la bonne foi en raison d'assurances qu'elle a reçues de la caisse quant à la durée du versement de l'indemnité journalière.
a) Répondant à une demande de l'assurée du 19 avril 1996, la caisse a informé celle-ci, par lettre du 23 avril 1996, qu'elle avait droit au paiement de 720 indemnités journalières complètes et que, sauf modification du degré de l'incapacité de travail, les prestations seraient normalement servies encore pendant quatre ans environ, conformément à l'<ref-law>.
D'autre part, la recourante est divorcée depuis 1985.
A teneur d'une convention sur les effets accessoires du divorce, son ex-mari s'est engagé à lui verser une pension mensuelle de 3'000 francs, qui a été ramenée à 2'500 francs en 1993. En 1996, le débiteur a ouvert une action en modification du jugement de divorce en vue d'obtenir une réduction de la pension versée à son ex-épouse. En cours de procédure, à la suite d'une requête de mesures provisoires, les parties ont passé le 20 juin 1996 une convention, par laquelle le montant de la contribution due par le demandeur à la défenderesse a été fixé provisoirement à 700 francs dès le 1er juillet 1996. La procédure au fond fut alors suspendue pour une durée de six mois. Il était stipulé qu'elle pourrait ensuite être reprise à la requête de la partie la plus diligente.
Aussi bien la recourante fait-elle valoir qu'elle a accepté cette solution provisoire, pour tenir compte non seulement de la diminution des revenus de son ex-mari, mais également de ses propres ressources (comprenant l'indemnité servie par la caisse), eu égard aux assurances qui lui avaient été fournies par l'Helvetia en avril 1996.
b) Les principes que la jurisprudence déduisait de l'art. 4 al. 1 aCst. , en ce qui concerne le droit à la protection de la bonne foi, valent également sous le régime de l'art. 9 Cst. (<ref-ruling> consid. 3a). C'est ainsi qu'un renseignement ou une décision erronés peuvent obliger l'administration à consentir à l'administré un avantage contraire à la loi, si certaines conditions - cumulatives - sont réunies. Il faut que l'autorité soit intervenue dans une situation concrète à l'égard d'une personne déterminée, qu'elle ait agi ou soit censée avoir agi dans les limites de sa compétence, que l'administré n'ait pas pu se rendre compte immédiatement de l'inexactitude du renseignement obtenu et qu'il se soit fondé sur celui-ci pour prendre des dispositions qu'il ne saurait modifier sans subir un préjudice; il faut enfin que la loi n'ait pas changé depuis le moment où le renseignement a été donné (<ref-ruling> consid. 2a et les références).
c) S'il y a lieu d'admettre que les trois premières et la cinquième de ces conditions sont remplies, on ne peut en revanche pas tenir pour établi que la recourante a pris des dispositions qu'elle ne pouvait pas modifier sans subir de préjudice.
En effet, dans le cadre d'une procédure pénale dirigée contre son ex-mari, notamment pour violation d'une obligation d'entretien, les parties ont passé le 2 juillet 1998 une nouvelle convention par laquelle elles ont fixé cette fois à 800 francs, dès le 1er août 1998, le montant de la pension après divorce. Il était précisé que la pension était due en application de l'<ref-law> (ancien) et tenait compte d'un salaire mensuel du débiteur de 4'000 francs "net à ce jour". Le débiteur reconnaissait en outre devoir, à titre d'arriérés, la somme de 41'000 francs au 1er janvier 1998, dette qu'il s'engageait à amortir par des versements mensuels de 100 francs, pour autant que son salaire atteigne 3'500 francs pour le mois considéré.
Enfin, se référant à la procédure en modification du jugement de divorce qui était alors pendante, les parties se sont déclarées "hors de cause et de procès". A ce moment-là, la recourante savait que la caisse avait mis fin à ses prestations avec effet au 31 décembre 1997. Une augmentation de 100 francs par mois du montant de la pension, par rapport à la situation antérieure, ne couvrait à l'évidence pas la perte causée par la cessation du versement des indemnités journalières. Ainsi, pour l'année 1997, la recourante a touché à ce titre un montant total de 10'456 fr. 30.
Ces circonstances tendent à démontrer qu'il n'y avait pas de relation directe entre le montant des indemnités perçues par la recourante et celui de la contribution d'entretien fixé par les parties dans le cadre des mesures provisoires. Dans le cas contraire, rien n'eût empêché la recourante d'exiger, lors de la procédure pénale ultérieure, une pension alimentaire plus élevée, au moins pendant un temps limité, afin de combler le découvert résultant de la cessation par la caisse du paiement de ses prestations.
On est fondé à considérer, bien plutôt, que la diminution des facultés du débiteur (art. 153 al. 2 in fine aCC) a été l'élément décisif qui a conduit la recourante à accepter l'ampleur de la réduction de la pension alimentaire.
Le grief tiré du droit à la protection de la bonne foi doit donc être écarté.
4.- Il suit de là que le recours de droit administratif est mal fondé.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 11 mai 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la Ière Chambre :
Le Greffier :