A.- Le 1er juin 1995, C._ a commencé à travailler comme sommelière au service de R._ au restaurant X._. Le salaire convenu contractuellement était de 3500 fr. par mois. A partir du 15 août 1995, C._ s'est trouvée en incapacité de travail pour cause de maladie. Son employeur l'a licenciée pour le 31 octobre 1995.
Pendant la durée des rapports detravail, C._ a été affiliée à la Caisse-Maladie Suisse d'Entreprises (CMSE), une caisse-maladie de la SWICA Organisation de santé (ci-après : la SWICA), dans le cadre d'un contrat d'assurance collective conclu par son employeur, notamment pour une indemnité journalière en cas d'incapacité de travail couvrant 80 pour cent du gain assuré (après un délai d'attente de 4 jours). Après la résiliation de ses rapports de travail, C._ a été transférée dans l'assurance individuelle de la SWICA à compter du 1er novembre 1995, pour une indemnité journalière de 92 fr. dès le quatrième jour. Au total, la SWICA lui a versé 720 indemnités journalières, du 18 août 1995 au 31 octobre 1997.
Dans l'intervalle, C._ a passé une transaction judiciaire avec son ex-employeur, aux termes de laquelle ce dernier a reconnu lui devoir la somme de 4500 fr. (procès-verbal du 26 février 1996 du Tribunal civil du district de Lausanne). A la suite de la conclusion de cette transaction, C._ a demandé à la SWICA de recalculer son indemnité journalière en prenant comme salaire assuré, le salaire mensuel contractuellement convenu (3500 fr.), augmenté d'un montant de 900 fr. qui correspond, rapporté sur un moisd'activité, aucomplémentquesonex-employeuratransactionnellementreconnuluidevoirpourladuréedesrapportsdetravail(4500fr. : 5 mois d'activité). Elle indiquait par ailleurs que des cotisations paritaires AVS avaient été prélevées sur cette somme (cf. relevé de compte complémentaire établi le 5 août 1997 par la Caisse de compensation AVS Gastrosuisse).
Par décision du 11 décembre 1997, la SWICA a refusé de donner suite à la demande de l'assurée, motif pris que le montant reconnu transactionnellement par l'ex-employeur n'avait pas la qualité de revenu du travail, mais "correspondait à un versement unique, solde de tout compte". Saisie d'une opposition, la SWICA l'a rejetée par décision du 3 juillet 1998. Reprenant l'argumentation développée dans sa première décision, elle a en outre ajouté que, selon ses conditions générales d'assurance, elle était de toute façon libérée de ses obligationsàl'égarddel'assurée, carcelle-ciavaitconcluunarrangementavecuntierssansavoiraupréalablerequissonconsentement.
B.- Par jugement du 25 mars 1999, le Tribunal des assurances du canton de Vaud a rejeté le recours formé par l'assurée contre la décision sur opposition de la SWICA.
C.- C._ interjette recours de droit administratif contre ce jugement dont elle requiert l'annulation, en concluant derechef, sous suite de dépens, à l'octroi d'indemnités journalières fondées sur un salaire assuré de 4400 fr. (3500 fr. + 900 fr.). Elle demande par ailleurs le bénéfice de l'assistance judiciaire gratuite.
La SWICA conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Est litigieuse la prise en compte du montant de 4500 fr. (reconnu transactionnellement par l'ancien employeur de C._) comme salaire assuré pour le calcul des indemnités journalières versées à la recourante du 18 août 1995 au 31 octobre 1997. Dans cette mesure, le litige doit être tranché en application des dispositions de l'ancien droit, c'est-à-dire de la LAMA (en vigueur jusqu'au 31 décembre 1995), et des principes jurisprudentiels dégagés à propos de ces dispositions (<ref-law>).
2.- a) Ni la LAMA (art. 12bis), ni les ordonnances qui s'y rattachent (cf. en particulier les art. 27 et 28 de l'ord. III) ne contiennent de disposition sur le calcul du revenu déterminant pour les indemnités journalières. Cette question est ainsi laissée aux dispositions internes des caisses-maladie, lesquelles s'interprètent selon le principe de la bonne foi (RAMA 1994 no K 934 p. 107, consid. 3; RJAM 1982 no 491 p. 141).
b) Selon l'art. 6ch. 1 du règlement de l'assurance perte de gain SALARIA dans sa teneur en vigueur au 1er janvier 1994 (ci-après : le règlement SALARIA), SWICA verse à l'assuré la perte de salaire et de gain survenue, sur présentation des justificatifs, dont le montant correspond à l'indemnité journalière assurée en cas de maladie et/ou d'accident. L'indemnité journalière en cas de maladie et d'accident peut être assurée selon la perte de gain escomptée à partir du montant de 2 fr. Dans les contrats d'assurance collective, des indemnités journalières en cas de maladie et d'accident, fixées en pour cent du salaire, peuvent être assurées (art. 2 ch. 1 et 2 du règlement SALARIA).
aa) Pendant la durée de ses rapports de travail, la recourante a été assurée auprès de l'intimée dans le cadre d'un contrat d'assurance collective conclu par son ex-employeur, "le contrat d'assurance-maladie et accidents Wirte"(ci-après : le contrat Wirte). Selon le préambule du contrat Wirte, "pour autant que le présent contrat ne stipule pas d'autres dispositions, la Loi fédérale sur l'assurance-maladie (LAMA), ainsi que les conditions générales d'assurance (CGA) et les règlements de la CMSE sont applicables".
La section Aa du contrat Wirte prévoit, à son ch. II/1. 1, le versement d'une indemnité journalière de 80 % du salaire assuré en cas d'incapacité de travail par suite de maladie et attestée par un médecin ou un chiropraticien. Aux termes du ch. II/2. 1, est considéré comme salaire assuré le salaire déterminant pour l'AVS décompté avec l'AVS-Wirte (sans déduction de la franchise pour les rentiers AVS) jusqu'à un maximum de 10 000 fr. par mois (y compris gratification et 13ème salaire).
bb) Après la fin des rapports de travail, la recourante a demandé et obtenu, conformément au ch. IV/4. 1 de la section Aa du contrat Wirte, la continuation de l'assurance à titre individuel pour une indemnité journalière de 92 fr., couverture qui correspond à celle dont elle bénéficiait dans l'assurance collective. Son rapport d'assurance a depuis lors été régi par les CGA et les règlements de la CMSE (ch. IV/4. 2/section Aa du contrat Wirte).
3.- a) Selon les premiers juges, le montant de 4500 fr. reconnu par l'ex-employeur ne doit pas être pris en compte comme salaire assuré, car la transaction passée devant le Tribunal civil du district de Lausanne ne le "qualifie pas expressément de salaire arriéré et, comme il y a eu transaction, le tribunal n'a pas eu à se prononcer sur les prétentions de la demanderesse". A leurs yeux, l'intimée est au surplus libérée de toute obligation à l'égard de la recourante, parce que celle-ci a conclu un arrangement avec son ex-employeur sans le consentement préalable de la SWICA (cf. art. 24 ch. 4 CGA).
Pour sa part, la recourante soutient que le conflit de travail qui l'opposait à R._ avait trait à des prétentions salariales, si bien que la somme reconnue transactionnellement par son ex-employeur doit être prise en considération comme salaire assuré.
b) Contrairement à l'opinion des premiers juges, il n'est pas décisif que le tribunal civil n'ait pas eu à statuer formellement sur les prétentions de la travailleuse, en raison de la conclusion d'une transaction judiciaire. Car, selon la jurisprudence de la Cour de céans, on peut en règle générale présumer des transactions passées devant les juridictions prud'homales qu'elles reflètent pour l'essentiel la situation telle qu'elle se présente en fait et en droit. Aussi bien, le juge des assurances sociales n'examinera en principe pas de façon indépendante les questions préjudicielles (dont il aurait à connaître) qui seraient résolues par ces transactions. Il y a en effet lieu d'attacher une présomption d'exactitude aux transactions judiciaires conclues dans le cadre d'une procédure civile ordinaire, après que les parties ont pu confronter leur point de vue et présenter leurs offres de preuves (SVR 1995 UV 33 p. 102 consid. 4b).
En l'espèce, il ressort du procès-verbal du 26 février 1996 du Tribunal civil du district de Lausanne, que le juge civil a entendu les parties et auditionné des témoins avant d'instrumenter la transaction en cause. On peut donc présumer que celle-ci consacre une solution juridiquement bien fondée dans son résultat. On ne sait cependant pas à quel titre l'ex-employeur s'est déclaré redevable d'une somme de 4500 fr. à l'égard de C._, la transaction étant muette sur ce point. Or, cette question est déterminante pour l'issue du litige.
c) En effet, à supposer que cette somme représente, comme le soutient la recourante, un complément de salaire de 900 fr. par mois (pour cinq mois de travail), il faudrait alors l'inclure dans le salaire assuré aussi bien - les règles sur la surindemnisation étant réservées - pour le calcul de l'indemnité journalière due pendant la durée des rapports de travail (vu le ch. II/2. 1 de la section Aa du contrat Wirte) que pour celui de l'indemnité journalière due après la résiliation des rapports de travail (vu le ch. IV/4. 1 de la section Aa du contrat Wirte qui prévoit le droit à "la continuation de l'assurance pour une couverture n'excédant pas celle de l'assurance collective"). A cet égard, il est sans importance que lecomplémentdesalairealléguéaitétéaccordéetverséquelquehuitmoisaprèslapériodeàlaquelleilserapporte : au regard des dispositions topiques précitées du contrat Wirte, seul compte le fait que ce complément fasse effectivement partie du salaire déterminant AVS de la période en cause (compar. SVR 1995 UV 33 p. 101 sv. au sujet du gain assuré de l'<ref-law>). Par ailleurs, toujours dans l'hypothèse où le montant reconnu transactionnellement par l'ex-employeur aurait valeur de complément de salaire, l'intimée ne pourrait pas se prévaloir de l'art. 24 ch. 4 CGA pour refuser de le prendre en considération comme salaire assuré. Certes, cette disposition prévoit que si l'assuré conclut un arrangement avec un tiers sans le consentement préalable de SWICA, celle-ci est libérée de toute obligation à son endroit. Cette limitation de la responsabilité ne vaut toutefois qu'à l'égard des arrangement passés avec des tiers qui, parallèlement à SWICA, sont également tenus à prestations (cf. art. 24 ch. 1 CGA), ce qui n'est pas le cas de l'ex-employeur de l'assurée.
d) Pour établir que le montant reconnu par son ex-employeur correspond bien à un complément de salaire, la recourante argüe du fait que la rémunération fixée dans son contrat de travail ne respectait pas le salaire minimum mensuel garanti par la convention collective. Elle fait également observer que l'assurance-invalidité a recalculé les indemnités journalières lui revenant en se fondant sur un revenu journalier moyen de 150 fr. (ce qui équivaut à un revenu mensuel moyen d'environ 4500 fr.). De son côté, l'intimée réfute les allégués de la recourante, en faisant valoir qu'il n'est nullement établi que c'est à titre de complément de salaire que l'ex-employeur lui a versé une somme de 4500 fr. A cet égard, elle fait notamment remarquer que, selon un rapport du 23 septembre 1995 de sa déléguée du service médical, l'assurée aurait alors déclaré que le litige avec son ex-employeur portait sur la validité du congé.
e) En l'état, il n'est donc pas possible de dire à quel titre le montant de 4500 fr. a été reconnu par l'ex-employeur de la recourante. En conséquence, le dossier doit être renvoyé à la juridiction cantonale afin qu'elle ordonne les mesures d'instruction nécessaires pour élucider cette question. A cet effet, elle requerra l'édition des pièces produites devant la juridiction civile (singulièrement le mémoire de demande) et entendra l'ex-employeur de la recourante ainsi que, si besoin est, les autres témoins dont celle-ci a demandé l'audition en procédure cantonale.
4.-S'agissantd'unlitigequiconcernel'octroiou le refus de prestations d'assurance, la procédure est gratuite (art. 134 OJ). En outre, la partie qui obtient gain de cause a droit à des dépens (art. l35 en corrélation avec l'art. 159 OJ). La demande d'assistance judiciaire est dès lors sans objet.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est admis et le jugement du 25 mars 1999 du Tribunal des assurances du canton de Vaud est annulé, la cause étant renvoyée à cette autorité pour instruction complémentaire et nouveau jugement au sens des considérants.
II. Il n'est pas perçu de frais de justice.
III. L'intimée versera à la recourante une indemnité de dépens de 2500 fr. pour l'instance fédérale.
IV. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 16 mars 2000
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
Le Greffier :