A.- Le 1er juin 1992, V._ a été victime d'un accident de la circulation. Consulté le même jour, son médecin traitant, le docteur E._, a constaté un «coup du lapin» et fait état d'une incapacité de travail entière jusqu'au 14 juin 1992, puis de 50 % du 15 juin au 10 juillet 1992. Ayant entièrement repris son activité d'assistante médicale à partir du 11 juillet 1992, V._ s'est plainte de douleurs persistantes (cervico-brachialgies et céphalées) à la suite desquelles elle a été derechef reconnue totalement incapable de travailler, pour une durée indéterminée, à partir du 20 avril 1993. Son employeur l'a licenciée avec effet au 31 décembre 1993.
Les nombreux examens médicaux pratiqués par la suite n'ont pas permis de mettre en évidence de lésions significatives, en particulier d'ordre neurologique ou orthopédique (cf. rapports des 27 septembre et 1er décembre 1993 établis respectivement par les docteurs P._, spécialiste FMH en chirurgie orthopédique, et H._, spécialiste FMH en neurologie). Désigné comme expert par la Vaudoise Assurances, qui intervenait en qualité d'assureuraccidents, le docteur F._, médecin-chef au département médical de l'Institution X._, a posé le diagnostic de cervicalgies et céphalées chroniques (après une distorsion cervicale simple) et de fibrosité cervico-dorsale; il a par ailleurs estimé la capacité de travail de l'assurée à 80 % dans une activité adaptée (rapport du 5 mai 1994).
Le 6 mai 1994, V._ a présenté une demande de prestations de l'assurance-invalidité tendant à l'octroi d'une rente.
Sur la proposition du docteur E._ (rapport du
9 novembre 1995), qui faisait remarquer la difficulté d'évaluer la capacité de travail de l'assurée, cette dernière a été examinée au Centre médical d'observation de l'assurance-invalidité (COMAI). Dans un rapport du 10 décembre 1996, les médecins du COMAI ont diagnostiqué, à l'issue d'examens pluridisciplinaires, des cervicalgies chroniques, une uncarthrose C7-D1, une distorsion de la colonne cervicale et des troubles somatoformes douloureux persistants chez une personnalité psychotique; ils ont en outre constaté une capacité de travail d'au moins 80 % comme assistante médicale, ajoutant que des mesures professionnelles n'étaient pas nécessaires.
Par décision du 18 juin 1997, l'OAI a rejeté la demande de prestations de l'assurée, motif pris que cette dernière ne présentait pas un degré d'invalidité suffisant pour ouvrir droit à des prestations.
B.- V._ a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud, en concluant à l'octroi d'une rente entière d'invalidité à partir du 1er juin 1993. A l'appui de son recours, elle a produit un rapport établi le 29 octobre 1997 par le docteur K._, neurologue, selon lequel elle présente une incapacité de travail de 100 % dans son activité habituelle et de 50 % dans les tâches ménagères.
L'OAI a conclu au rejet du recours, en déposant un rapport d'expertise pluridisciplinaire du 8 juin 1998 émanant de la Clinique Y._. Selon les experts, l'assurée jouit d'une capacité de travail de 50 %, tant dans son activité habituelle que dans les tâches ménagères; ils estiment par ailleurs, en se référant à l'avis de leurs confrères du COMAI, que dans une activité adaptée qui est variée et laisse «une grande liberté de mouvement» à l'assurée, celle-ci est à même de travailler à 80 % au moins.
Par jugement du 24 décembre 1998, le tribunal cantonal
a rejeté le recours.
C.- V._ interjette recours de droit administratif contre ce jugement. Elle conclut principalement à la réforme de celui-ci et à l'octroi d'une rente entière d'invalidité (ou en tout cas d'une demi-rente) à partir du 1er juin 1993 et, à titre subsidiaire, au renvoi de la cause à la juridiction cantonale pour instruction complémentaire et nouveau jugement, le tout sous suite de dépens. Elle joint à son recours une transaction extrajudiciaire du 26 mai 1999 aux termes de laquelle la Vaudoise Assurances lui a reconnu le droit à une rente fondée sur un taux d'invalidité de 50 %.
L'OAI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales ne s'est pas déterminé.

Considérant en droit :
1.- Le litige porte sur le droit de la recourante à une rente d'invalidité.
2.- Selon les premiers juges, il convient d'admettre qu'en l'absence d'atteinte à la santé, la recourante exercerait - ainsi qu'elle l'a allégué (cf. rapport d'enquête économique du 24 juin 1994) - une activité lucrative à temps complet, si bien que son invalidité doit être évaluée selon les principes applicables aux personnes exerçant une activité lucrative, en application de l'<ref-law>. Eu égard notamment à la situation familiale de la recourante, qui vit séparée de son mari depuis 1995, la décision des premiers juges d'appliquer la disposition réglementaire précitée pour trancher le litige n'est pas critiquable et n'est d'ailleurs pas contestée par les parties.
Pour le surplus, le jugement entrepris rappelle correctement les dispositions légales et les principes jurisprudentiels applicables en l'espèce, de sorte qu'il suffit d'y renvoyer.
3.- a) D'après les premiers juges, il résulte des pièces médicales au dossier, en particulier de l'expertise réalisée au COMAI, que la recourante jouit d'une capacité de travail résiduelle de 80 % dans une activité adaptée, ce qui lui permettrait - en la mettant à profit - de réaliser un revenu d'invalide équivalant au moins à 60 % de celui qui serait le sien sans invalidité.
S'appuyant sur les avis des docteurs K._ et D._ (qui est médecin-chef à la Clinique Y._), la recourante soutient pour sa part qu'elle présente une incapacité de travail - et de gain - entière ou du moins supérieure à 50 %.
b) En bref, les experts du COMAI ont considéré que les atteintes somatiques présentées par l'assurée à la colonne cervicale et aux membres supérieurs étaient «extrêmement discrètes», singulièrement qu'elles se limitaient à une uncarthrose débutante au niveau C7-D1. Sur le plan psychique, ils ont par ailleurs constaté des troubles somatoformes douloureux sans symptomatologie dépressive nette. Selon eux, l'ensemble des limitations résultant des troubles d'ordre somatique et psychique ne diminuent que faiblement, de 20 % au plus, la capacité de travail de l'assurée dans une activité adaptée. Est adaptée, à leurs yeux, une activité qui ne requiert pas de position statique prolongée de la colonne cervicale (comme des travaux à l'ordinateur ou au microscope durant plus de deux heures d'affilée) ou des mouvements répétés d'extension de la nuque.
Rendu au terme d'une étude fouillée de l'ensemble du
dossier médical ainsi qu'à l'issue d'examens pluridisciplinaires particulièrement approfondis (aux plans ostéo-articulaire, neurologique et psychiatrique), le rapport d'expertise du COMAI remplit toutes les exigences auxquelles la jurisprudence soumet la valeur probante d'un tel document (cf. <ref-ruling> consid. 1c et les références), si bien qu'il n'y a pas lieu de s'écarter de ses conclusions.
Certes, le docteur K._ considère-t-il comme nulle la capacité de travail de la recourante dans son activité habituelle. Toutefois, cette appréciation n'est pas décisive, car elle ne repose pas sur des examens aussi complets que ceux réalisés dans le cadre de l'expertise pluridisciplinaire mise en oeuvre au COMAI; à cela s'ajoute qu'elle n'est ni clairement ni suffisamment motivée, vu en particulier l'absence d'explications sur les raisons qui ont conduit le docteur K._ à s'écarter des conclusions de ses confrères. Quant à l'avis de la doctoresse D._, la recourante l'invoque vainement, car ce médecin a fait siennes les conclusions du COMAI en s'y ralliant sans restriction dans son rapport du 8 juin 1998.
c) Etant donné la capacité de travail résiduelle de la recourante, c'est à bon droit que l'intimé et les premiers juges lui ont dénié le droit à une rente d'invalidité.
A cet égard, il est sans importance que la Vaudoise Assurances lui ait accordé une rente fondée sur un taux d'invalidité de 50 % : en effet, lorsque le degré d'invalidité admis par l'assurance-accidents a été - comme c'est le cas en l'occurrence - fixé transactionnellement, il ne se justifie plus de faire dépendre de celui-ci le taux estimé par l'assurance-invalidité, nonobstant l'identité de la notion d'invalidité dans ces deux branches de l'assurance sociale (<ref-ruling> sv consid. 2a).
Le recours est mal fondé.
4.- La recourante succombe, de sorte qu'elle ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 159 al. 1 en corrélation avec l'art. 135 OJ).

Par ces motifs, le Tribunal fédéral des assurances
p r o n o n c e :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tri-
bunal des assurances du canton de Vaud et à l'Office
fédéral des assurances sociales.
Lucerne, le 27 janvier 2000
Au nom du
Tribunal fédéral des assurances
Le Président de la IIIe Chambre :
Le Greffier :