A.- Le 1er juin 1992, V._ a été victime d'un accident de la circulation. Consulté le même jour, son médecin traitant, le docteur E._, a constaté un «coup du lapin» et fait état d'une incapacité de travail entière jusqu'au 14 juin 1992, puis de 50 % du 15 juin au 10 juillet 1992. Ayant entièrement repris son activité d'assistante médicale à partir du 11 juillet 1992, V._ s'est plainte de douleurs persistantes (cervico-brachialgies et céphalées) à la suite desquelles elle a été derechef reconnue totalement incapable de travailler, pour une durée indéterminée, à partir du 20 avril 1993. Son employeur l'a licenciée avec effet au 31 décembre 1993. Les nombreux examens médicaux pratiqués par la suite n'ont pas permis de mettre en évidence de lésions significatives, en particulier d'ordre neurologique ou orthopédique (cf. rapports des 27 septembre et 1er décembre 1993 établis respectivement par les docteurs P._, spécialiste FMH en chirurgie orthopédique, et H._, spécialiste FMH en neurologie). Désigné comme expert par la Vaudoise Assurances, qui intervenait en qualité d'assureuraccidents, le docteur F._, médecin-chef au département médical de l'Institution X._, a posé le diagnostic de cervicalgies et céphalées chroniques (après une distorsion cervicale simple) et de fibrosité cervico-dorsale; il a par ailleurs estimé la capacité de travail de l'assurée à 80 % dans une activité adaptée (rapport du 5 mai 1994). Le 6 mai 1994, V._ a présenté une demande de prestations de l'assurance-invalidité tendant à l'octroi d'une rente. Sur la proposition du docteur E._ (rapport du 9 novembre 1995), qui faisait remarquer la difficulté d'évaluer la capacité de travail de l'assurée, cette dernière a été examinée au Centre médical d'observation de l'assurance-invalidité (COMAI). Dans un rapport du 10 décembre 1996, les médecins du COMAI ont diagnostiqué, à l'issue d'examens pluridisciplinaires, des cervicalgies chroniques, une uncarthrose C7-D1, une distorsion de la colonne cervicale et des troubles somatoformes douloureux persistants chez une personnalité psychotique; ils ont en outre constaté une capacité de travail d'au moins 80 % comme assistante médicale, ajoutant que des mesures professionnelles n'étaient pas nécessaires. Par décision du 18 juin 1997, l'OAI a rejeté la demande de prestations de l'assurée, motif pris que cette dernière ne présentait pas un degré d'invalidité suffisant pour ouvrir droit à des prestations. B.- V._ a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud, en concluant à l'octroi d'une rente entière d'invalidité à partir du 1er juin 1993. A l'appui de son recours, elle a produit un rapport établi le 29 octobre 1997 par le docteur K._, neurologue, selon lequel elle présente une incapacité de travail de 100 % dans son activité habituelle et de 50 % dans les tâches ménagères. L'OAI a conclu au rejet du recours, en déposant un rapport d'expertise pluridisciplinaire du 8 juin 1998 émanant de la Clinique Y._. Selon les experts, l'assurée jouit d'une capacité de travail de 50 %, tant dans son activité habituelle que dans les tâches ménagères; ils estiment par ailleurs, en se référant à l'avis de leurs confrères du COMAI, que dans une activité adaptée qui est variée et laisse «une grande liberté de mouvement» à l'assurée, celle-ci est à même de travailler à 80 % au moins. Par jugement du 24 décembre 1998, le tribunal cantonal a rejeté le recours. C.- V._ interjette recours de droit administratif contre ce jugement. Elle conclut principalement à la réforme de celui-ci et à l'octroi d'une rente entière d'invalidité (ou en tout cas d'une demi-rente) à partir du 1er juin 1993 et, à titre subsidiaire, au renvoi de la cause à la juridiction cantonale pour instruction complémentaire et nouveau jugement, le tout sous suite de dépens. Elle joint à son recours une transaction extrajudiciaire du 26 mai 1999 aux termes de laquelle la Vaudoise Assurances lui a reconnu le droit à une rente fondée sur un taux d'invalidité de 50 %. L'OAI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales ne s'est pas déterminé.