Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Die Leistungen, deren Kosten von der obligatorischen Krankenpflegeversicherung bei Krankheit zu übernehmen sind, werden in Art. 25 des Bundesgesetzes über die Krankenversicherung (KVG) in allgemeiner Weise umschrieben.
Im Vordergrund stehen die Leistungen der Ärzte und Ärztinnen, dann aber auch der Chiropraktoren und Chiropraktorinnen sowie der Personen, die im Auftrag von Ärzten und Ärztinnen Leistungen erbringen.
Die zahnärztlichen Leistungen sind in der genannten Bestimmung nicht aufgeführt. Die Kosten dieser Leistungen sollen im Krankheitsfalle der obligatorischen Krankenpflegeversicherung - wie die Vorinstanz zutreffend darlegt - nur in eingeschränktem Masse überbunden werden, nämlich wenn die zahnärztliche Behandlung durch eine schwere, nicht vermeidbare Erkrankung des Kausystems (Art. 31 Abs. 1 lit. a KVG) oder durch eine schwere Allgemeinerkrankung oder ihre Folgen bedingt (Art. 31 Abs. 1 lit. b KVG) oder zur Behandlung einer schweren Allgemeinerkrankung oder ihrer Folgen notwendig ist (Art. 31 Abs. 1 lit. c KVG).
b) Gestützt auf Art. 33 Abs. 2 und 5 KVG in Verbindung mit Art. 33 lit. d der Verordnung über die Krankenversicherung (KVV) hat das Departement in der Verordnung über Leistungen in der obligatorischen Krankenpflegeversicherung (Krankenpflege-Leistungsverordnung [KLV]) zu jedem der erwähnten Unterabsätze von Art. 31 Abs. 1 KVG einen eigenen Artikel erlassen, nämlich zu lit. a den Art. 17 KLV, zu lit. b den Art. 18 KLV und zu lit. c den Art. 19 KLV. In Art. 17 KLV werden die schweren, nicht vermeidbaren Erkrankungen des Kausystems aufgezählt, bei denen daraus resultierende zahnärztliche Behandlungen von der obligatorischen Krankenpflegeversicherung zu übernehmen sind. In Art. 18 KLV werden die schweren Allgemeinerkrankungen und ihre Folgen aufgelistet, die zu zahnärztlicher Behandlung führen können und deren Kosten von der obligatorischen Krankenpflegeversicherung zu tragen sind. In Art. 19 KLV schliesslich hat das Departement die schweren Allgemeinerkrankungen aufgezählt, bei denen die zahnärztliche Massnahme notwendiger Bestandteil der Behandlung darstellt.
c) In BGE 124 V 185 hat das Eidgenössische Versicherungsgericht entschieden, dass die in Art. 17-19 KLV erwähnten Erkrankungen, welche von der obligatorischen Krankenpflegeversicherung zu übernehmende zahnärztliche Behandlungen bedingen, abschliessend aufgezählt sind. Daran hat es in ständiger Rechtsprechung festgehalten (BGE 127 V 332 Erw. 3a und 343 Erw. 3b).
2.- Unbestritten und aus den Akten ersichtlich ist, dass die Versicherte seit 1994 wegen Beschwerden in beiden Kiefergelenken bei Dr. med. dent. C._ in Behandlung stand. Nachdem zunächst ein Physiotherapieprogramm für die Kaumuskulatur sowie eine Schienentherapie durchgeführt worden waren, stellte der behandelnde Zahnarzt im Dezember 1996 ein Gesuch um teilweise oder ganze Übernahme der Kosten für eine definitive prothetische Rekonstruktion.
a) Die Krankenkasse verneinte eine Leistungspflicht im Wesentlichen mit der Begründung, aufgrund der Abklärungen und Angaben ihres Vertrauenszahnarztes müsse davon ausgegangen werden, dass bei der Versicherten eine Erkrankung des Kausystems vorliege, nämlich eine artikuläre Dysfunktion und Tendomyopathie. Diese Erkrankung sei jedoch in der abschliessenden Liste des Art. 17 KLV nicht aufgeführt und könne auch nicht unter Art. 17 lit. d KLV subsumiert werden.
Ebenso wenig fielen das "nächtliche Kauen" und die daraus resultierende "unregelmässige Bisshöhe" unter Art. 17 KLV. Aus dem Erbrechen könne sodann nicht auf eine Leistungspflicht nach Art. 18 lit. c Ziff. 7 KLV geschlossen werden, seien doch keine Bulimie oder Anorexie, sondern Asthma, Sinusitis und vegetative Dystonie diagnostiziert worden. Schliesslich falle auch keine vorausgehende zahnärztliche Behandlung im Sinne von Art. 19 KLV in Betracht.
b) Die Beschwerdeführerin macht demgegenüber im Wesentlichen geltend, die bei ihr diagnostizierten Beschwerden seien unter Art. 17 lit. d KLV zu subsumieren, da in der Form der artikulären Dysfunktion und Tendomyopathie eine Kondylus- und Diskusluxation vorliege, welche möglicherweise bereits die Stufe einer Gelenksarthrose des Kiefers erreicht habe. Aus dem Gutachten des PD Dr. med. dent. B._ vom 15. Februar 1999 gehe sodann hervor, dass die übrigen Krankheiten, unter welchen die Versicherte leide, insbesondere das chronische Asthma bronchiale, die chronische polypöse Sinusitis/Semptumdeviation und die vegetative Dysponie direkte Folge der dysfunktionsbedingten Erkrankungen der Kaumuskulatur, der Kiefergelenke und der Okklusion seien oder sein könnten. Die entsprechenden zahnärztlichen Behandlungen seien demzufolge von der obligatorischen Krankenpflegeversicherung zu übernehmen.
c) Das Versicherungsgericht des Kantons Basel-Stadt hat in seinem Entscheid festgehalten, dass die beigezogenen Gutachter ein vielschichtiges Krankheitsgeschehen diagnostiziert hätten. Keine der gestellten Diagnosen sei jedoch durch die Art. 17 ff. KLV erfasst. Zudem falle auf, dass sowohl PD Dr. med. dent. B._ wie auch Prof. Dr. med. et Dr. med. dent. P._ nur mögliche Zusammenhänge bei den Erkrankungen der Beschwerdeführerin erwähnten, was in Anbetracht des erforderlichen Beweisgrades der überwiegenden Wahrscheinlichkeit nicht genüge.
d) Die Beschwerdeführerin hält daran fest, dass ihre Beschwerden - zumindest für den Zeitpunkt des Gesuchs um Kostengutsprache - unter Art. 17 lit. d KLV zu subsumieren seien. Die entsprechenden Beschwerden seien denn auch mit dem erforderlichen Beweisgrad der überwiegenden Wahrscheinlichkeit nachgewiesen. Der Beweis sei jedoch dadurch erschwert, dass die Beschwerdegegnerin das ganze Verfahren ausserordentlich in die Länge gezogen habe. Da in der Zwischenzeit die Michiganschiene konsequent getragen worden sei, habe sich das Beschwerdebild verändert.
3.- Festzuhalten ist zunächst, dass die Behauptung der Beschwerdeführerin, die beschwerdegegnerische Krankenversicherung habe das Abklärungsverfahren nach Erhalt des Kostengutsprachegesuchs absichtlich in die Länge gezogen, als unbegründet erscheint. Wie aus den Akten deutlich hervorgeht, haben sich beide Parteien sowohl bei der Bezeichnung des Gutachters wie auch bei der Formulierung der an ihn zu stellenden Fragen sehr schwer getan, was zu Verzögerungen geführt hat. Zeit gekostet hat zudem auch ein Wechsel bei der Rechtsvertretung der Beschwerdeführerin.
4.- Für die Beurteilung der vorliegend streitigen Leistungspflicht aus der obligatorischen Krankenpflegeversicherung ist klarzustellen, dass zwischen ärztlichen und zahnärztlichen Behandlungen zu unterscheiden ist.
a) Sowohl Art. 31 Abs. 1 KVG wie auch die Art. 17-19 KLV sprechen von "zahnärztlichen Behandlungen", die durch bestimmte Erkrankungen bedingt sind oder die Behandlung bestimmter Erkrankungen unterstützen. Die zahnärztlichen Behandlungen einerseits und die Erkrankungen andererseits stehen in einer Wechselwirkung. Die von der sozialen Krankenversicherung zu übernehmenden zahnärztlichen Behandlungen müssen entweder die Folge ("bedingt") und die bestimmten Erkrankungen die Ursache sein (Art. 17 und 18 KLV) oder die zahnärztlichen Behandlungen müssen die Behandlung bestimmter Erkrankungen unterstützen (Art. 19 KLV). Keineswegs verhält es sich so, dass die Behandlungen aller aufgeführten Erkrankungen zu zahnärztlichen Behandlungen geworden sind. Die Behandlung maligner Tumore im Gesichts-, Kiefer- und Halsbereich (Art. 17 lit. c Ziff. 2 KLV) beispielsweise wird niemand im Ernst als zahnärztliche Behandlung aufgefasst wissen noch deren Behandlung davon abhängig machen wollen, ob das Tumorleiden vermeidbar gewesen sei.
Noch deutlicher zeigt sich dies in Art. 18 KLV, wo in gleicher Weise eine Wechselwirkung zwischen der schweren Allgemeinerkrankung als Ursache und der zahnärztlichen Behandlung als Folge besteht. Die beiden Bestimmungen Art. 17 und 18 KLV unterscheiden sich nicht grundsätzlich, sondern lediglich hinsichtlich der örtlichen Nähe von Erkrankung als Ursache und zahnärztlicher Behandlung als Folge. Während die Erkrankungen gemäss Art. 17 lit. c, d, e und f KLV in der Nähe der Zähne und des Parodonts liegen und diese damit durch direkte Einwirkung schädigen können, ist bei den meisten der in Art. 18 KLV aufgelisteten schweren Allgemeinerkrankungen ein solch enger Bezug nicht vorhanden.
Besonders augenfällig zeigt sich hier, dass die Behandlung der schweren Allgemeinerkrankung und die zahnärztliche Behandlung nicht das Gleiche sind und dass die erste klarerweise eine ärztliche Behandlung darstellt (zur Publikation in der Amtlichen Sammlung vorgesehenes Urteil M. vom 28. März 2002, K 84/00).
b) Die im Vordergrund stehenden Kriterien für die Abgrenzung zwischen ärztlicher und zahnärztlicher Behandlung sind der Ansatzpunkt und die therapeutische Zielsetzung der Behandlung.
aa) Stellt man zunächst auf den Ansatzpunkt ab, sind zahnärztliche Behandlungen - wie bereits gemäss konstanter Rechtsprechung zum KUVG - grundsätzlich therapeutische Vorkehren am Kausystem. Darunter fallen die Behandlung der Zähne, des Zahnhalteapparates sowie die Behandlung an den Organbereichen, die ein künstliches Gebiss aufzunehmen haben (BGE 120 V 195 Erw. 2b).
bb) Als weiteres entscheidendes Kriterium dient die therapeutische Zielsetzung, die sich danach bestimmt, welcher Körperteil oder welche Funktion unmittelbar therapiert oder verbessert werden soll (vgl. Gebhard Eugster, Krankenversicherung, in Schweizerisches Bundesverwaltungsrecht [SBVR], Soziale Sicherheit, Fn 333).
cc) Einige Beispiele mögen der Veranschaulichung dienen:
Während etwa bei der Überkronung eines schadhaften Zahnes Ansatzpunkt und therapeutische Zielsetzung den gleichen Zahn betreffen, können sie auch verschiedene Bereiche erfassen. Eine Aufbissschiene beispielsweise, die nicht zur Verbesserung der Funktion der Zähne bei der Zerkleinerung der Nahrung, sondern zur Entlastung arthrotischer Kiefergelenke angebracht wird, setzt zwar am Zahnapparat an, bezweckt aber die Therapierung der Kieferarthrose. In solchen Fällen wird im Allgemeinen der therapeutischen Zielsetzung das grössere Gewicht beizumessen sein, was bedeutet, dass das Anbringen einer solchen Aufbissschiene als ärztliche Massnahme anzusehen ist. Umgekehrt liegt eine zahnärztliche Behandlung vor, wenn sie die Zähne als solche oder ihre vordringliche Funktion zur Zerkleinerung der Nahrung (Verbesserung der Bissverhältnisse) betrifft. Daran ändert auch nichts, wenn der Ansatzpunkt der Behandlung im Kieferbereich ausserhalb des Zahnapparates und des Parodonts liegt. Die therapeutische Zielsetzung, die auf eine Verbesserung dieser Funktion gerichtet ist, gibt den Ausschlag und macht die Behandlung zu einer zahnärztlichen.
c) Die genannten Kriterien dürften im Allgemeinen zur Unterscheidung zwischen zahnärztlicher und ärztlicher Behandlung ausreichen. Soweit es nötig sein sollte, könnten ergänzend weitere sachdienliche Kriterien herangezogen werden.
5.- Während die Kosten für eine ärztliche Behandlung von der obligatorischen Krankenpflegeversicherung bei gegebenen Krankheitswert nach Massgabe von Art. 25 KVG zu übernehmen sind, richtet sich die Leistungspflicht für eine zahnärztliche Behandlung nach Art. 31 Abs. 1 KVG in Verbindung mit Art. 17 ff. KLV.
a) Die durchgeführte Therapie mittels einer Michiganschiene setzte wohl an den Zähnen an; therapeutische Zielsetzung war aber klarerweise die Entlastung der Kiefermuskulatur und der Kiefergelenke. Damit fallen vorliegend Ansatzpunkt und therapeutische Zielsetzung auseinander. Es ist kein Grund ersichtlich, von der Regel abzuweichen, wonach der therapeutischen Zielsetzung grösseres Gewicht beizumessen ist (Erw. 4b/cc). Damit liegt eine ärztliche Behandlung vor. Die Kosten hiefür und für Massnahmen mit der gleichen therapeutischen Zielsetzung sind demzufolge - nachdem der Krankheitswert der Kiefergelenksbeschwerden gestützt auf die medizinischen Akten ohne weiteres zu bejahen ist - von der Beschwerdegegnerin nach Massgabe von Art. 25 KVG zu übernehmen, und demzufolge unabhängig davon, ob die Erkrankung der Versicherten in Art. 17 ff. KLV aufgeführt ist.
Der Vollständigkeit halber ist in diesem Zusammenhang darauf hinzuweisen, dass Zahnärzte und Zahnärztinnen für ärztliche Behandlungen in der Mundhöhle, die nicht zahnärztliche Vorkehren im engeren Sinne sind und die trotzdem fast ausschliesslich von Zahnärzten und Zahnärztinnen vorgenommen werden, auch unter Geltung des KVG als Leistungserbringer und Leistungserbringerinnen anerkannt sind (zur Publikation in der Amtlichen Sammlung vorgesehenes Urteil M. vom 28. März 2002, K 84/00).
b) Die Übernahme der Kosten für zahnärztliche Behandlungen durch die obligatorische Krankenpflegeversicherung setzt voraus, dass die Erkrankung der Versicherten in Art. 17 ff. KLV aufgeführt ist. Zu prüfende Anknüpfungspunkte sind vorliegend die Kiefergelenksarthrose gemäss Art. 17 lit. d Ziff. 1 KLV und die Kondylus- und Diskusluxation gemäss Art. 17 lit. d Ziff. 3 KLV.
Aus dem Gutachten des PD Dr. med. dent. B._ vom 15. Februar 1999 können keine Schlüsse hinsichtlich des Vorliegens einer dieser Erkrankungen gezogen werden. Der gerichtlich bestellte Experte Prof. Dr. med. et Dr. med. dent. P._ sodann sagt in seinem Gutachten vom 25. November 1999 unter Ziff. 3, radiologisch (OPT) könne rechts eine beginnende Kiefergelenksarthrose vermutet werden.
Er legt jedoch nicht dar, wie er zu dieser Diagnose gelangt. Anzunehmen ist, dass er dies aus dem Röntgenbefund, den er unter der Anamnese in Ziff. 1.a wiedergibt, ableitet, wonach bezüglich der Kiefergelenke rechtsseitig eine Abflachung festzustellen sei. Im Atlas der Erkrankungen mit Auswirkungen auf das Kausystem (SSO-Atlas), herausgegeben von der Schweizerischen Zahnärzte-Gesellschaft SSO, wird hiezu ausgeführt, dass frühe Veränderungen an der Gelenksoberfläche konventionell-radiologisch nicht erkennbar seien, sondern erst die "zunehmende Abflachung". Eine solche Abflachung scheint für die Diagnose des Gutachters verantwortlich zu sein. Im Sinne einer sorgfältigen Abklärung des Sachverhaltes ist der Experte noch danach zu fragen. Er wird in diesem Zusammenhang auch zu erklären haben, was es bedeutet, wenn er diese Diagnose vermutet, insbesondere ob mit überwiegender Wahrscheinlichkeit von einer Kiefergelenksarthrose auszugehen sei. Eine Kiefergelenksarthrose für sich allein vermag, wie oben dargelegt, die Leistungspflicht der obligatorischen Krankenpflegeversicherung für die Kosten der zahnärztlichen Behandlung grundsätzlich zu begründen. Nachdem aber der Gutachter ohnehin nochmals zu befragen ist und auch der Fall in Betracht zu ziehen ist, dass er die überwiegende Wahrscheinlichkeit für das Vorliegen einer Kiefergelenksarthrose verneint, ist er auch anzuhalten, zu prüfen (allenfalls mit Magnet-Resonanz-Tomographie), ob eine Kondylus- und/oder Diskusluxation vorliegt.
Die Sache ist deshalb an die Vorinstanz zurückzuweisen, damit sie diese Abklärungen bei dem von ihr bestellten Gutachter noch durchführen kann.
6.- Sollte sich aufgrund der nachzuholenden Abklärungen ergeben, dass die Beschwerdegegnerin für die Kosten der zahnärztlichen Behandlung grundsätzlich leistungspflichtig ist, hat das Gericht entweder selber abzuklären oder durch die Beschwerdegegnerin abklären zu lassen, welche Massnahmen unter dem Gesichtswinkel des Art. 17 KLV zur Behandlung des Leidens notwendig und im Sinne von Art. 32 Abs. 1 KVG wirksam, zweckmässig und wirtschaftlich sind. Allfällige Kosten sind in jedem Fall nur soweit zu übernehmen, als die zahnärztliche Behandlung durch eine oder durch beide der oben erwähnten Erkrankungen bedingt ist.
Demnach erkennt das Eidg. Versicherungsgericht:
I.Die Verwaltungsgerichtsbeschwerde wird in dem Sinne gutgeheissen, dass der Entscheid des Versicherungsgerichts des Kantons Basel-Stadt vom 30. August 2000 und der Einspracheentscheid der Visana vom 19. März 1999 aufgehoben werden, und es wird festgestellt, dass die Visana für die ärztliche Behandlung der Beschwerden am Kiefer (Kiefermuskulatur und Kiefergelenk) aufzukommen hat. Im Übrigen wird die Sache an die Vorinstanz zurückgewiesen, damit sie im Sinne der Erwägungen verfahre.
II.Es werden keine Gerichtskosten erhoben.
III. Die Visana hat der Beschwerdeführerin für das Verfahren vor dem Eidgenössischen Versicherungsgericht eine Parteientschädigung von Fr. 2500.- (einschliesslich Mehrwertsteuer) zu bezahlen.
IV. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht Basel-Stadt und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 22. April 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der I. Kammer:
Die Gerichtsschreiberin: