Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- a) Die Leistungen, deren Kosten von der obligatorischen Krankenpflegeversicherung bei Krankheit zu übernehmen sind, werden in Art. 25 des Bundesgesetzes über die Krankenversicherung (KVG) in allgemeiner Weise umschrieben.
Im Vordergrund stehen die Leistungen der Ärzte und Ärztinnen, dann aber auch der Chiropraktoren und Chiropraktorinnen sowie der Personen, die im Auftrag von Ärzten und Ärztinnen Leistungen erbringen.
Die zahnärztlichen Leistungen sind in der genannten Bestimmung nicht aufgeführt. Die Kosten dieser Leistungen sollen im Krankheitsfalle der obligatorischen Krankenpflegeversicherung - wie die Vorinstanz zutreffend darlegt - nur in eingeschränktem Masse überbunden werden, nämlich wenn die zahnärztliche Behandlung durch eine schwere, nicht vermeidbare Erkrankung des Kausystems (Art. 31 Abs. 1 lit. a KVG) oder durch eine schwere Allgemeinerkrankung oder ihre Folgen bedingt (Art. 31 Abs. 1 lit. b KVG) oder zur Behandlung einer schweren Allgemeinerkrankung oder ihrer Folgen notwendig ist (Art. 31 Abs. 1 lit. c KVG).
b) Gestützt auf Art. 33 Abs. 2 und 5 KVG in Verbindung mit Art. 33 lit. d der Verordnung über die Krankenversicherung (KVV) hat das Departement in der Verordnung über Leistungen in der obligatorischen Krankenpflegeversicherung (Krankenpflege-Leistungsverordnung [KLV]) zu jedem der erwähnten Unterabsätze von Art. 31 Abs. 1 KVG einen eigenen Artikel erlassen, nämlich zu lit. a den Art. 17 KLV, zu lit. b den Art. 18 KLV und zu lit. c den Art. 19 KLV. In Art. 17 KLV werden die schweren, nicht vermeidbaren Erkrankungen des Kausystems aufgezählt, bei denen daraus resultierende zahnärztliche Behandlungen von der obligatorischen Krankenversicherung zu übernehmen sind. In Art. 18 KLV werden die schweren Allgemeinerkrankungen und ihre Folgen aufgelistet, die zu zahnärztlicher Behandlung führen können und deren Kosten von der obligatorischen Krankenpflegeversicherung zu tragen sind. In Art. 19 KLV schliesslich hat das Departement die schweren Allgemeinerkrankungen aufgezählt, bei denen die zahnärztliche Massnahme notwendiger Bestandteil der Behandlung darstellt.
c) In BGE 124 V 185 hat das Eidgenössische Versicherungsgericht entschieden, das die in Art. 17-19 KLV erwähnten Erkrankungen, welche von der obligatorischen Krankenpflegeversicherung zu übernehmende zahnärztliche Behandlungen bedingen, abschliessend aufgezählt sind. Daran hat es in ständiger Rechtsprechung festgehalten (BGE 127 V 332 Erw. 3a und 343 Erw. 3b).
2.- Unbestritten ist, dass die Beschwerdeführerin an einer Tendomyopathie der Kaumuskulatur litt und deswegen bei verschiedenen Ärzten und Zahnärzten, unter anderem bei Prof. Dr. med. dent. P._, in Behandlung stand.
Dieser änderte die durch Dr. med. dent. S._ angefertigte Aufbissschiene ab, versorgte die Versicherte mit Magnesium und zeigte ihr Lockerungsübungen für die Gebissmuskulatur.
Streitig und zu prüfen ist, ob die Kosten der Behandlung durch Prof. Dr. med. dent. P._ im Betrag von Fr. 1170.- von der obligatorischen Krankenpflegeversicherung zu übernehmen sind.
a) Die Krankenkasse verneinte von vornherein eine Leistungspflicht im Wesentlichen mit der Begründung, zahnärztliche Behandlungen seien nur ausnahmsweise, nämlich in den in Art. 31 Abs. 1 KVG in Verbindung mit Art. 17 ff. KLV vorgesehenen Fällen von der Krankenkasse zu tragen. Die vorliegend diagnostizierte Tendomyopathie gehöre nicht dazu. Behandlungen durch Zahnärzte, die in den Tätigkeitsbereich der Ärzte fielen, könnten sodann durch die Krankenkasse nicht übernommen werden.
b) Die Versicherte macht geltend, es liege keine zahnärztliche Therapie vor, sondern vielmehr eine spezialärztliche Behandlung einer Erkrankung, die mit Zähnen oder Zahnhalteapparat nichts zu tun habe. Die Aufbissschiene diene nur dem Zweck, Kaumuskulatur und Kiefergelenk zu entlasten.
c) Die Vorinstanz bestätigt die Auffassung der Krankenkasse, wonach die für die Behandlung der Tendomyopathie in Rechnung gestellten Leistungen nicht zu den in Art. 17 KLV aufgelisteten, kassenpflichtigen Behandlungen zu zählen seien, weshalb eine Kostenübernahme zu Recht abgelehnt worden sei. Eine Lücke in der Liste der Pflichtleistungen liege nicht vor, vielmehr seien die zu übernehmenden zahnärztlichen Behandlungen in den Art. 17-19 KLV abschliessend aufgezählt.
3.- Der Argumentation von Krankenkasse und Vorinstanz ist zu entnehmen, dass sie die Regelung von Art. 31 Abs. 1 lit. a KVG in Verbindung mit Art. 17 KLV so verstehen, dass die Behandlung der Erkrankungen des Kausystems, das heisst der Zähne, des Zahnhalteapparates sowie des Kiefers den zahnärztlichen Behandlungen zuzuordnen sei, wobei Art. 17 KLV die durch die obligatorische Krankenpflegeversicherung zu übernehmenden Erkrankungen des Kausystems im Einzelnen und abschliessend aufzähle.
a) Dieses Verständnis steht mit den in BGE 124 V 185 eingehend dargestellten Gesetzesmaterialien, wie auch insbesondere mit dem Wortlaut und der Systematik der erwähnten gesetzlichen Regelung nicht in Einklang. Sowohl Art. 31 Abs. 1 KVG wie auch die Art. 17-19 KLV sprechen von "zahnärztlichen Behandlungen", die durch bestimmte Erkrankungen bedingt sind oder die Behandlung bestimmter Erkrankungen unterstützen. Die zahnärztlichen Behandlungen einerseits und die Erkrankungen andererseits stehen in einer Wechselwirkung.
Die von der sozialen Krankenversicherung zu übernehmenden zahnärztlichen Behandlungen müssen entweder die Folge ("bedingt") und die bestimmten Erkrankungen die Ursache sein (Art. 17 und 18 KLV) oder die zahnärztlichen Behandlungen müssen die Behandlung bestimmter Erkrankungen unterstützen (Art. 19 KLV). Keineswegs verhält es sich so, dass die Behandlungen aller aufgeführten Erkrankungen zu zahnärztlichen Behandlungen geworden sind. Die Behandlung maligner Tumore im Gesichts-, Kiefer- und Halsbereich (Art. 17 lit. c Ziff. 2 KLV) beispielsweise wird niemand im Ernst als zahnärztliche Behandlung aufgefasst wissen noch deren Behandlung davon abhängig machen wollen, ob das Tumorleiden vermeidbar gewesen sei.
Noch deutlicher zeigt sich dies in Art. 18 KLV. Auch hier besteht in gleicher Weise eine Wechselwirkung zwischen der schweren Allgemeinerkrankung als Ursache und der zahnärztlichen Behandlung als Folge. Die beiden Bestimmungen Art. 17 und 18 KLV unterscheiden sich nicht grundsätzlich, sondern lediglich hinsichtlich der örtlichen Nähe von Erkrankung als Ursache und zahnärztlicher Behandlung als Folge. Während die Erkrankungen gemäss Art. 17 lit. c, d, e und f KLV in der Nähe der Zähne und des Parodonts als Ganzes liegen und diese damit durch direkte Einwirkung schädigen können, ist bei den meisten schweren Allgemeinerkrankungen des Art. 18 KLV ein solcher enger Bezug nicht vorhanden.
Besonders augenfällig zeigt sich hier, dass die Behandlung der schweren Allgemeinerkrankung und die zahnärztliche Behandlung nicht dasselbe sind und dass die erstere klarerweise eine ärztliche ist (zur Publikation in der Amtlichen Sammlung vorgesehenes Urteil M. vom 28. März 2002, K 84/00).
b) Die im Vordergrund stehenden Kriterien für die Abgrenzung zwischen ärztlicher und zahnärztlicher Behandlung sind der Ansatzpunkt und die therapeutische Zielsetzung der Behandlung.
aa) Stellt man zunächst auf den Ansatzpunkt ab, sind zahnärztliche Behandlungen - wie bereits gemäss konstanter Rechtsprechung zum KUVG - grundsätzlich therapeutische Vorkehren am Kausystem. Darunter fallen die Behandlung der Zähne, des Zahnhalteapparates sowie die Behandlung an den Organbereichen, die ein künstliches Gebiss aufzunehmen haben (BGE 120 V 195 Erw. 2b).
bb) Als weiteres entscheidendes Kriterium dient die therapeutische Zielsetzung, die sich danach bestimmt, welcher Körperteil oder welche Funktion unmittelbar therapiert oder verbessert werden soll (vgl. Gebhard Eugster, Krankenversicherung, in Schweizerisches Bundesverwaltungsrecht [SBVR], Soziale Sicherheit, Fn 333).
cc) Einige Beispiele mögen der Veranschaulichung dienen:
Während etwa bei der Überkronung eines schadhaften Zahnes Ansatzpunkt und therapeutische Zielsetzung den gleichen Zahn betreffen, können sie auch verschiedene Bereiche erfassen. Eine Aufbissschiene beispielsweise, die nicht zur Verbesserung der Funktion der Zähne bei der Zerkleinerung der Nahrung, sondern zur Entlastung arthrotischer Kiefergelenke angebracht wird, setzt zwar am Zahnapparat an, bezweckt aber die Therapierung der Kieferarthrose. In solchen Fällen wird im Allgemeinen der therapeutischen Zielsetzung das grössere Gewicht beizumessen sein, was bedeutet, dass das Anbringen einer solchen Aufbissschiene als ärztliche Massnahme anzusehen ist. Umgekehrt liegt eine zahnärztliche Behandlung vor, wenn sie die Zähne als solche oder ihre vordringliche Funktion zur Zerkleinerung der Nahrung (Verbesserung der Bissverhältnisse) betrifft. Daran ändert auch nichts, wenn der Ansatzpunkt der Behandlung im Kieferbereich ausserhalb des Zahnapparates und des Parodonts liegt. Die therapeutische Zielsetzung, die auf eine Verbesserung dieser Funktion gerichtet ist, gibt den Ausschlag und macht die Behandlung zu einer zahnärztlichen.
c) Die genannten Kriterien dürften im Allgemeinen zur Unterscheidung zwischen zahnärztlicher und ärztlicher Behandlung ausreichen. Soweit es nötig sein sollte, könnten ergänzend weitere sachdienliche Kriterien herangezogen werden (Zum Ganzen: zur Publikation in der Amtlichen Sammlung vorgesehenes Urteil K. vom 22. April 2002, K 172/00).
4.- Was die Frage der zugelassenen Leistungserbringer für ärztliche Behandlungen im Sinne von Art. 25 KVG anbelangt, ist der Einwand der Beschwerdegegnerin, wonach Behandlungen durch Zahnärzte und Zahnärztinnen, die in den Tätigkeitsbereich der Ärzte und Ärztinnen fallen, von der obligatorischen Krankenpflegeversicherung nicht übernommen werden könnten, in dieser absoluten Form unzutreffend. Bereits unter dem bis Ende 1995 gültig gewesenen Bundesgesetz über die Kranken- und Unfallversicherung (KUVG) waren Zahnärzte und Zahnärztinnen gemäss konstanter Rechtsprechung für ärztliche Behandlungen in der Mundhöhle, die nicht zahnärztliche Vorkehren im engeren Sinn sind und die trotzdem fast ausschliesslich von Zahnärzten und Zahnärztinnen vorgenommen werden, den Ärzten und Ärztinnen gleichgestellt (BGE 105 V 300, 102 V 1, 100 V 70, 98 V 69; RKUV 1986 Nr.
K 684 S. 285). In Bezug auf diese ärztlichen Behandlungen durch Zahnärzte und Zahnärztinnen hat sich mit Inkrafttreten des neuen Krankenversicherungsgesetzes per 1. Januar 1996 nichts geändert. Die Neuerung bezüglich Leistungen der Zahnärzte und Zahnärztinnen lag darin, dass inskünftig auch zahnärztliche Leistungen unter bestimmten Voraussetzungen von der obligatorischen Krankenpflegeversicherung vergütet werden (Botschaft über die Revision der Krankenversicherung, BBl 1992 I S. 165). Dies beinhaltete eine Ausweitung der von der obligatorischen Krankenpflegeversicherung zu übernehmenden Leistungen (vgl. Protokoll der Sitzung des Nationalrates vom 1. April 1993, S. 35, Votum Heberlein).
Da das KVG unter bestimmten Voraussetzungen auch eine Leistungspflicht für zahnärztliche Behandlungen eingeführt hatte, musste es in diesem Bereich folgerichtig die Zahnärzte und Zahnärztinnen als Leistungserbringer und Leistungserbringerinnen den Ärzten und Ärztinnen gleichstellen.
Diese in Art. 36 Abs. 3 KVG vorgenommene Regelung bezieht sich gemäss klarem Wortlaut nur auf zahnärztliche Leistungen.
Keineswegs darf daraus - wie dies die Beschwerdegegnerin offensichtlich tut - ein Umkehrschluss in Bezug auf ärztliche Leistungen gezogen werden (anderer Meinung: Gebhard Eugster, Krankenversicherung, in Schweizerisches Bundesverwaltungsrecht [SBVR], Soziale Sicherheit, Rz 239).
Soweit demnach Zahnärzte und Zahnärztinnen ärztliche Behandlungen in der Mundhöhle im oben erwähnten Sinn vornehmen oder daran teilnehmen, sind sie auch unter Geltung des KVG als Leistungserbringer und Leistungserbringerinnen anerkannt (zur Publikation in der Amtlichen Sammlung vorgesehenes Urteil M. vom 28. März 2002, K 84/00).
5.- Bei der vorliegenden Tendomyopathie handelt es sich um eine Muskelerkrankung im Kieferbereich. Die Kosten der anfänglichen Behandlung, insbesondere der Anfertigung der Aufbissschiene durch Dr. med. dent. S._ sowie des Spitalaufenthaltes, sind von der Krankenkasse übernommen worden. Die Leistungspflicht bezüglich dieser Kosten ist somit nicht Gegenstand des vorliegenden Verfahrens.
Prof. Dr. med. dent. P._ hat an dieser Schiene Verbesserungen vorgenommen, deren Kosten einen ansehnlichen Teil der Gesamtkosten von Fr. 1170.- ausmachen. Die durchgeführte Therapie mittels einer Michiganschiene setzte wohl an den Zähnen an; therapeutische Zielsetzung dieser Massnahme und entsprechender weiterführender Behandlungen war aber klarerweise die Entlastung der Kiefermuskulatur und der Kiefergelenke. Damit fallen vorliegend Ansatzpunkt und therapeutische Zielsetzung auseinander. Es ist kein Grund ersichtlich, von der Regel abzuweichen, wonach der therapeutischen Zielsetzung grösseres Gewicht beizumessen ist (Erw. 3b/cc). Die Behandlung durch Prof. Dr. med. dent.
P._ stellt daher eine ärztliche Behandlung einer Krankheit in der Mundhöhle im Sinne von Erw. 3 und 4 hievor dar und fällt - nachdem der Krankheitswert der Kiefergelenksbeschwerden gestützt auf die medizinischen Akten zu bejahen ist - nach Massgabe von Art. 25 KVG unter die Pflichtleistungen der obligatorischen Krankenpflegeversicherung.
6.- Auf der Rechnung des Prof. Dr. med. dent.
P._ vom 18. Juni 1999 steht "Privatpraxis Dr. S.
P._". Es ist nicht erkennbar, ob es sich dabei um eine Privatpatientenabrechnung handelt. Die Beschwerdegegnerin hat selbstredend nur Leistungen im Rahmen der obligatorischen Krankenpflegeversicherung zu erbringen. Sie hat daher zu prüfen, ob und in welchem Umfang der Leistungserbringer nach Privattarif abgerechnet hat und inwieweit die streitige Rechnung aus dem Obligatoriumsbereich zu übernehmen ist.
Demnach erkennt das Eidg. Versicherungsgericht:
I.In Gutheissung der Verwaltungsgerichtsbeschwerde werden
das Urteil des Verwaltungsgerichts des Kantons
Graubünden vom 13. Juli 2000 und der Einspracheentscheid
der Öffentlichen Kranken- und Unfallversicherungen
AG vom 27. April 2000 aufgehoben mit der Feststellung,
dass die Öffentliche Kranken- und Unfallversicherungen
AG die am 18. Juni 1999 in Rechnung
gestellte ärztliche Behandlung des Prof. Dr. med.
dent. P._ im Rahmen der obligatorischen
Krankenpflegeversicherung zu übernehmen hat.
II.Die Sache wird an die Öffentliche Kranken- und Unfallversicherungen AG zurückgewiesen, damit sie, nach Abklärung im Sinne der Erwägungen, über den Leistungsanspruch
in masslicher Hinsicht befinde.
III. Es werden keine Gerichtskosten erhoben.
IV.Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Graubünden und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 22. April 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident Die Gerichts- der II. Kammer: schreiberin: