Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Hinsichtlich der vom Beschwerdegegner in Frage gestellten Rechtzeitigkeit der Verwaltungsgerichtsbeschwerde ist festzustellen, dass der vorinstanzliche Entscheid der Beschwerdeführerin am 14. Oktober 1999 zugestellt worden ist. Die Beschwerdefrist von 30 Tagen (Art. 106 Abs. 1 OG) begann am 15. Oktober 1999 zu laufen und endete am 13. November 1999. Weil der letzte Tag der Frist auf einen Samstag fiel, ist die am 15. November 1999 der Post übergebene (undatierte) Verwaltungsgerichtsbeschwerde als rechtzeitig zu betrachten (Art. 32 Abs. 2 OG und Bundesgesetz vom 21. Juni 1963 über den Fristenlauf an Samstagen). Da auch die formellen Beschwerdeerfordernisse nach Art. 10 OG erfüllt sind, ist auf die Verwaltungsgerichtsbeschwerde einzutreten.
2.- Auf Grund der Akten steht fest und ist unbestritten, dass die Beschwerdeführerin für die vom Arzt abgegebenen Arzneimittel Bucco-Tantum und Nasivin-TR-SGL, welche im Zeitpunkt der Abgabe weder in der Arzneimittelliste mit Tarif (ALT) noch in der Spezialitätenliste (SL) figurierten, nicht leistungspflichtig ist. Streitig und zu prüfen ist, ob der Krankenversicherer die dem Leistungserbringer hiefür vergüteten Kosten vom Versicherten zurückfordern kann.
a) Das am 1. Januar 1996 in Kraft getretene Bundesgesetz vom 18. März 1994 über die Krankenversicherung (KVG) enthält (vorbehältlich <ref-law> betreffend die Rückforderung von Leistungen wegen unwirtschaftlicher Behandlung) keine Bestimmungen über die Rückerstattung nicht geschuldeter Leistungen. Im Rahmen des bis 31. Dezember 1995 gültig gewesenen Bundesgesetzes über die Krankenversicherung vom 13. Juni 1911 (KUVG) hat das Eidgenössische Versicherungsgericht entschieden, bei Fehlen entsprechender statutarischer oder reglementarischer Bestimmungen sei <ref-law> sinngemäss anwendbar (<ref-ruling>). Dies gilt in gleicher Weise unter der Herrschaft des KVG (noch nicht veröffentlichtes Urteil G. vom 18. Februar 2000, K 16/99).
Nach dem sinngemäss anwendbaren <ref-law> haben krankenversicherte Personen zu Unrecht bezogene Leistungen unter den in dieser Bestimmung genannten Voraussetzungen zurückzuerstatten (<ref-ruling> Erw. 7 mit Hinweisen). Die Rückerstattungspflicht der Versicherten besteht grundsätzlich unabhängig davon, ob die Leistungserbringer nach dem System des Tiers garant oder des Tiers payant (<ref-law>) entschädigt werden. Rückerstattungspflichtig für zu Unrecht bezogene Leistungen sind die Leistungsempfänger. Empfänger der zu Unrecht erbrachten Leistungen sind die Versicherten ungeachtet dessen, wer im Verhältnis zu den Leistungserbringern Honorarschuldnerin oder Honorarschuldner ist. Dementsprechend hat das Eidgenössische Versicherungsgericht in <ref-ruling> eine vom Krankenversicherer im System des Tiers payant gegenüber der Versicherten verfügte Rückforderung für nicht geschuldete Arzneimittel geschützt. Im Lichte dieser Rechtsprechung ist der Beschwerdegegner für die vom Krankenversicherer zu Unrecht vergüteten nichtpflichtigen Arzneimittel grundsätzlich rückerstattungspflichtig.
b) Weil die Rückerstattung in der Regel ein Zurückkommen auf eine rechtskräftige Verfügung beinhaltet, besteht eine Rückerstattungspflicht nur, wenn entweder die Voraussetzungen einer Wiedererwägung oder diejenigen der so genannten prozessualen Revision von Verwaltungsverfügungen erfüllt sind (<ref-ruling> ff.). Dies gilt ebenso in der Krankenversicherung (<ref-ruling>) und insbesondere auch dann, wenn die Leistungen formlos zugesprochen worden sind (<ref-ruling> f. Erw. 3 mit Hinweisen). Die Wiedererwägung setzt voraus, dass die Verfügung zweifellos unrichtig und ihre Berichtigung von erheblicher Bedeutung ist (<ref-ruling> Erw. 3 mit Hinweisen).
c) Im vorliegenden Fall sind die Voraussetzungen für eine Wiedererwägung der mit der Kostenvergütung erfolgten formlosen Verfügung nicht erfüllt, weil die Verfügung zwar als zweifellos unrichtig zu qualifizieren, ihre Berichtigung angesichts des geringen Rückforderungsbetrages (Fr. 17.70) aber nicht von erheblicher Bedeutung ist (vgl. <ref-ruling> Erw. 2b; ZAK 1989 S. 518 Erw. 2c). Da auch keine prozessualen Revisionsgründe vorliegen, lässt sich die streitige Rückforderung nicht auf den sinngemäss anwendbaren <ref-law> stützen.
3.- Die Rückforderung lässt sich unbestrittenermassen auch nicht auf eine ausdrückliche statutarische oder reglementarische Bestimmung stützen. Die Beschwerdeführerin beruft sich stattdessen auf Art. 25 Abs. 2 eines zwischen der Neuen Ärztegesellschaft des Kantons Schwyz und dem Verband der Krankenkassen im Kanton Schwyz abgeschlossenen Kollektiv-Vertrages, wonach Medikamente, die nicht in der ALT oder der SL enthalten seien, dennoch vom Arzt der Krankenkasse verrechnet werden könnten. Diese habe jedoch das Recht, gemäss ihren Statuten, die nicht kassenpflichtigen Medikamente den Mitgliedern voll zu belasten.
a) Wie Vorinstanz und BSV zu Recht ausführen, verstösst diese vertragliche Regelung gegen <ref-law>, wonach die Krankenversicherer im Rahmen der obligatorischen Krankenpflegeversicherung keine andern Kosten als diejenigen für die Leistungen nach den Art. 25 bis 33 KVG übernehmen dürfen. Die Versicherer sind daher auch im Bereich der Arzneimittel nicht frei, sondern verpflichtet, nur die in der ALT und der SL bezeichneten Arzneimittel zu übernehmen (Art. 25 Abs. 2 lit. b in Verbindung mit Art. 52 Abs. 1 lit. a Ziff. 2 und lit. b KVG; Eugster, Krankenversicherung, in: Schweizerisches Bundesverwaltungsrecht [SBVR], S. 99 Rz 202). Mit dieser gesetzlichen Regelung lässt sich die Vertragsbestimmung nicht vereinbaren, zufolge welcher Medikamente, die nicht in der ALT oder der SL enthalten sind, dennoch vom Arzt der Krankenkasse verrechnet werden können. Damit wird den Leistungserbringern ein Vergütungsanspruch eingeräumt, welcher im Gesetz keine Grundlage findet. Aus dem gleichzeitig vertraglich vorgesehenen Rückforderungsrecht gegenüber den Versicherten folgt nur, dass der Vertrag keine Ausweitung des gesetzlichen Leistungsumfangs beinhaltet. Das Rückforderungsrecht ändert jedoch nichts daran, dass den Leistungserbringern auch nichtpflichtige Leistungen vergütet werden, was sich mit der gesetzlichen Regelung nicht vereinbaren lässt. Dem kantonalen Gericht und dem BSV ist darin beizupflichten, dass es im Rahmen der sozialen Krankenversicherung nicht Aufgabe der Versicherer sein kann, als Zahlstelle auch für nicht kassenpflichtige Leistungen zu dienen und den Leistungserbringern das Risiko für die Einbringlichkeit der Kosten von Nichtpflichtleistungen abzunehmen.
b) Die Versicherten dürfen im Übrigen annehmen, dass die Leistungserbringer nur solche diagnostischen und therapeutischen Massnahmen anwenden, welche von der sozialen Krankenversicherung als Pflichtleistung anerkannt sind. Im Interesse der Versicherten haben die Ärzte daher in der Regel kassenpflichtige Medikamente abzugeben oder zu verordnen. Weichen sie hievon ab, so haben sie die Versicherten über die fehlende Leistungspflicht des Krankenversicherers in Kenntnis zu setzen (Eugster, a.a.O., S. 137 Rz 266). Diese Aufklärungspflicht würde aber in Frage gestellt, wenn den Ärzten regelmässig auch nichtpflichtige Arzneimittel vergütet würden und die Versicherten hiefür rückerstattungspflichtig gemacht würden.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Schwyz und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 16. Mai 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Die Gerichtsschreiberin:
i.V.