A.- Mit Verfügung vom 16. April 1999 lehnte das Bundesamt für Sozialversicherung (BSV) die Übertrittsbegehren des Pflegeheims H._ vom 21. November 1998 und der Ausgleichskasse Hotela (Ausgleichskasse des Schweizer Hotelier-Vereins [SHV] und des Schweizer Reisebüro-Verbandes [SRV]) vom 27. November 1998, wonach das Pflegeheim H._ per 1. Januar 1999 der Ausgleichskasse Hotela anzuschliessen und der von der Ausgleichskasse des Kantons St. Gallen hiegegen erhobene Einspruch durch Nichteintreten zu erledigen seien, ab, indem es festhielt, diese Institution bleibe wie bis anhin der kantonalen Ausgleichskasse angeschlossen.
B.- Die Ausgleichskasse Hotela führt Verwaltungsgerichtsbeschwerde mit den Begehren, es seien die Verfügung des BSV vom 16. April 1999 aufzuheben und die Sache zwecks neuer Verfügung an die Vorinstanz zurückzuweisen; eventuell sei ihr Übertrittsgesuch auf den 1. Januar 1998 gutzuheissen.
Das BSV und die als Mitinteressierte zur Stellungnahme eingeladene Ausgleichskasse des Kantons St. Gallen schliessen auf Abweisung der Verwaltungsgerichtsbeschwerde.
Das Pflegeheim H._ hat sich nicht vernehmen lassen.
C.- Am 4. November 1999 hat das Eidgenössische Versicherungsgericht die Ausgleichskasse Hotela in einem andern ebenfalls von dieser anhängig gemachten Verwaltungsgerichtsbeschwerdeverfahren aufgefordert, die zur Zeit des Erwerbs der Mitgliedschaft des betroffenen Pflegeheims beim Gründerverband gültigen Statuten und Reglemente des SHV einschliesslich der seitherigen Änderungen einzureichen. Die von der Ausgleichskasse Hotela in der Folge beigebrachten Statuten von 1918 und 1967 sowie die Statuten mit Ausführungsreglement von 1989 sind zu den Akten des vorliegenden Verfahrens genommen worden.
Zu diesen neu aufgelegten Unterlagen hat sich die kantonale Ausgleichskasse am 7. Januar 2000 geäussert, während das BSV mit Eingabe vom 3. Januar 2000 auf eine Vernehmlassung verzichtet hat.
Am 26. Januar 2000 hat die Ausgleichskasse Hotela dem Eidgenössischen Versicherungsgericht eine zusätzliche Eingabe zukommen lassen, welcher eine Kopie der auf den 1. Januar 2000 in Kraft getretenen neuen Statuten des SHV beilag.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Nach Art. 127 AHVV entscheidet das BSV Streitigkeiten über die Kassenzugehörigkeit (Satz 1); sein Entscheid kann von den beteiligten Ausgleichskassen und vom Betroffenen innert 30 Tagen seit Erhalt der Mitteilung über die Kassenzugehörigkeit angerufen werden (Satz 2).
a) Entscheide über die Kassenzugehörigkeit sind demnach in erster Instanz vom BSV zu erlassen (vgl. <ref-ruling> ff. Erw. 1). Gemäss Art. 98 lit. c in Verbindung mit Art. 128 OG ist die Verwaltungsgerichtsbeschwerde zulässig gegen Verfügungen u.a. der den Departementen unterstellten Dienstabteilungen, mithin der Bundesämter; verfügen diese als erste Instanzen, kann Verwaltungsgerichtsbeschwerde erhoben werden, soweit das Bundesrecht sie gegen diese Verfügungen vorsieht (Art. 98 lit. c in fine OG). Diese Voraussetzung trifft vorliegend zu, erklärt doch Art. 203 AHVV unmittelbar die Verwaltungsgerichtsbeschwerde gegen Verfügungen des BSV als zulässig.
b) Da die angefochtene Verfügung des BSV nicht die Bewilligung oder Verweigerung von Versicherungsleistungen betrifft, richtet sich die Kognition des Eidgenössischen Versicherungsgerichts nach Art. 104 und 105 OG. Es hat daher nur zu prüfen, ob Bundesrecht, einschliesslich Überschreitung oder Missbrauch des Ermessens, verletzt wurde oder ob der rechtserhebliche Sachverhalt unrichtig oder unvollständig festgestellt worden ist (Art. 104 lit. a und b OG). An die vorinstanzliche Feststellung des Sachverhalts ist es nicht gebunden, weil nicht eine Rekurskommission oder ein kantonales Gericht im Sinne von Art. 105 Abs. 2 OG entschieden hat. Einer Überprüfung durch das Eidgenössische Versicherungsgericht entzogen ist hingegen die Angemessenheit der angefochtenen Verfügung (ZAK 1988 S. 34 Erw. 1 mit Hinweis).
2.- a) Nach Art. 64 Abs. 1 AHVG werden den Verbandsausgleichskassen alle Arbeitgeber und Selbstständigerwerbenden angeschlossen, die einem Gründerverband angehören (Satz 1); Arbeitgeber oder Selbstständigerwerbende, die sowohl einem Berufsverband wie einem zwischenberuflichen Verband angehören, werden nach freier Wahl der Ausgleichskasse eines der beiden Verbände angeschlossen (Satz 2). Den kantonalen Ausgleichskassen werden demgegenüber laut Art. 64 Abs. 2 AHVG alle Arbeitgeber und Selbstständigerwerbenden angeschlossen, die keinem Gründerverband einer Verbandsausgleichskasse angehören, ferner die Nichterwerbstätigen und die versicherten Arbeitnehmer nicht beitragspflichtiger Arbeitgeber.
b) Art. 121 Abs. 1 AHVV sieht vor, dass ein Wechsel der Ausgleichskasse nur zulässig ist, wenn die Voraussetzungen für den Anschluss an die bisherige Ausgleichskasse dahinfallen. Gemäss Abs. 2 dieser Bestimmung vermag der Erwerb der Mitgliedschaft eines Gründerverbandes den Anschluss an die betreffende Verbandsausgleichskasse nicht zu begründen, wenn er ausschliesslich zu diesem Zweck erfolgt ist und kein anderes wesentliches Interesse an der Verbandsmitgliedschaft nachgewiesen wird. Wie das BSV in der angefochtenen Verfügung vom 16. April 1999 zutreffend festgehalten hat, ist der Anschluss an eine Verbandsausgleichskasse nach der Rechtsprechung nur zu verweigern, wenn der objektive Nachweis eines nebst der Kassenzugehörigkeit anderen wesentlichen Interesses an der Verbandsmitgliedschaft nicht gelingt (ZAK 1988 S. 34 Erw. 2 mit Hinweis). Objektive Gesichtspunkte lassen sich dabei durch die Berücksichtigung der Interessenlage und der statutenmässigen Zwecksetzung des betreffenden Gründerverbandes gewinnen (ZAK 1953 S. 139).
c) Materiellrechtlich ist demnach davon auszugehen, dass der Beitritt eines Arbeitgebers zu einem Gründerverband die Zugehörigkeit zu dessen Ausgleichskasse nach sich zieht. Eine Ausnahme sieht Art. 121 Abs. 2 AHVV vor.
3.- Das Verfahren des Kassenwechsels ist wie folgt geregelt:
a) Bedingt der Erwerb der Mitgliedschaft eines Gründerverbandes einen Kassenwechsel, so ist die neue Ausgleichskasse laut Art. 121 Abs. 3 AHVV verpflichtet, dies der bisherigen Ausgleichskasse zu melden. Der Wechsel von einer Ausgleichskasse zu einer andern kann auf Grund von
Abs. 5 derselben Bestimmung jeweils nur auf Jahresende erfolgen (Satz 1, erster Halbsatz). Dieselbe Regelung wiederholt
Rz 2007 der vom BSV herausgegebenen Wegleitung über die Kassenzugehörigkeit der Beitragspflichtigen (WKB).
b) Gemäss Rz 2009 WKB stellt die anfordernde Ausgleichskasse der bisherigen Ausgleichskasse das Übertrittsbegehren bis spätestens am 31. August des laufenden Kalenderjahres (Satz 1); massgebend ist das Datum des Poststempels (Satz 2). Bei verspätetem Übertrittsbegehren erfolgt der Übertritt nach Rz 2013 WKB erst auf den 1. Januar des übernächsten Kalenderjahres.
c) Nach Rz 2011 sendet die bisherige Ausgleichskasse der anfordernden Ausgleichskasse bis zum 31. Oktober eine Fotokopie des Übertrittsbegehrens zurück und vermerkt darauf bei jedem Beitragspflichtigen ihre Stellungnahme (Satz 1); ist sie mit dem Übertritt eines Beitragspflichtigen nicht einverstanden, so erhebt sie gleichzeitig brieflich Einspruch gegen das Übertrittsbegehren (Satz 2); dieser Einspruch ist zu begründen und der anfordernden Ausgleichskasse sowie dem Betroffenen bekannt zu geben (Satz 3); er muss einen Hinweis auf die Möglichkeit enthalten, innert 30 Tagen den Entscheid des BSV anzurufen (Satz 4).
d) Rz 2002 WKB sieht vor, dass jede Ausgleichskasse ein Register der ihr angeschlossenen Beitragspflichtigen führt, die kantonale Ausgleichskasse ein solches für alle Beitragspflichtigen des Kantons (Satz 1); für die Einzelheiten einschliesslich Zu- und Abgangsmeldungen sind die Weisungen für die Führung des Registers der Beitragspflichtigen massgebend (Satz 2). Deren Rz 28 bestimmte in seiner ursprünglichen Fassung, dass die Verbandsausgleichskasse den Übertritt eines Beitragspflichtigen der bisherigen kantonalen Ausgleichskasse als Zugang zu melden hat (Satz 1) und die Empfangsbestätigung als Einverständnis der kantonalen Ausgleichskasse gilt (Satz 2). Laut Nachtrag vom 1. August 1984 hat die Verbandsausgleichskasse den endgültigen Übertritt eines Beitragspflichtigen der bisherigen kantonalen Ausgleichskasse als Zugang zu melden (Satz 1); die Meldung erfolgt erst, wenn eine Einsprache gegen den Übertritt nicht mehr erhoben werden kann oder erledigt ist (Satz 2).
e) In Rz 3001 ff. WKB wird der Inhalt des bereits erwähnten Art. 127 AHVV (Erw. 1 Ingress) - in allerdings abweichender Formulierung - wiedergegeben. Danach kann der
Entscheid des BSV vom Beitragspflichtigen oder den beteiligten
Ausgleichskassen angerufen werden (Rz 3001 Satz 3
WKB). Nach Rz 3002 WKB beträgt die Frist für die Anrufung des BSV 30 Tage seit Erhalt einer Mitteilung über die Kassenzugehörigkeit (Satz 1); der Einspruch nach Rz 2011 und 2020 gilt als derartige Mitteilung (Satz 2). Die Mitteilung über die Kassenzugehörigkeit muss laut Rz 3003 WKB mit einer Rechtsmittelbelehrung versehen sein.
4.- Die Beschwerde führende Ausgleichskasse Hotela hat das Übertrittsbegehren für das betroffene Pflegeheim der kantonalen Ausgleichskasse am 28. August 1998 zukommen lassen. Eine Empfangsbestätigung für diese Mutationsmeldung ist seitens der kantonalen Ausgleichskasse am 1. Oktober 1998 abgegeben worden. Dessen ungeachtet hat die kantonale Ausgleichskasse gegen den beabsichtigten Kassenwechsel am 2. November 1998 Einspruch erhoben. Mit Eingabe vom 27. November 1998 hat die Ausgleichskasse Hotela darauf den Entscheid des BSV angerufen. In formeller Hinsicht stellte sie dabei das Begehren, auf die von der kantonalen Ausgleichskasse gegen das Übertrittsbegehren erhobene Einsprache sei nicht einzutreten, eventuell sei diese abzuweisen. Materiell hat sie des Weitern die Gutheissung des Übertrittsbegehrens beantragt.
5.- a) Wie das BSV in der angefochtenen Verfügung vom 16. April 1999 unter Berufung auf das nicht veröffentlichte Urteil F. vom 5. Januar 1995 (H 257/92) grundsätzlich richtig festgehalten hat, war es verpflichtet, über den Kassenwechsel zu befinden und diesbezüglich einen Entscheid in der Sache zu fällen. Entgegen dem Antrag der Ausgleichskasse Hotela wäre es verfahrensmässig nicht befugt gewesen, die von der kantonalen Ausgleichskasse am 2. November 1998 erhobene Einsprache durch Nichteintreten zu erledigen, hatte es sich doch nicht mit dieser Einsprache direkt, sondern primär mit der erst mittels Anrufung durch die Ausgleichskasse Hotela bei ihm am 27. November 1998 anhängig gemachten Streitfrage nach der künftigen Kassenzugehörigkeit des betroffenen Heims resp. Arbeitgebers zu befassen.
Unzutreffend hingegen ist die vom BSV offenbar vertretene Auffassung, es dürfe die Streitsache deshalb auch nur unter materiellrechtlichen Gesichtspunkten prüfen und müsse dementsprechend auf den Einwand der Ausgleichskasse Hotela, wonach die erst am 2. November 1998 erfolgte Einsprache der kantonalen Ausgleichskasse verspätet erfolgt sei und deswegen keine Wirkungen entfalten konnte, gar nicht eingehen. Auch diese formellrechtliche Rüge wäre vom BSV zu prüfen gewesen, wobei es, hätte sie sich als begründet erwiesen, von der Unbeachtlichkeit der Einsprache hätte ausgehen müssen, mit der Folge, dass es dem von der Ausgleichskasse Hotela gestellten Übertrittsersuchen aus diesem Grunde hätte stattgeben müssen. Dies zumindest, nachdem die kantonale Ausgleichskasse die ihr erstattete Mutationsmeldung nach unbestritten gebliebener Darstellung in der Verwaltungsgerichtsbeschwerde am 1. Oktober 1998 bereits einmal ausdrücklich bestätigt hat (Erw. 4), was an sich als Einverständnis zu werten ist. Wie es sich ohne diese Bestätigung verhalten würde, braucht an dieser Stelle nicht geklärt zu werden.
b) Zu Recht beanstandet die Ausgleichskasse Hotela unter diesen Umständen in ihrer Verwaltungsgerichtsbeschwerde, dass die angefochtene Verfügung des BSV vom 16. April 1999 insoweit auf einer unvollständigen Prüfung ihrer Einwände beruhe, als die Frage nach den Folgen der Versäumnis der in Rz 2011 WKB vorgesehenen Frist ungeklärt blieb.
6.- Unbestrittenermassen hat die kantonale Ausgleichskasse ihre Einsprache erst nach Ablauf der in Rz 2011 WKB auf den 31. Oktober festgesetzten Frist (Erw. 3c) erhoben. Auf Grund der Argumentation in der Verwaltungsgerichtsbeschwerde gilt es deshalb im Folgenden zu prüfen, ob dies allein schon dazu führt, dass dem beabsichtigten und im Übrigen seitens der Ausgleichskasse Hotela frist- und formgerecht in die Wege geleiteten Kassenwechsel nichts mehr entgegensteht.
a) Die Weisungen des BSV, insbesondere die hier interessierende Rz 2011 WKB, regeln das gesetzlich zwar vorgesehene, in Gesetz und Verordnung selbst aber nur unvollständig ausgestaltete Verfahren des Kassenwechsels. Die vorliegend von der kantonalen Ausgleichskasse nicht eingehaltene Einsprachefrist wird nicht in einem Gesetz im materiellen Sinn statuiert, so dass sich einerseits fragt, inwieweit sie für die Beteiligten verbindlich ist. Andererseits ist zu entscheiden, ob das Nichtbeachten eines allfälligen Weisungsverstosses eine vom BSV als Vorinstanz in der angefochtenen Verfügung vom 16. April 1999 begangene Bundesrechtsverletzung darstellt, welche mittels Verwaltungsgerichtsbeschwerde beim Eidgenössischen Versicherungsgericht angefochten werden kann (Erw. 1b).
b) Für die Ausgleichskassen ergibt sich die Verbindlichkeit der Verwaltungsweisungen ohne weiteres aus der in Art. 72 Abs. 1 AHVG statuierten Weisungsbefugnis des BSV. Danach kann der Bundesrat das zuständige Bundesamt beauftragen, den mit der Durchführung der Versicherung betrauten Stellen für den einheitlichen Vollzug Weisungen zu erteilen. Zur Gewährleistung der mit den Weisungen bezweckten Einheitlichkeit des Vollzugs hat das BSV die von ihm selbst statuierte Verfahrensordnung selbstredend ebenfalls zu beachten (vgl. auch die Grundsätze rechtsstaatlichen Handelns gemäss Art. 5 BV). Soweit die verfahrensrechtlichen Weisungen gewährleisten sollen, dass der Kassenwechsel auf den Beitritt zum Gründerverband folgt und Missbräuche ausgeschlossen sind (Erw. 2), stellt der Verstoss gegen eine Weisung eine Bundesrechtswidrigkeit dar.
c) Für den Ausgang des vorliegenden Verfahrens ausschlaggebend ist, ob der in Rz 2011 WKB vorgesehenen Frist Verwirkungs- oder aber blosser Ordnungscharakter zukommt.
aa) Während nach Rz 2013 WKB bei Mitteilung des Übertrittsbegehrens nach dem letzten Tag des Monats August der Kassenwechsel erst auf den Anfang des übernächsten Jahres erfolgen kann, sind die Folgen des Überschreitens der auf den letzten Tag des Monats Oktober festgesetzten Einsprachefrist nicht ausdrücklich geregelt. Die zeitliche Abfolge der Verfahrensschritte, die einem Kassenwechsel vorangehen, ergibt sich aus den Verordnungsbestimmungen in Art. 121 Abs. 5 AHVV, wonach der Wechsel nur auf das Jahresende hin erfolgen kann, und in Art. 127 AHVV, wonach der Entscheid des BSV innert 30 Tagen seit Erhalt der Mitteilung über die Kassenzugehörigkeit - worunter auch die Einsprache zu verstehen ist (Erw. 3e) - angerufen werden kann. Da vor Jahresende geklärt sein muss, ob der Kassenwechsel akzeptiert oder aber abgelehnt wird, ob mithin überhaupt eine "Streitigkeit über die Kassenzugehörigkeit" im Sinne von Art. 127 AHVV entstehen kann, muss die 30-tägige Frist für die Anrufung des BSV vorher abgelaufen sein, was nur möglich ist, wenn die Mitteilung über die Kassenzugehörigkeit (Stellungnahme und allenfalls Einsprache der abgebenden Ausgleichskasse; vgl. Erw. 3e) bei den Beteiligten bis zu einem bestimmten Zeitpunkt eingeht. Da die Weisung auf das Monatsende hin ablaufende Fristen statuiert, muss zweckmässigerweise gefordert werden, dass die Einsprache im Sinne von Rz 2011 WKB bis spätestens am letzten Tag des Monats Oktober erfolgt.
bb) Rz 2011 WKB könnte dann als blosse Ordnungsvorschrift qualifiziert werden, wenn sie einzig eine speditive Verfahrensabwicklung und nötigenfalls die beförderliche Eröffnung des Entscheidungsprozesses beim BSV bezwecken würde (vgl. beispielsweise RSKV 1982 Nr. 495 S. 155 Erw. 3 und RKUV 1985 Nr. K 624 S. 114 Erw. 5a betreffend Art. 30 Abs. 1 KUVG; <ref-ruling> f. Erw. 2 betreffend alt Art. 79 Abs. 2 AHVV; RKUV 1984 Nr. K 602 S. 299 Erw. 4a betreffend Art. 57 Abs. 1 VwVG). Mit der vorliegend zu beurteilenden Frist wird indessen angestrebt, rechtzeitig vor dem nächstmöglichen Termin für einen allfälligen Kassenwechsel zu klären, ob einem solchen seitens der bislang zuständigen Kasse Widerstand erwächst, ob mithin mit einer Streitigkeit über die Zulässigkeit des Kassenwechsels zu rechnen ist. Die so begründete Frist gleicht damit eher einer Rechtsmittelfrist, welche der Rechtssicherheit dient, indem mit deren unbenütztem Ablauf Gewissheit über die Regelung eines Rechtsverhältnisses geschaffen wird. Rechtsmittelfristen sind aber Verwirkungsfristen (vgl. etwa ARV 1987 S. 87 Erw. 2b mit Hinweisen auf die Doktrin). Die Frist gemäss Rz 2011 WKB muss umso mehr als Verwirkungsfrist charakterisiert werden, als die Klärung vor dem verordnungsmässigen Stichtag gemäss Art. 121 Abs. 5 AHVV erforderlich ist. Es kann nicht im Belieben der abgebenden Ausgleichskasse stehen, den von Art. 64 Abs. 1 AHVG vorgesehenen Kassenwechsel hinauszuschieben oder auch nur in der Schwebe zu halten.
d) Die erst nach Ablauf der in Rz 2011 WKB vorgesehenen Frist erfolgte Einsprache der kantonalen Ausgleichskasse war demnach aber nicht mehr geeignet, eine materiellrechtliche Streitigkeit über den Kassenwechsel auszulösen. Das BSV hätte sich damit begnügen müssen, das von der Ausgleichskasse Hotela gestellte Übertrittsbegehren mit dieser Feststellung gutzuheissen. Angesichts der im Rahmen der Einspracheerhebung nicht eingehaltenen Frist bestand für eine materielle Prüfung der für einen Kassenwechsel vorausgesetzten Bedingungen ebenso wenig wie im vorliegenden Verfahren Anlass.
7.- Im Hinblick auf die unverhältnismässigen administrativen Umtriebe, welche ein rückwirkender Kassenwechsel auf den 1. Januar 1998 (recte: 1999), wie er von der Beschwerde führenden Ausgleichskasse beantragt worden ist, mit sich bringen würde, ist der Wechsel trotz Gutheissung der Verwaltungsgerichtsbeschwerde auf den 1. Januar 2002 zu vollziehen (vgl. <ref-ruling> Erw. 6). Sollte der Kassenwechsel in der Zwischenzeit indessen unabhängig vom vorliegenden Verfahren aus andern Gründen - etwa im Hinblick auf die auf den 1. Januar 2000 neu in Kraft getretenen Statuten des SHV - bereits auf einen früheren Zeitpunkt vollzogen worden sein, steht dieses Urteil dem nicht entgegen.
8.- Das Verfahren wäre grundsätzlich kostenpflichtig, weil nicht die Bewilligung oder Verweigerung von Versicherungsleistungen streitig war (Umkehrschluss aus Art. 134 OG; Erw. 1b). Auf Grund von Art. 156 Abs. 2 OG hat das als unterliegende Partei zu betrachtende BSV indessen keine Kosten zu bezahlen.

Demnach erkennt das Eidg. Versicherungsgericht:
I. In teilweiser Gutheissung der Verwaltungsgerichtsbeschwerde wird die Verfügung des Bundesamtes für Sozialversicherung vom 16. April 1999 aufgehoben und es wird festgestellt, dass das Pflegeheim H._ ab 1. Januar 2002 der Ausgleichskasse des Schweizer Hotelier-Vereins und des Schweizer Reisebüro-Verbandes angehört.
II. Es werden keine Gerichtskosten erhoben.
III. Der geleistete Kostenvorschuss von Fr. 1'000. - wird der Ausgleichskasse des Schweizer Hotelier-Vereins und des Schweizer Reisebüro-Verbandes zurückerstattet.
IV. Dieses Urteil wird den Parteien, der Ausgleichskasse des Kantons St. Gallen und dem Pflegeheim H._ zugestellt.
Luzern, 31. August 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der IV. Kammer:
Der Gerichtsschreiber: