A.- Der 1945 geborene O._ war als Gerant in einem Dancing angestellt sowie als selbstständigerwerbender Carunternehmer und Vermieter von Festwirtschaftsmobiliar tätig, als er am 8. Juli 1995 einen Unfall erlitt, den er der SWICA Gesundheitsorganisation (SWICA) meldete. Diese verfügte am 5. Mai 1997, O._ sei bei ihr für die selbstständige Erwerbstätigkeit als Vermieter von Festwirtschaftsmobiliar freiwillig versichert, hingegen bestehe für seine selbstständige Beschäftigung als Transportunternehmer kein Versicherungsschutz. Daran hielt sie auf Einsprache hin fest (Einspracheentscheid vom 10. Juli 1998). Nachdem die SWICA die Angelegenheit der Ersatzkasse UVG zur Weiterbehandlung überwiesen hatte, anerkannte diese ihre Leistungspflicht hinsichtlich der Arbeit als Gerant, verneinte eine solche aber bezüglich der selbstständigen Erwerbstätigkeit (Verfügung vom 20. Juli 1998). Die dagegen erhobenen Einsprachen der SWICA und des O._ lehnte die Ersatzkasse UVG ab (Einspracheentscheid vom 16. November 1998).
B.- O._liess Beschwerde erheben gegen den Einspracheentscheid der SWICA - mit den Anträgen, es sei festzustellen, dass er bei der SWICA für sämtliche zum Unfallzeitpunkt ausgeübten Tätigkeiten gegen Unfall versichert sei, und die gesetzlichen Leistungen seien auf der Basis eines versicherten Jahresverdienstes von Fr. 38'700.- zu entrichten - und gegen den Einspracheentscheid der Ersatzkasse UVG - mit den Anträgen, es sei festzustellen, dass er bei der Ersatzkasse UVG für sämtliche zum Unfallzeitpunkt ausgeübten Tätigkeiten gegen Unfall versichert sei, soweit nicht die SWICA dafür einzustehen habe, und die Ersatzkasse UVG sei zu verpflichten, ihm die gesetzlichen Leistungen auf der Basis eines versicherten Verdienstes von gesamthaft Fr. 97'200.- zu entrichten, soweit nicht die SWICA dafür einzustehen habe.
Die SWICA liess gegen den Einspracheentscheid der Ersatzkasse UVG Beschwerde führen und stellte das Rechtsbegehren, die Angelegenheit sei gesamthaft zur Beurteilung der Rentenfrage an die Ersatzkasse UVG zurückzuweisen.
Das Verwaltungsgericht des Kantons Thurgau vereinigte die Verfahren. Mit Entscheid vom 8. September 1999 hiess das kantonale Gericht die Beschwerde des O._ gegen den Einspracheentscheid der SWICA gut, wies die Beschwerde der SWICA gegen den Einspracheentscheid der Ersatzkasse UVG ab und schrieb die Beschwerde des O._ gegen den Einspracheentscheid der Ersatzkasse UVG als gegenstandslos ab.
C.- Die SWICA lässt Verwaltungsgerichtsbeschwerde erheben mit den Rechtsbegehren, in Aufhebung des angefochtenen Entscheids sei die Sache zur Durchführung des Beweisverfahrens an das kantonale Gericht zurückzuweisen; eventuell sei festzustellen, dass die SWICA nicht leistungspflichtig sei; zudem sei festzustellen, dass die Ersatzkasse UVG allein leistungspflichtig und die Angelegenheit gesamthaft zur Beurteilung der Rentenfrage an die Ersatzkasse UVG zurückzuweisen sei.
Die Ersatzkasse UVG lässt beantragen, die ersten beiden Rechtsbegehren der SWICA seien vollumfänglich abzuweisen; auf ihren dritten Antrag sei nicht einzutreten, eventuell sei dieser abzulehnen. O._ lässt auf Abweisung der Verwaltungsgerichtsbeschwerde schliessen; eventuell sei die Ersatzkasse UVG in dem Umfang für leistungspflichtig zu erklären, für welchen die SWICA im Falle eines vollumfänglichen oder teilweisen Obsiegens von ihrer Leistungspflicht entbunden werde. Das Bundesamt für Sozialversicherung lässt sich nicht vernehmen.

Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Nach dem angefochtenen Entscheid des kantonalen Gerichts sind für die Folgen des Unfalles vom 8. Juli 1995 die Beschwerdeführerin und die Beschwerdegegnerin zuständig, und zwar je auf der Grundlage der bei ihnen versicherten Verdienste aus der Beschäftigung des Beschwerdegegners als selbstständigerwerbender Vermieter von Festwirtschaftsmobiliar und Carunternehmer einerseits und aus seiner Tätigkeit als unselbstständigerwerbender Gerant anderseits.
Alle andern Fragen werden von diesem Anfechtungsgegenstand (Art. 128 in Verbindung mit Art. 97 Abs. 1 OG und <ref-law> sowie Art. 98 lit. g und Art. 98a OG) nicht erfasst. Das gilt insbesondere für die ziffernmässige Festlegung der von der Ersatzkasse UVG geschuldeten Leistungen, weshalb auf die entsprechenden Ausführungen in der Verwaltungsgerichtsbeschwerde nicht einzutreten ist. Ebenso wenig sind im vorliegenden Verfahren die anderen Faktoren der Leistungsberechtigung, etwa die Arbeitsunfähigkeit oder die Kausalität zu beurteilen. Auch die Leistungskoordination zwischen den beiden im Grundsatz leistungspflichtigen Versicherern in Bezug auf Geld- und Naturalleistungen ist damit nicht präjudiziert.
2.- Der pauschale Verweis der Beschwerdeführerin auf
ihre vorinstanzlichen Rechtsschriften genügt der Begründungspflicht nicht. Es besteht kein Anspruch darauf, dass sich das Eidgenössische Versicherungsgericht mit solchen Vorbringen auseinander setzt (<ref-ruling> mit weiteren Hinweisen).
3.- Das kantonale Gericht hat zu den sich vorliegend stellenden materiellen Rechtsfragen, ob und bejahendenfalls bezüglich welcher Erwerbstätigkeiten zwischen der SWICA und dem Beschwerdegegner ein Versicherungsvertrag für die freiwillige Unfallversicherung gemäss UVG besteht, und ob für den Ersatz des Erwerbsausfalls die SWICA oder die Ersatzkasse UVG zuständig ist - die Überprüfung der Rentenberechnung der Ersatzkasse UVG liegt, entgegen den Ausführungen in der Verwaltungsgerichtsbeschwerde, ausserhalb des Anfechtungsgegenstandes (Erw. 1 hievor) -, mit nachvollziehbarer Begründung Stellung bezogen. Von einem Verstoss gegen die richterliche Begründungspflicht als Bestandteil des verfassungsrechtlichen Gehörsanspruchs kann nicht die Rede sein (vgl. die zu Art. 4 Abs. 1 der Bundesverfassung vom 29. Mai 1874 ergangene, gemäss dem nicht veröffentlichten Urteil I. vom 9. Mai 2000, I 278/99, unter der Herrschaft von Art. 29 Abs. 2 der seit 1. Januar 2000 in Kraft stehenden neuen Bundesverfassung vom 18. April 1999 weiterhin massgebende Rechtsprechung zur Begründungspflicht: <ref-ruling> Erw. 1a mit Hinweisen; vgl. auch <ref-ruling> Erw. 2b).
4.- Wie aus dem Schreiben der Beschwerdeführerin vom 31. Januar 1994 hervorgeht, ist zwischen ihr und dem Beschwerdegegner unzweifelhaft mit Wirkung ab 1. Februar 1994 eine obligatorische (für das Personal) und eine freiwillige (für Betriebsinhaber und Familienangehörige) Unfallversicherung gemäss UVG, Letztere bei einem Jahresverdienst von Fr. 97'200.-, abgeschlossen worden. Die von der Vorinstanz festgestellte unzulässige Veränderung des Versicherungsantrages - mit Hilfe von Korrekturflüssigkeit wurde aus "Carreisen und Festwirtschaft" neu "Restaurant (Festwirtschaft)" - hatte, wie auch die Beschwerdeführerin der Sache nach einräumt, ein Mitarbeiter der SWICA vorgenommen. Dieses Verhalten ihrer Hilfsperson hat sich die Versicherungsgesellschaft anrechnen zu lassen. Nach den zutreffenden Erwägungen des kantonalen Gerichts ist nicht bewiesen - und wird im Übrigen von der Beschwerdeführerin auch nicht behauptet -, dass der Beschwerdegegner eine Versicherungspolice erhalten hätte, welche die nach den Intentionen der Beschwerdeführerin eingegrenzte versicherte selbstständige Erwerbstätigkeit belegen würde. Da die Überschrift im Schreiben vom 31. Januar 1994 Reisen Y._ im Gegenteil auf die Carunternehmung hinweist, durfte sich der Beschwerdegegner nach Treu und Glauben für seine beiden selbstständigen Aktivitätsbereiche als unfallversichert wähnen. Gestützt auf den abgeschlossenen Vertrag und zum Schutz des durch diesen begründeten Vertrauens hat die Beschwerdeführerin die versicherten Leistungen zu erbringen.
5.- Bei dieser Sach- und Vertragslage können die materiellrechtlichen Fragen im Zusammenhang mit Ausgestaltung und Grenzen der freiwilligen Unfallversicherung Selbstständigerwerbender (Art. 4 f. UVG, <ref-law>) offen bleiben. Denn es kann jedenfalls von einer eindeutigen Unvereinbarkeit des abgeschlossenen Vertrages mit den gesetzlichen Bestimmungen über die freiwillige Versicherung, welche die Berufung auf Einhaltung des Vertrages ausschlösse, nicht gesprochen werden. Dass sich der Beschwerdegegner in seiner Eigenschaft als selbstständigerwerbender Carunternehmer mit Blick auf <ref-law> nicht freiwillig bei einem anderen Versicherer (<ref-law>) hätte versichern können, lässt sich aus dem Gesetz nicht ohne weiteres ableiten, erklärt doch <ref-law> die Bestimmungen der obligatorischen Versicherung für die freiwillige Versicherung bloss als sinngemäss anwendbar. Wie die Vorinstanz zutreffend erwogen hat, ist <ref-law> diesbezüglich keine klare Antwort zu entnehmen, ganz abgesehen davon, dass diese Verordnungsbestimmung, welche die Wahlfreiheit des Versicherers Selbstständigerwerbender einschränkt, unter dem Gesichtswinkel der Gesetzmässigkeit Bedenken weckt (Maurer, Schweizerisches Unfallversicherungsrecht, S. 60 Fn 60). Der Tätigkeitsbereich der Ersatzkasse UVG schliesslich ist eindeutig auf obligatorisch versicherte Arbeitnehmer beschränkt (<ref-law>).
6.- Soweit sich die Verwaltungsgerichtsbeschwerde gegen O._ richtet, ist das Verfahren kostenlos (Art. 134 OG). Soweit sie sich gegen die Ersatzkasse UVG richtet, besteht hingegen Kostenpflicht, kommt doch Art. 134 OG im Streit zwischen Versicherungsträgern nicht zur Anwendung (<ref-ruling>). Folglich hat die SWICA als unterliegende Partei die Gerichtskosten zu tragen (Art. 135 in Verbindung mit Art. 156 Abs. 1 OG).
Dem Ausgang des letztinstanzlichen Verfahrens entsprechend steht O._ eine Parteientschädigung zu (Art. 135 in Verbindung mit Art. 159 Abs. 1 OG).
Nach Art. 159 Abs. 2 OG darf im Verfahren der Verwaltungsgerichtsbeschwerde obsiegenden Behörden oder mit öffentlich-rechtlichen Aufgaben betrauten Organisationen in der Regel keine Parteientschädigung zugesprochen werden. In Anwendung dieser Bestimmung hat das Eidgenössische Versicherungsgericht der SUVA und den privaten UVG-Versicherern sowie - von Sonderfällen abgesehen - den Krankenkassen keine Parteientschädigungen zugesprochen, weil sie als Organisationen mit öffentlich-rechtlichen Aufgaben zu qualifizieren sind (<ref-ruling> Erw. 6 mit Hinweisen). Demzufolge steht der Ersatzkasse UVG keine Parteientschädigung zu.

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen, so-
weit darauf einzutreten ist.
II. Die Gerichtskosten von Fr. 2000.- werden der SWICA
auferlegt und mit dem geleisteten Kostenvorschuss ver-
rechnet.
III. Die SWICA hat O._ für das Verfahren vor dem
Eidgenössischen Versicherungsgericht eine Partei-
entschädigung von Fr. 2000.- (einschliesslich Mehr-
wertsteuer) zu bezahlen.
IV. Der Ersatzkasse UVG wird keine Parteientschädigung zu-
gesprochen.
V. Dieses Urteil wird den Parteien, dem Verwaltungsge-
richt des Kantons Thurgau und dem Bundesamt für So-
zialversicherung zugestellt.
Luzern, 18. Oktober 2000
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der II. Kammer:
Die Gerichtsschreiberin: