Sachverhalt:
A.
A.a. A._ und seine Ehefrau B._ führten vom 1. April 2004 bis 31. März 2015 auf der Basis einer als Pachtvertrag vom 18. November 2003 bezeichneten Vereinbarung mit dem Kanton St. Gallen (nachfolgend: Kanton) die Mensa der Kantonsschule. Dafür wurden ihnen vom Kanton in den Jahren 2005 bis 2014 öffentliche Betriebsbeiträge in der Höhe von jährlich Fr. 32'000.- bis Fr. 34'800.- ausgerichtet. Zusätzlich gewährte der Kanton im Rahmen einer Vertragsergänzung vom 28. April 2010 Finanzhilfen im Betrag von Fr. 15'584.60 und Fr. 26'510.90 für den Kauf von Verpflegungsautomaten.
A.b. Am 26. August 2014 machte A._ Ansprüche aus dem Vertrag vom 18. November 2003 im Betrag von Fr. 376'000.- geltend. Die Schlichtungsstelle in Personalsachen des Kantons St. Gallen führte am 8. September 2015 eine Verständigungsverhandlung durch, an welcher keine Einigung erzielt wurde.
B.
Am 16. September 2015 erhob A._ beim Verwaltungsgericht des Kantons St. Gallen Klage mit dem Antrag, der Kanton sei unter Kosten- und Entschädigungsfolgen zu verpflichten, ihm Fr. 230'000.- brutto nebst Zins zu 5 % seit 26. August 2014 zu bezahlen. Das Verwaltungsgericht wies die Klage mit Entscheid vom 15. August 2017 ab.
C.
A._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Begehren, der kantonale Entscheid sei aufzuheben und die Sache sei zuständigkeitshalber an die Verwaltungsrekurskommission des Kantons St. Gallen zu überweisen. Eventualiter sei der Kanton zu verpflichten, ihm Fr. 230'000.- brutto nebst Zins zu 5 % seit 26. August 2014 zu bezahlen. Subeventualiter sei die Sache zu neuem Entscheid an die zuständige Instanz zu überweisen.
Der Kanton beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz schliesst auf Abweisung der Beschwerde.
Erwägungen:
1.
1.1. Die Frage, ob eine öffentlich-rechtliche Angelegenheit vorliegt, welche in das Gebiet der öffentlich-rechtlichen Arbeitsverhältnisse im Sinne von Art. 83 lit. g BGG fällt, ist eine Frage, die den vor das Bundesgericht gebrachten Streitgegenstand bildet. Die Prüfung der Zulässigkeit der Beschwerde setzt folglich die Beantwortung einer Frage voraus, die sich mit der materiellen Streitsache deckt. In einem solchen Fall genügt es im Stadium der Eintretensfrage, dass der Beschwerdeführer glaubhaft macht, dass in der Streitfrage die Voraussetzungen, welche die Zuständigkeit des Bundesgerichts begründen, erfüllt sind. Die Frage, ob dies tatsächlich der Fall ist, wird mit der materiellen Prüfung der Sache entschieden, sofern die weiteren Eintretensvoraussetzungen erfüllt sind (BGE 142 II 154 E. 1.1 S. 155, ebenfalls publiziert in: Pra 2016 Nr. 98 S. 895; Urteil 8C_227/2014 vom 18. Februar 2015 E. 2.1; Urteil 2C_484/2008 vom 9. Januar 2009 E. 1.3, nicht publ. in: BGE 135 II 49, aber in: Pra 2009 Nr. 75 S. 502).
Aufgrund der Ausführungen in der Beschwerde ist glaubhaft gemacht, dass die Zuständigkeit des Bundesgerichts zur Beurteilung der Streitfrage gegeben ist.
1.2. Vorliegend ist der Rechtsstreit vermögensrechtlicher Natur, so dass der Ausschlussgrund von Art. 83 lit. g BGG nicht in Betracht fällt. Zudem wird die Streitwertgrenze von Fr. 15'000.- überschritten (Art. 85 Abs. 1 lit. b i.V.m. Art. 51 Abs. 1 lit. a BGG), so dass die Voraussetzungen für das Eintreten erfüllt sind.
2.
2.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss Art. 95 f. BGG, insbesondere wegen Verletzung von Bundesrecht (Art. 95 lit. a BGG), erhoben werden. Die Verletzung kantonaler Bestimmungen bildet - abgesehen von den hier nicht gegebenen Fällen gemäss Art. 95 lit. c-e BGG - nur dann einen zulässigen Beschwerdegrund, wenn eine derartige Rechtsverletzung einen Verstoss gegen Bundesrecht im Sinne von Art. 95 lit. a BGG oder gegen Völkerrecht im Sinne von Art. 95 lit. b BGG zur Folge hat (BGE 140 I 320 E. 3.1 S. 321 mit Hinweisen; vgl. auch BGE 142 V 94 E. 1.3 S. 96 mit Hinweisen).
2.2. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind. Hinsichtlich der Verletzung von Grundrechten und von kantonalem oder interkantonalem Recht gilt eine qualifizierte Rügepflicht; das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG; BGE 136 I 49 E. 1.4.1 S. 53). Wird eine Verletzung des Willkürverbots geltend gemacht, muss im Einzelnen dargelegt werden, inwiefern der angefochtene Entscheid an einem qualifizierten und offensichtlichen Mangel leidet. Auf ungenügend begründete Rügen und bloss allgemein gehaltene, appellatorische Kritik am angefochtenen Entscheid geht es nicht ein (BGE 140 III 264 E. 2.3 S. 266; 139 II 404 E. 10.1 S. 445, je mit Hinweisen).
2.3. In Ergänzung zu den Rügen, die sich auf Art. 95 f. BGG stützen, sind unter den engen Voraussetzungen von Art. 97 Abs. 1 BGG auch Vorbringen gegen die Sachverhaltsfeststellung zulässig. Ein solcher Einwand kann nach der letztgenannten Bestimmung nur erhoben werden, wenn die Feststellung des Sachverhalts durch die Vorinstanz offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann. "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 133 II 249 E. 1.2.2 S. 252).
2.4. Willkür in der Rechtsanwendung liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 142 II 369 E. 4.3 S. 380 mit Hinweisen).
3.
Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie das Rechtsverhältnis, das zwischen den Parteien vom 1. April 2004 bis zum 31. März 2015 bestand, nicht als öffentlich-rechtliches Arbeitsverhältnis gemäss dem Personalgesetz des Kantons St. Gallen vom 25. Januar 2011 (PersG; GS 143.1) qualifizierte.
4.
4.1. In formeller Hinsicht rügt der Beschwerdeführer, aus den per 30. Juni 2017 (recte: 1. Juni 2017) in Kraft getretenen Bestimmungen ergebe sich, dass personalrechtliche Klagen von der Verwaltungsrekurskommission zu beurteilen seien. Die von der Vorinstanz zitierten Übergangsbestimmungen seien nicht anwendbar. Wo ein doppelter Instanzenzug vorgesehen sei, bestehe ein Anspruch, dass er eingehalten werde. Da somit zur Beurteilung der vorliegenden Angelegenheit die Verwaltungsrekurskommission zuständig gewesen sei, verstosse die Beurteilung durch das Verwaltungsgericht gegen Art. 30 Abs. 1 BV.
4.2. Die Vorinstanz hat zur Frage des anwendbaren Verfahrensrechts ausgeführt, die am 31. Januar 2017 revidierten Bestimmungen des PersG und des Gesetzes des Kantons St. Gallen vom 16. Mai 1965 über die Verwaltungsrechtspflege (VRP; GS 951.1) enthielten keine übergangsrechtlichen Regelungen. Solche fänden sich aber in der Übergangsbestimmung Ziff. III/1 des V. Nachtrags zum VRP vom 23. Januar 2007 sowie in Art. 133 Abs. 1 VRP und Art. 110 Abs. 2 PersG. Danach schliesse die nach bisherigem Recht zuständige Instanz Verfahren, die bei Vollzugsbeginn bei ihr hängig seien, nach bisherigem Recht ab. Gemeint seien damit insbesondere Verfahren vor dem Verwaltungsgericht.
4.3.
4.3.1. Nach Art. 30 Abs. 1 BV hat jede Person, deren Sache in einem gerichtlichen Verfahren beurteilt werden muss, Anspruch auf ein durch Gesetz geschaffenes, zuständiges, unabhängiges und unparteiisches Gericht. Diese Vorschrift garantiert somit u.a. die Einhaltung der jeweils geltenden staatlichen Zuständigkeitsordnung. Sie sieht zwar nicht eine bestimmte Gerichtsorganisation oder ein bestimmtes Verfahren vor. Das Gericht und seine Zuständigkeit müssen allerdings von Verfassung wegen durch generell-abstraktes Verfahrensrecht im Voraus bestimmt sein. Nach dem Wortlaut der Verfassungsbestimmung hat sich die Gerichtsorganisation auf ein formelles Gesetz zu stützen. Wird eine Verletzung von Art. 30 Abs. 1 BV geltend gemacht, so prüft das Bundesgericht die Auslegung und Anwendung des kantonalen Gesetzesrechts nur unter dem Gesichtswinkel des Willkürverbots (Art. 9 BV). Mit freier Kognition beurteilt es ausschliesslich, ob die als vertretbar erkannte Auslegung des kantonalen Rechts mit den Garantien von Art. 30 Abs. 1 BV vereinbar ist (Urteil 4A_376/2011 vom 14. März 2012 E. 3.1 mit Hinweisen).
4.3.2. Gemäss dem am 31. Januar 2017 geänderten und per 1. Juni 2017 in Kraft getretenen Art. 78 Abs. 1 PersG beurteilt die Verwaltungsrekurskommission personalrechtliche Klagen in erster, das Verwaltungsgericht in zweiter Instanz. Nach dem neuen Art. 81bis PersG kann der Entscheid der Verwaltungsrekurskommission innert 14 Tagen mit Beschwerde an das Verwaltungsgericht weitergezogen werden. Der seit Inkrafttreten des Gesetzes am 25. Januar 2011 geltende Art. 110 Abs. 2 PersG lautet: "Bei Vollzugsbeginn dieses Erlasses hängige, das Dienstverhältnis oder Ansprüche aus dem Dienstverhältnis betreffende Verfahren sowie hängige Disziplinarverfahren werden von der nach bisherigem Recht zuständigen Behörde und in dem nach bisherigem Recht massgebenden Verfahren erledigt."
Nach dem ebenfalls am 31. Januar 2017 neu geschaffenen und per 1. Juni 2017 in Kraft getretenen Art. 71g VRP können Entscheide der Verwaltungsrekurskommission in Klagefällen innert 14 Tagen mit Beschwerde an das Verwaltungsgericht weitergezogen werden. Gemäss der seit 1. Juli 1966 geltenden Übergangsbestimmung von Art. 133 VRP sind die vor Vollzugsbeginn des VRP eröffneten Verfügungen und Entscheide nach bisherigen Recht weiterziehbar. Die Übergangsbestimmung Ziff. III/1. des V. Nachtrags zum VRP vom 23. Januar 2007 regelt, dass die nach bisherigem Recht zuständige Instanz Verfahren, die bei Vollzugsbeginn bei ihr hängig sind, nach bisherigem Recht abschliesst.
4.4. Während nach dem bis Ende Mai 2017 geltenden Personalrecht nach erfolglos durchgeführtem Schlichtungsverfahren das Verwaltungsgericht als einzige Instanz personalrechtliche Klagen beurteilte, sieht der seit 1. Juni 2017 in Kraft stehende Art. 78 Abs. 1 PersG als erste Instanz für solche Streitigkeiten die Verwaltungsrekurskommission vor. Zwar trifft zu, dass die zitierten und von der Vorinstanz angewendeten Übergangsbestimmungen allgemein gefasst sind und sich - da sie bereits vor den Änderungen des Personalgesetzes und des VRP vom 31. Januar 2017 bestanden - nicht speziell auf diese Änderungen beziehen. Inwiefern es aber willkürlich sein soll, dass die Vorinstanz mangels gleichzeitig mit den neuen Bestimmungen erlassener Übergangsregelungen die allgemeinen Übergangsbestimmungen angewendet hat, wird vom Beschwerdeführer nicht dargelegt. Im Übrigen steht das vorinstanzliche Vorgehen mit dem allgemeinen intertemporalrechtlichen Grundsatz und der dazu ergangenen Rechtsprechung im Einklang, wonach neue Verfahrensvorschriften grundsätzlich mit dem Tag des Inkrafttretens sofort und in vollem Umfang anwendbar sind, es sei denn, das neue Recht kenne anderslautende Übergangsbestimmungen. Wenn jedoch die Behörde noch vor Inkrafttreten der neuen Normen angerufen worden ist, so bleibt der Fall, insbesondere was die Zuständigkeit betrifft, dem bisherigen Recht unterstellt. Gemäss dem Grundsatz der perpetuatio fori bestimmt sich die Zuständigkeit nach dem Zeitpunkt der Eröffnung des Verfahrens. Vorbehalten bleibt der Fall, wo die angerufene Behörde nicht mehr besteht (BGE 129 V 113 E. 2.2 S. 115; SVR 2009 IV Nr. 44 S. 129 E. 4.1, 9C_313/2008, je mit Hinweisen; HÄFELIN/MÜLLER/UHLMANN, Allgemeines Verwaltungsrecht, 7. Aufl. 2016, Rz. 296).
Demnach ist die Rüge der Verletzung von Art. 30 Abs. 1 BV unbegründet.
5.
5.1. Gemäss Art. 1 PersG regelt dieser Erlass das Arbeitsverhältnis des Staatspersonals. Gestützt auf Art. 8 PersG werden die Bestimmungen des Schweizerischen Obligationenrechts vom 30. März 1911 (OR; SR 220) über den Arbeitsvertrag sachgemäss angewendet, soweit das Personalgesetz und gestützt darauf erlassenes Verordnungsrecht sowie besondere gesetzliche Bestimmungen keine abweichende Regelung treffen.
5.2. Nach Art. 319 Abs. 1 OR verpflichtet sich der Arbeitnehmer durch den Einzelarbeitsvertrag zur Leistung von Arbeit im Dienst des Arbeitgebers auf bestimmte oder unbestimmte Zeit und dieser zur Entrichtung eines Lohnes, der nach Zeitabschnitten (Zeitlohn) oder nach der geleisteten Arbeit (Akkordlohn) bemessen wird.
Der Arbeitsvertrag weist nach der zivilrechtlichen Definition im Wesentlichen vier Merkmale auf: Es ist Arbeit gegen Entgelt in einem Dauerschuldverhältnis geschuldet, die in einer fremden Arbeitsorganisation und damit in einem Unterordnungsverhältnis geleistet wird. Notwendige Voraussetzung für das Vorliegen eines Arbeitsverhältnisses ist die Subordination des Arbeitnehmers. Darunter wird die rechtliche Unterordnung in persönlicher, betrieblicher und wirtschaftlicher Hinsicht verstanden. Entscheidend ist, dass der Arbeitnehmer in eine fremde Arbeitsorganisation eingegliedert ist und damit von bestimmten Vorgesetzten Weisungen erhält. Er wird in eine hierarchische Struktur eingebettet. Die Schwierigkeit liegt allerdings darin, dass auch bei anderen Verträgen auf Arbeitsleistung, zum Beispiel beim Auftrag, ein Weisungsrecht besteht. Es kommt deshalb auf das Mass der Weisungsgebundenheit an (Urteil 4A_504/2015 vom 28. Januar 2016 E. 2.1.1 mit Hinweisen).
5.3. Gelten durch Verweis im kantonalen öffentlichen Recht ergänzend die Bestimmungen des Obligationenrechts, wird durch die im öffentlichen Recht vorgenommene Verweisung auf das Privatrecht dieses zum öffentlichen Recht des betreffenden Gemeinwesens. Es ist nach dessen Regeln anzuwenden und auszulegen. Die übernommenen Normen des Obligationenrechts gelten nicht als Bundesprivatrecht, sondern als subsidiäres Recht des Kantons. Entsprechend ist die Bundesrechtsrüge gemäss Art. 95 lit. a BGG auf die Verletzung verfassungsmässiger Rechte beschränkt. Die Rüge der Verletzung des Obligationenrechts - angewandt als kantonales öffentliches Recht - kann nicht vorgebracht werden (BGE 140 I 320 E. 3.3 S. 322 mit Hinweisen).
Somit steht die willkürliche Anwendung von kantonalem Recht (Art. 9 BV) im Vordergrund.
6.
6.1. Da das kantonale Personalgesetz das Arbeitsverhältnis nicht selbst definiert, hat die Vorinstanz gemäss Art. 8 PersG zur Prüfung der Frage, ob ein öffentlich-rechtliches Arbeitsverhältnis vorliegt (Art. 1 i.V.m. Art. 14 PersG), als subsidiäres kantonales Recht den zivilrechtlichen Begriff des Arbeitsvertrags analog berücksichtigt. Gestützt darauf hat sie das Vorliegen eines Arbeitsverhältnisses verneint und das Rechtsverhältnis zwischen Beschwerdeführer und Kanton aufgrund des als Pachtvertrag bezeichneten Vertrags vom 18. November 2003 sowie der übrigen Vereinbarungen als öffentlich-rechtlichen Subventionsvertrag, der mit einer Teilpacht verbunden wurde, qualifiziert. Zur Begründung hat sie im Wesentlichen erwogen, die unternehmerische Freiheit des Beschwerdeführers sei zwar durch Weisungen des Kantons eingeschränkt worden, weshalb das Abgrenzungskriterium des Unterordnungsverhältnisses keine eindeutige Vertragsqualifikation erlaube. Von entscheidender Bedeutung seien daher die ergänzenden Kriterien. Zwischen den Parteien sei kein Lohn, sondern einzig die Ausrichtung von Subventionen vereinbart worden. Der Beschwerdeführer und dessen Ehefrau hätten auf eigene Rechnung und auf eigenes Risiko gehandelt und die Sozialabzüge als Selbstständigerwerbende abgerechnet. Sodann sei ihnen nicht verwehrt gewesen, eine anderweitige selbstständige oder unselbstständige Erwerbstätigkeit aufzunehmen, um ihre wirtschaftliche Abhängigkeit vom Kanton zu reduzieren. Unter diesen Umständen könne nicht gesagt werden, dass der Beschwerdeführer zum Kanton in einem Arbeitsverhältnis gestanden habe. Folglich habe für den Kanton keine gesetzliche Pflicht bestanden, die Vereinbarung vom 18. November 2003/28. April 2010 über die Führung des Mensabetriebs als öffentlich-rechtlichen Arbeitsvertrag auszugestalten.
6.2. Der Beschwerdeführer rügt einerseits eine unrichtige Feststellung des Sachverhalts. Anderseits macht er geltend, die Vorinstanz habe das Rechtsverhältnis zwischen ihm und dem Beschwerdegegner zu Unrecht nicht als öffentlich-rechtliches Arbeitsverhältnis qualifiziert. Er bringt zusammengefasst vor, aufgrund der massgebenden Kriterien sei das Rechtsverhältnis als Arbeitsvertrag (allenfalls verbunden mit Elementen der Pacht) zu qualifizieren. Er sei in eine hierarchische Struktur eingebettet gewesen. Die für diese hierarchische Struktur geschaffene Kompetenzordnung habe ihm keinen unternehmerischen Spielraum in den für das Betriebsergebnis relevanten Belangen gelassen. Das gewählte Vergütungssystem habe, um den fehlenden unternehmerischen Spielraum aufzuwiegen, ein Einkommensziel festgesetzt, welches dem Wert der von ihm eingesetzten Arbeitskraft entsprochen habe. Gestützt auf diese Umstände sei er vollständig vom Beschwerdegegner abhängig gewesen. Dass die Vorinstanz ihn als selbstständigen Unternehmer eingestuft habe, stehe mit der tatsächlichen Situation in klarem Widerspruch, verletze die für die Vertragsqualifikation geltenden Rechtsgrundsätze in krasser Weise und bilde ein stossendes Ergebnis. Der vorinstanzliche Entscheid sei daher willkürlich.
7.
7.1. Der Beschwerdeführer beschränkt sich über weite Strecken darauf, die vorinstanzliche Beweiswürdigung zu kritisieren und dem vorinstanzlichen Beweisergebnis seine eigene Sicht der Dinge gegenüberzustellen. Bei seinen Ausführungen handelt es sich grösstenteils um unzulässige appellatorische Kritik, mit welcher er seine eigene Sicht der Dinge darstellt, ohne sich unter Willkürgesichtspunkten mit den Erwägungen des kantonalen Entscheids auseinanderzusetzen. Darauf ist nicht näher einzugehen.
Soweit die Vorbringen des Beschwerdeführers über eine unzulässige appellatorische Kritik hinausgehen, sind sie - wie nachfolgend gezeigt wird - nicht geeignet, die vorinstanzliche Beweiswürdigung als willkürlich erscheinen zu lassen.
7.2. Entgegen den Vorbringen des Beschwerdeführers ist nicht ersichtlich, weshalb sich die Vorinstanz bei der Qualifikation des Rechtsverhältnisses zwischen den Parteien nicht auf die erstellten schriftlichen Unterlagen hätte stützen dürfen. Solche Dokumente werden gerade mit dem Zweck verfasst, im Streitfall festzustellen, was vereinbart worden war. Im Übrigen hat die Vorinstanz ergänzend festgehalten, dass vom klaren Vertragswortlaut abzuweichen sei, wenn ernsthafte Anhaltspunkte bestünden, dass dieser nicht dem Willen der Parteien entspreche. Zudem hat sie sich bei der Festsetzung des massgebenden Sachverhalts - entgegen der Behauptung des Beschwerdeführers - nicht nur auf die Vertragsbestimmungen, sondern auch auf die übrigen Akten und dabei insbesondere auf die Protokolle der Sitzungen der Mensakommission gestützt. Jedenfalls ist im Vorgehen der Vorinstanz bei der Beurteilung des strittigen Rechtsverhältnisses keine Willkür zu erkennen.
7.3. Der Beschwerdeführer rügt, die vorinstanzliche Feststellung, dass es ihm unbenommen gewesen sei, mit Zustimmung des Kantons die Betriebsführung auf Dritte zu übertragen, sei aktenwidrig. Dasselbe gelte für die vorinstanzliche Feststellung, es sei ihm und seiner Ehefrau nicht verwehrt gewesen, eine anderweitige selbstständige oder unselbstständige Erwerbstätigkeit aufzunehmen, um die wirtschaftliche Abhängigkeit vom Kanton zu reduzieren. Entgegen den vorinstanzlichen Feststellungen sei er zur persönlichen Arbeitsleistung verpflichtet gewesen und habe effektiv mehr als ein Vollpensum leisten müssen. Die Feststellung der Vorinstanz über die Möglichkeit einer Delegation der Betriebsführung sei offensichtlich aktenwidrig und zu korrigieren.
Mit diesen Ausführungen vermag der Beschwerdeführer die vorinstanzlichen Feststellungen zu seiner Arbeitsleistung nicht als willkürlich erscheinen zu lassen. Zwar trifft es zu, dass vertraglich vereinbart worden war, dass der Pächter die Betriebsführung ohne Zustimmung des Verpächters nicht auf einen Dritten übertragen durfte (vgl. Ziff. 3 lit. a des Pachtvertrags betreffend die Mensa der Kantonsschule vom 18. November 2003). Dies steht aber nicht im Widerspruch zur Feststellung der Vorinstanz, dass mit Zustimmung des Kantons eine solche Übertragung möglich gewesen wäre. Die im Vertrag definierte persönliche Arbeitsleistung des Beschwerdeführers beschränkte sich denn auch auf die Betriebsführung. Diesem stand es frei, einzelne Aufgaben seinen Angestellten zu delegieren, weshalb die vorinstanzliche Feststellung, er sei bezüglich Gestaltung seiner Arbeitszeit grundsätzlich frei gewesen, zutreffend ist. Dasselbe gilt hinsichtlich der vorinstanzlichen Feststellung, es sei dem Beschwerdeführer nicht verwehrt gewesen, eine anderweitige selbstständige oder unselbstständige Erwerbstätigkeit aufzunehmen, um seine wirtschaftliche Abhängigkeit vom Kanton zu reduzieren. Weshalb ihm dies ausserhalb der Schulzeit (z.B. abends, an den Wochenenden oder in den Schulferien) nicht hätte möglich sein sollen, wird vom Beschwerdeführer nicht dargelegt.
7.4. Der Beschwerdeführer stellt sich auf den Standpunkt, mit den Bestimmungen betreffend Festlegung des Betriebsbeitrags sei ein Referenzlohn festgesetzt worden. Auch sei kein Gewinnanteil des Kantons vereinbart worden. Die vorinstanzliche Interpretation der Vereinbarung des Betriebsbeitrags sei aktenwidrig und offensichtlich unrichtig im Sinne von Art. 97 Abs. 1 BGG.
Die Vorinstanz hat sich mit der Vereinbarung betreffend Festlegung des Betriebsbeitrags vom 18. November 2003 eingehend auseinandergesetzt und dargelegt, weshalb dadurch nicht ein Lohn vereinbart worden sei. Mit Verweis auf die erwähnte Klausel hielt sie fest, das effektiv erzielte Einkommen des Beschwerdeführers hätte geringer oder grösser sein können als der "Ziel- oder Referenzlohn" von jährlich Fr. 90'000.-. Gemäss Vereinbarung partizipierte der Kanton bei Erwirtschaften eines Überschusses ab Fr. 10'000.- anteilsmässig (je nach Grösse des Überschusses zwischen 30 und 50 %), womit sich faktisch dessen Betriebsbeitrag reduzierte. Die vorinstanzliche Feststellung, der Beschwerdeführer habe dem Kanton je nach Überschuss gemäss Betriebsrechnung einen Anteil am Gewinn zugesichert, ist somit nicht aktenwidrig.
7.5. Die Vorinstanz hat sich mit dem Vorbringen des Beschwerdeführers, es habe sich bei der Betriebsführung der Mensa nur um eine Scheinselbstständigkeit gehandelt, auseinandergesetzt und aufgezeigt, weshalb dies nicht der Fall sei. Dabei hat sie - entgegen der Ansicht des Beschwerdeführers - auch den Ausführungen in der Studie und Beurteilung des Gastro-Fachmannes C._ Rechnung getragen. Die Vorinstanz hat nicht verkannt, dass der Entscheidungsspielraum des Beschwerdeführers durch Weisungen des Kantons eingeschränkt gewesen war, weshalb für sie der Vertrag von seiner Bedeutung her in die Nähe eines Arbeitsverhältnisses gerückt bzw. für einen Pachtvertrag atypisch gewesen sei. Von entscheidender Bedeutung für die Qualifikation des Vertrages waren für die Vorinstanz indessen andere Kriterien, etwa der Umstand, dass die konkrete Ausgestaltung des Angebots und der Wareneinkauf allein dem Beschwerdeführer oblegen hätten. Dieser habe die Preise für Kioskwaren und Menüpreise für Dritte festgelegt und sei für das Mensapersonal allein verantwortlich gewesen. Zudem sei keine für das Arbeitsverhältnis typische Überwachung von Präsenz- oder Arbeitszeit erfolgt. Auch sei der Beschwerdeführer nicht direkt einer Person unterstellt gewesen. Seine Leistungen und sein Verhalten seien nicht qualifiziert worden. Darüber hinaus hätten er und seine Ehefrau mit beratender Stimme an den Sitzungen der Mensakommission teilnehmen und die Preisfestsetzung entsprechend beeinflussen können, wobei ihren Anträgen - mit Ausnahme der letzten Sitzung vom 2. Mai 2014 - gefolgt worden sei. Was den Einwand betreffend die fehlende wirtschaftliche Freiheit anbelangt, hat die Vorinstanz erwogen, dem Beschwerdeführer habe jederzeit frei gestanden, die in seiner alleinigen Kompetenz liegenden Preise anzupassen, die Einkaufs- und Personalkosten zu reduzieren, bei der Mensakommission eine Erhöhung des Betriebsbeitrags und der Preise der vergünstigten Menüs zu verlangen oder die Verlusttragung durch eine rasche Beendigung des Pachtverhältnisses gering zu halten.
Der Beschwerdeführer vermag nicht darzutun, inwiefern diese vorinstanzlichen Feststellungen, die sich auf die schriftlichen Vereinbarungen sowie die Protokolle der Sitzungen der Mensakommission stützen, willkürlich sind. So wird in dem von der Vorinstanz erwähnten Protokoll der Sitzung der Mensakommission vom 2. Mai 2014 festgehalten, die Mensakommission sei noch nie gegen einen Vorschlag der Mensaleitung gewesen, was vom Beschwerdeführer nicht in Abrede gestellt wurde (vgl. dazu auch Anmerkungen der Ehefrau zum erwähnten Protokoll sowie das Protokoll vom 1. September 2014, in welchem konstatiert wird, es gebe keine Bemerkungen zum Protokoll vom 2. Mai 2014). Ferner kann dazu auf das Protokoll vom 25. April 2014 verwiesen werden, in welchem ausgeführt wird, die Mensaleitung bringe die Anträge für die Preisgestaltung ein. Der Beschwerdeführer legt nicht dar, inwiefern bzw. in welchen Punkten die Mensakommission ihm nicht gefolgt sei. Es kann dazu auch auf das ebenfalls von der Vorinstanz angeführte Protokoll vom 23. März 2006 verwiesen werden, gemäss welchem die Mensaleitung mit dem Jahresergebnis, dem Umsatz der Mensa und den Automaten zufrieden sei.
7.6.
7.6.1. Der Beschwerdeführer rügt, die Vorinstanz habe bei der Feststellung, dass die Kommission seinen Anträgen gefolgt sei, die Darstellung des Beschwerdegegners übernommen, ohne seine entgegenstehenden Behauptungen zu würdigen, was einer Verletzung des rechtlichen Gehörs gleichkomme und als willkürliche Beweiswürdigung zu korrigieren sei. Willkür sei auch deshalb gegeben, weil die Vorinstanz ohne den von ihm beantragten Beizug der fehlenden Protokolle der Mensakommission die Entscheidfindung in den Sitzungen nicht habe feststellen können.
7.6.2. Der Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV) umfasst u.a. das Recht des Betroffenen, mit erheblichen Beweisanträgen gehört zu werden und an der Erhebung wesentlicher Beweise entweder mitzuwirken oder sich zumindest zum Beweisergebnis zu äussern, wenn dieses geeignet ist, den Entscheid zu beeinflussen (BGE 138 I 232 E. 5.1 S. 237; 133 I 270 E. 3.1 S. 277). Ein Verzicht auf die Abnahme von weiteren Beweisen ist zulässig, wenn sich das Gericht aufgrund der bereits erhobenen Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener Beweiswürdigung annehmen kann, dass die abgelehnten Beweisanträge nichts an seiner Überzeugung zu ändern vermögen (BGE 136 I 229 E. 5.3 S. 236; 134 I 140 E. 5.3 S. 148).
7.6.3. Die Vorinstanz hat den Beweisantrag auf Beizug von weiteren Protokollen der Mensakommission mit der Begründung abgewiesen, dass sich die entscheidenden tatsächlichen Verhältnisse aus den Verfahrensakten ergäben. Da die Vorinstanz in tatsächlicher Hinsicht festgestellt hat, dass der rechtserhebliche Sachverhalt aufgrund der vorliegenden Aktenlage hinreichend geklärt war, kann in Bezug auf die antizipierte Beweiswürdigung einzig Willkür gerügt werden (Urteil 8C_559/2015 vom 9. Dezember 2015 E. 4.2.2 mit Hinweis auf BGE 136 I 229 E. 5.3 S. 236). Dass die vorinstanzliche antizipierte Beweiswürdigung willkürlich war, vermag der Beschwerdeführer nicht in rechtsgenüglicher Weise darzulegen.
8.
8.1. Zu prüfen bleibt, ob die Vorinstanz gestützt auf den von ihr willkürfrei festgestellten Sachverhalt das Rechtsverhältnis zwischen den Parteien zu Recht nicht dem öffentlichen (kantonalen) Personalrecht unterstellt hat. Das Bundesgericht prüft dies alleine unter dem Gesichtspunkt der Willkür (E. 5.3).
8.2. Die Vorinstanz hat sich mit den einzelnen Merkmalen des Arbeitsvertrages auseinandergesetzt und gestützt auf den willkürfrei festgestellten Sachverhalt dargelegt, weshalb sie diese vorliegend als nicht erfüllt erachtet hat. Der Beschwerdeführer zeigt nicht auf, inwiefern die Vorinstanz das kantonale Recht willkürlich angewendet hat. Er legt lediglich dar, wie das kantonale Recht aufgrund des von ihm als richtig erachteten Sachverhalts hätte ausgelegt werden müssen, was indessen nicht ausreicht, um Willkür zu begründen. Der Beschwerdeführer scheint zu verkennen, dass Art. 319 OR vorliegend nur als subsidiäres kantonales Recht zur Anwendung gelangt und nicht als Bundesrecht, weshalb er hätte darlegen müssen, inwiefern die Vorinstanz das kantonale Recht willkürlich angewendet hat. Auch wenn eine andere Auslegung als jene der Vorinstanz ebenfalls als vertretbar oder gar zutreffender erscheinen mag, genügt dies nicht zur Begründung von Willkür (E. 2.4).
9.
Zusammenfassend ist die Vorinstanz willkürfrei zum Schluss gelangt, dass es sich bei der Vereinbarung zwischen den Parteien nicht um einen öffentlich-rechtlichen Arbeitsvertrag handelte. Die Beschwerde ist abzuweisen.
10.
Das Verfahren ist kostenpflichtig. Der unterliegende Beschwerdeführer hat die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 3'000.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Luzern, 4. Januar 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Riedi Hunold