Sachverhalt:
A.
A.a. Der 1971 geborene A._ war seit dem 1. Juli 2004 beim Kanton Schwyz angestellt. Am 29. Januar 2014 erteilte ihm das kantonale Departement B._ im Zusammenhang mit dem Bezug von Spesen einen Verweis. Ein zweiter Verweis seitens des Departementes B._ erfolgte am 20. September 2016, begründet mit Arbeitspflichtverletzungen, wobei gleichzeitig eine dreimonatige Bewährungsfrist angesetzt sowie organisatorische und führungstechnische Massnahmen angeordnet wurden. Am 29. September 2016 suchte A._ Dr. med. C._, FMH Psychiatrie und Psychotherapie, auf, der ihm ab diesem Datum wegen Krankheit eine 100%ige, voraussichtlich zwei bis drei Monate dauernde Arbeitsunfähigkeit attestierte. Mit Schreiben vom 6. Februar 2017 hielt das Departement B._ fest, die Bemühungen für eine einvernehmliche Auflösung des Arbeitsverhältnisses seien erfolglos geblieben, es sprächen diverse, konkret aufgeführte Gründe für eine Kündigung und eine solche werde nach Ablauf der Sperrfrist in Aussicht genommen. Dazu gewährte es A._ das rechtliche Gehör und stellte ihn ab sofort bis auf Weiteres frei. Nach Einreichung einer Stellungnahme zur geplanten Entlassung/Freistellung vom 21. März 2017 kündigte der Regierungsrat des Kantons Schwyz das Arbeitsverhältnis mit Schreiben vom 28. März 2017 per 30. September 2017.
A.b. Am 13. Juli 2017 erhob A._ Klage gegen den Kanton Schwyz und beantragte im Hauptbegehren v.a. die Nichtigerklärung der Kündigung vom 28. März 2017 sowie die Ausstellung eines (Zwischen-) Zeugnisses gemäss Vorlage. Mit Entscheid vom 24. November 2017 (III 2017 134) stellte das Verwaltungsgericht des Kantons Schwyz fest, die Kündigung sei nicht nichtig gewesen und das Arbeitsverhältnis habe per 30. September 2017 geendet. Insoweit wies das kantonale Gericht die Klage ab. Die weiteren Begehren des Klägers würden im Sinne der Erwägungen im neu eröffneten Verfahren "III 2017 218" behandelt. Auf die hiegegen erhobene Beschwerde in öffentlich-rechtlichen Angelegenheiten ist das Bundesgericht mit Urteil vom 27. April 2018 nicht eingetreten.
B.
Nach erfolglosen Vergleichsverhandlungen begründete A._ auf Aufforderung des Verwaltungsgerichts hin mit Eingabe vom 3. Dezember 2018 seine finanziellen Forderungen. Unter Festhaltung an den bisher gestellten Hauptbegehren beantragte er präzisierend die Zusprechung einer Abfindung in der Höhe eines Jahreslohnes sowie einer Entschädigung von einem halben Jahreslohn, beides nebst Zins zu 5 % seit 1. Oktober 2017. Der Kanton Schwyz liess auf Abweisung sämtlicher Rechtsbegehren schliessen. Mit Entscheid vom 29. August 2019 hiess das Verwaltungsgericht die Rechtsbegehren insoweit teilweise gut, als A._ Anspruch darauf habe, dass das Zwischenzeugnis vom 11. August 2017 mit dem Vermerk "nicht codiert" ergänzt werde, und dass ihm per Saldo aller Ansprüche zwei Bruttomonatslöhne zuzusprechen seien. Im Übrigen wies es die finanziellen Forderungen, soweit darauf einzutreten sei, ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt der Kanton Schwyz beantragen, in teilweiser Aufhebung des angefochtenen Entscheids seien A._ keine finanziellen Leistungen zuzusprechen.
Das Verwaltungsgericht schliesst sinngemäss auf Abweisung der Beschwerde, eventualiter auf Rückweisung an das kantonale Gericht zu zusätzlichen Sachverhaltsabklärungen und Beweisabnahmen. A._ lässt beantragen, die Sache sei zur Ergänzung bzw. neuer Beurteilung an die Vorinstanz zurückzuweisen, soweit auf die Beschwerde einzutreten und diese nicht abzuweisen sei.

Erwägungen:
1.
Die Beschwerde richtet sich gegen einen Endentscheid einer letzten kantonalen Instanz, der nicht beim Bundesverwaltungsgericht angefochten werden kann (Art. 86 Abs. 1 lit. d, Art. 90 BGG). Ihm liegt eine Angelegenheit des öffentlichen Rechts zugrunde (<ref-law>). Ein Ausschlussgrund (<ref-law>) liegt nicht vor. Insbesondere ist der auf dem Gebiet öffentlich-rechtlicher Arbeitsverhältnisse zu beachtende Ausnahmetatbestand des <ref-law> nicht gegeben. Die nach Art. 85 Abs. 1 lit. b in Verbindung mit <ref-law> zu beachtende Streitwertgrenze von Fr. 15'000.- wird mit den vorinstanzlich streitig gebliebenen Ansprüchen erreicht. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
2.
2.1. Im Verfahren vor Bundesgericht gibt es keine Anschlussbeschwerde (<ref-ruling> E. 2.1 S. 110; 346 E. 2 S. 348). Wer mit dem angefochtenen Entscheid nicht einverstanden ist, muss diesen selbst innert der Beschwerdefrist (<ref-law>) anfechten. Sodann kann das Bundesgericht nicht über die fristgerecht gestellten Rechtsbegehren der Parteien hinausgehen (<ref-law>), wobei Ausgangspunkt der Bindungswirkung das Rechtsbegehren der beschwerdeführenden Partei, nicht jenes des Beschwerdegegners ist (MEYER/DORMANN, in: Basler Kommentar zum BGG, 3. Aufl. 2018, N. 2 zu <ref-law>). Gibt die Vorinstanz - wie hier - beiden Parteien teilweise Recht und erhebt nur eine Partei Beschwerde ans Bundesgericht mit dem Antrag, es sei ihr vollumfänglich Recht zu geben, kann deshalb die andere Partei nicht im Rahmen der Vernehmlassung zu dieser Beschwerde wieder diejenigen Anträge stellen, mit denen sie vor der Vorinstanz unterlegen ist (zum Ganzen: <ref-ruling> E. 2.1 S. 110; Urteil 8C_402/2019 vom 14. Januar 2020 E. 4.1, zur Publikation vorgesehen). Vielmehr hat sich ein Beschwerdegegner in der Vernehmlassung auf seine Verteidigung zu beschränken und kann nur Nichteintreten oder vollumfängliche bzw. teilweise Abweisung des Rechtsbegehrens beantragen (Urteil 8C_205/2017 vom 4. August 2017 E. 1.1.1 mit Hinweis).
2.2. Der Beschwerdegegner hat darauf verzichtet, den kantonalen Entscheid innert der Beschwerdefrist anzufechten. In der Vernehmlassung beantragt er die Rückweisung der Sache an die Vorinstanz zur Ergänzung bzw. neuer Beurteilung, soweit auf die Beschwerde einzutreten und diese nicht abzuweisen sei. Wie er selber darlegt, kann ein Beschwerdegegner alle Beschwerdegründe in seiner Antwort auf die Beschwerde geltend machen, um allfällige Fehler der kantonalen Entscheidung zu rügen, die ihm im Falle einer abweichenden Beurteilung der Sache durch das Bundesgericht nachteilig sein könnten (<ref-ruling> E. 2.3 S. 334; <ref-ruling> E. 2 S. 89 und 456 E. 2.2.2 S. 458). Mit seinen insoweit zulässigen Vorbringen kann ein Beschwerdegegner zwar nicht bewirken, dass die kantonale Entscheidung zu seinen Gunsten geändert wird (<ref-ruling> E. 4.1 S. 135), aber in dem für ihn besten Fall erreichen, dass es beim Ergebnis der kantonalen Entscheidung bleibt. Nicht eingetreten werden kann indes auf seine Vorbringen, soweit sie über die Anträge auf Nichteintreten bzw. Beschwerdeabweisung hinausgehen.
3.
3.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Offensichtlich unrichtig bedeutet dabei willkürlich (<ref-ruling> E. 1.2.2 S. 252).
3.2. Das Bundesgericht wendet das Recht grundsätzlich von Amtes wegen an (<ref-law>). Für die Verletzung von Grundrechten und von kantonalem sowie kommunalem Recht gilt demgegenüber eine qualifizierte Rügepflicht (<ref-law>). Das Bundesgericht untersucht nicht von sich aus, ob der angefochtene kantonale Entscheid die Grundrechte oder kantonales und kommunales Recht verletzt, sondern prüft nur rechtsgenügend vorgebrachte, klar erhobene und, soweit möglich, belegte Rügen.
Da keine gesetzliche Ausnahme besteht (Art. 95 lit. c-e BGG), ist die Prüfungsbefugnis des Bundesgerichts gegenüber kantonalem Recht auf die Verletzung verfassungsmässiger Rechte, insbesondere auf Willkür, beschränkt (<ref-law>; vgl. zum Willkürverbot <ref-ruling> E. 2.2 S. 72 mit Hinweisen).
4.
4.1. Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzt hat, indem sie dem Beschwerdegegner in Anlehnung an § 21f Abs. 2 PG in Verbindung mit § 21g PG per Saldo aller Ansprüche eine Abfindung in der Höhe von zwei Bruttomonatslöhnen zugesprochen hat. Nicht mehr Streitgegenstand ist indes mangels eigener Beschwerde des Beschwerdegegners, dass die Kündigung vom 28. März 2017 nicht nichtig war und das Arbeitsverhältnis infolgedessen per 30. September 2017 beendet wurde. Soweit der Beschwerdegegner in seiner Vernehmlassung die Nichtigkeit der Kündigung im Sinne von § 21f Abs. 1 PG geltend macht, geht er damit über seine blosse Verteidigung hinaus, weshalb auf diese Vorbringen nicht eingetreten werden kann (vgl. E. 2 hiervor).
4.2. Der angefochtene Entscheid stützt sich namentlich auf die Bestimmungen des Personal- und Besoldungsgesetzes des Kantons Schwyz vom 26. Juni 1991 (Personalgesetz, PG; SRSZ 145.110), mithin auf kantonales Recht. Soweit Art. 6 Abs. 2 PG die Bestimmungen des Obligationenrechts ergänzend anwendbar erklärt, wenn die kantonale Personalgesetzgebung keine eigene Regelung enthält, wird das Privatrecht kraft Verweisung zum öffentlichen Recht des betreffenden Gemeinwesens. Es ist nach dessen Regeln anzuwenden und auszulegen. Die übernommenen Normen des Obligationenrechts gelten diesfalls nicht als Bundesprivatrecht, sondern als subsidiäres kantonales Recht, dies mit den bereits dargelegten kognitionsrechtlichen Folgen (vgl. <ref-ruling> E. 3.3 S. 322 und E. 3 hiervor).
Die Vorinstanz hat die entsprechenden Bestimmungen zutreffend dargelegt. Darauf kann verwiesen werden.
5.
5.1. Das kantonale Gericht erwog hinsichtlich der streitigen Abfindung zunächst, dem Beschwerdegegner sei vor der Kündigung das rechtliche Gehör im Sinne von § 21 Abs. 1 PG hinreichend gewährt worden. So seien Gespräche und Korrespondenzen über eine einvernehmliche Auflösung des Arbeitsverhältnisses geführt worden und habe das Departement B._ im Schreiben vom 6. Februar 2017 die Gründe für die beabsichtigte Auflösung dargelegt. Dazu habe sich der Beschwerdegegner am 21. März 2017 unter der Überschrift "Rechtliches Gehör zur geplanten Entlassung/Freistellung" geäussert. In Würdigung der Aktenlage und Auseinandersetzung mit den Vorbringen des Beschwerdegegners in der Eingabe vom 3. Dezember 2018 stellte die Vorinstanz sodann im Wesentlichen fest, der Beschwerdegegner habe einerseits durch das Einreichen des eine private Interessengruppe betreffenden Baugesuchs X._ im Namen seiner Anstellung im Kanton Schwyz seine Kompetenzen überschritten und sich andererseits offenkundig während der üblichen Arbeitszeiten in erheblichem Ausmass mit privaten Arbeiten beschäftigt. In den regen privaten Tätigkeiten während der Arbeitszeit sowie zusätzlich in der eigenmächtigen Einreichung des Baugesuchs X._ im Namen seiner Anstellung im Kanton Schwyz sei - so das kantonale Gericht - eine schwere bzw. wiederholte Verletzung von Pflichten aus dem Arbeitsverhältnis im Sinne von § 21a Abs. 2 lit. c PG zu erblicken, welche die Auflösung des Arbeitsverhältnisses unter Einhaltung der Kündigungsfrist rechtfertige. Ein sachlich zureichender Kündigungsgrund sei ohne nähere Prüfung der weiteren im Kündigungsschreiben aufgeführten Aspekte zu bejahen, da auch diese nichts daran zu ändern vermöchten, dass der Beschwerdegegner mit dem dargelegten Verhalten das Vertrauen des Arbeitgebers in erheblichem Masse missbraucht habe. Die Vorinstanz legte im Weiteren dar, der Beschwerdegegner habe weder einen Anspruch auf Genugtuung wegen Mobbings und Bekanntmachung der Kündigung noch auf Ersatz der Anwaltskosten für unnötigen vorprozessualen Aufwand. Um allen Eventualitäten gerecht zu werden - so das kantonale Gericht abschliessend -, rechtfertige es sich zusammenfassend, dem Beschwerdegegner per Saldo aller Ansprüche eine Abfindung bzw. Entschädigung (in Anlehnung an § 21f Abs. 2 PG i.V.m. § 21g PG) in der Höhe von zwei Bruttomonatslöhnen zuzusprechen.
5.2. Der Beschwerdeführer rügt, die Vorinstanz habe dem Beschwerdegegner Leistungen ohne entsprechende gesetzliche Grundlage zugesprochen und damit das Legalitätsprinzip gemäss <ref-law> verletzt. Zudem habe sie kantonale Bestimmungen qualifiziert falsch angewendet und somit willkürlich im Sinne von <ref-law> entschieden. Schliesslich habe sie die Anforderungen an die Begründung einer gerichtlichen Entscheidung nicht beachtet und insofern gegen <ref-law> verstossen.
6.
6.1. Soweit der Beschwerdeführer zunächst eine Verletzung des Legalitätsprinzips (<ref-law>) rügt, ist daran zu erinnern, dass es sich hierbei - abgesehen von seiner spezifischen Bedeutung im Strafrecht und im Abgaberecht - nicht um ein verfassungsmässiges Recht, sondern lediglich um ein Verfassungsprinzip handelt. Der Rüge, der angefochtene Entscheid verstosse gegen das Legalitätsprinzip, da es keine rechtliche Grundlage für die zugesprochenen Leistungen gebe, kommt daher neben dem hier ebenfalls angerufenen Willkürverbot (<ref-law>) keine selbstständige Bedeutung zu (vgl. <ref-ruling> E. 1.3 S. 46; Urteil 8C_167/2019 vom 6. Juni 2019 E. 5.3).
6.2. Eine willkürliche Anwendung kantonalen Rechts liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch dessen Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar als zutreffender erscheinen mag, genügt nicht (<ref-ruling> E. 4.2 S. 516; <ref-ruling> E. 2.2 S. 72, je mit Hinweisen).
6.2.1. Massgebende gesetzliche Grundlage für eine Abfindung oder Entschädigung infolge unzulässiger Kündigung bilden vorliegend namentlich die §§ 21f Abs. 2 und 21g Abs. 3 PG, gemäss welchen finanzielle Ansprüche nach § 21g PG entstehen, wenn eine Kündigung missbräuchlich nach den Bestimmungen des Obligationenrechts ist, wenn sie ohne sachlich zureichenden Grund nach § 21a Abs. 2 PG oder in Missachtung der Verfahrensvorschriften nach § 21 PG ausgesprochen worden ist oder aber wenn eine fristlose Entlassung nach § 21c PG ohne wichtigen Grund erfolgt ist.
6.2.2. Wie im angefochtenen Entscheid dargelegt wurde, ist keiner der erwähnten Gründe, die Anspruch auf finanzielle Leistungen geben könnten, erfüllt. Das kantonale Gericht hat festgestellt, dass ein sachlich hinreichender Kündigungsgrund gemäss § 21a Abs. 2 lit. c PG bestand und dass bezüglich der aus diesem Grund ausgesprochenen Kündigung die Verfahrensvorschriften nach § 21 PG eingehalten wurden. Anhaltspunkte für eine nach den Bestimmungen des Obligationenrechts missbräuchliche Kündigung hat es sodann verneint und dargelegt, das Bestehen eines öffentlich-rechtlichen Anspruchs auf eine Genugtuungsleistung wegen Mobbings sei nicht substantiiert und es fehlten diesbezügliche konkrete Angaben. Eine fristlose Entlassung ohne wichtigen Grund steht schliesslich nicht zur Diskussion.
Die vorinstanzliche Beurteilung der Kündigungsgründe und des Kündigungsverfahrens beruht auf einer einlässlichen Würdigung der Sach- und Rechtslage. Soweit der Beschwerdegegner die Stichhaltigkeit der angenommenen Kündigungsgründe bemängelt, handelt es sich um bereits im kantonalen Verfahren vorgetragene Vorbringen, mit denen sich die Vorinstanz hinreichend auseinandergesetzt hat. Insbesondere wurde im angefochtenen Entscheid bereits dargelegt, dass hinsichtlich des Nachweises der privaten Tätigkeiten des Beschwerdegegners während der Arbeitszeit keine Rechtsverletzung, namentlich auch keine Verletzung der massgebenden kantonalen Verordnung über die Informations- und Kommunikations-Technologie vom 1. September 2015 (IKT; SRSZ 143.113) erstellt oder ersichtlich ist.
6.2.3. Wenn das kantonale Gericht zunächst feststellt, es sei keiner der gesetzlichen Tatbestände der §§ 21f Abs. 2 und 21g Abs. 3 PG erfüllt, die eine finanzielle Leistung infolge unzulässiger Kündigung begründen, dann aber trotzdem einen Anspruch auf eine Abfindung in der Höhe von zwei Monatslöhnen anerkennt, missachtet es die kantonalen Gesetzesbestimmungen. Wohl spricht das Gericht die Abfindung "in Anlehnung an § 21f Abs. 2 PG i.V.m. § 21g PG", nicht gestützt auf die entsprechenden Bestimmungen zu, doch bietet die dargelegte personalrechtliche Regelung - wie der Beschwerdeführer zu Recht vorbringt - keinen Raum für die Zusprechung einer Abfindung oder Entschädigung aus andern als den aufgezählten Gründen. Die Vorinstanz argumentierte in einer abschliessenden Erwägung, die Zusprechung einer Abfindung bzw. Entschädigung rechtfertige sich, um allen Eventualitäten gerecht zu werden, sei es im Hinblick auf allfällige Verletzungen des rechtlichen Gehörs, sei es hinsichtlich der angeführten Pflichtverletzungen des Beschwerdegegners, sei es im Hinblick auf sonstige von ihm zu seiner Entlastung vorgebrachten Aspekte, sei es unter anderem darum, dass dem Arbeitgeber grundsätzlich der Umstand anzurechnen wäre, wonach vor der Krankschreibung des Beschwerdegegners ab 29. September 2016 die Einhaltung der üblichen Arbeitszeiten offenbar nicht kontrolliert wurde, oder sei es hinsichtlich allfälliger Genugtuungsansprüche. Damit setzte sie sich in klaren Widerspruch zu den vorangegangenen Erwägungen, in denen sie das Vorliegen eines sachlichen Kündigungsgrundes sowie die Einhaltung der Verfahrensvorschriften bejahte und Anhaltspunkte für eine missbräuchliche Kündigung verneinte. Die auf hypothetischen Annahmen basierende Begründung für die zugesprochene Abfindung ist zudem absolut ungenügend, müssten doch im Entscheid die wesentlichen Überlegungen genannt sein, von denen sich das Gericht hat leiten lassen und auf die es seinen Entscheid stützt. Darin liegt eine Verletzung der Begründungspflicht als Teilgehalt des Anspruchs auf rechtliches Gehör gemäss <ref-law> (vgl. <ref-ruling> E. 4.3.2 S. 436 mit Hinweisen).
6.3. Zusammenfassend verletzt der angefochtene Entscheid in der Begründung und im Ergebnis Verfassungsrecht, indem er sich in offensichtlich unhaltbarer und damit willkürlicher Weise über die kantonalen Gesetzesgrundlagen hinwegsetzt. Er ist daher aufzuheben. Da die erforderlichen Sachverhaltsfeststellungen vorliegen und keine tatsächlichen Aspekte ersichtlich sind, die einer weiteren Abklärung bedürften, besteht kein Anlass für eine Rückweisung an die Vorinstanz.
7.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdegegner aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Schwyz vom 29. August 2019 wird aufgehoben, soweit dem Beschwerdegegner damit eine Abfindung in der Höhe von zwei Bruttomonatslöhnen zugesprochen wird.
2.
Die Gerichtskosten von Fr. 1000.- werden dem Beschwerdegegner auferlegt.
3.
Die Sache wird zur Neuverlegung der Kosten des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Schwyz zurückgewiesen.
4.
Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Schwyz schriftlich mitgeteilt.
Luzern, 11. März 2020
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Kopp Käch