Sachverhalt:
A.
Die Staatsanwaltschaft March verurteilte A._ mit Strafbefehl vom 10. Februar 2020 wegen Verrichtens der Notdurft ausserhalb sanitärer Anlagen zu einer Busse von Fr. 50.-- und auferlegte ihm die Verfah-renskosten von Fr. 160.--. Die von A._ am 17. Juni 2020 dagegen erhobene Einsprache überwies die Staatsanwaltschaft am 25. Juni 2020 dem Bezirksgericht March mit dem Vermerk, die Einsprache sei verspätet. Die Einzelrichterin trat am 7. Juli 2020 auf die Einsprache nicht ein und nahm davon Vormerk, dass der Strafbefehl vom 10. Februar 2020 in Rechtskraft erwachsen sei. Sie auferlegte A._ die Verfahrenskosten von Fr. 750.--. Auf Berufung hin hob das Kantonsgericht Schwyz diese Verfügung am 24. September 2020 auf mit der Begründung, A._ habe sich zur Ansicht der Staatsanwaltschaft, wonach die Einsprache verspätet sei, nie äussern können. Es wies die erstinstanzliche Einzelrichterin an, die von A._ gegen die Verspätung vorgetragenen Argumente zu prüfen, diesbezüglich den Sachverhalt festzustellen und einen neuen Entscheid zu fällen.
Die Einzelrichterin setzte A._ Frist zur Stellungnahme zur Überweisung des Strafbefehls an und wies darauf hin, im Unterlassungsfall würde Verzicht angenommen. Nach Ausbleiben der Stellungnahme trat sie mit Verfügung vom 27. Oktober 2020 wiederum nicht auf die Einsprache ein, nahm Vormerk von der Rechtskraft des Strafbefehls und der Busse und auferlegte A._ die Verfahrenskosten von Fr. 800.--. Dagegen erhob A._ rechtzeitig Beschwerde. Das Kantonsgericht Schwyz stellte am 15. Dezember 2020 eine zweite Gehörsverletzung fest und heilte diese. Es hiess die Beschwerde in Bezug auf die Kostenauflage teilweise gut, änderte diese ab und wies die Beschwerde im Übrigen ab.
B.
Mit Beschwerde in Strafsachen beantragt A._, die Verfügung des Kantonsgerichts Schwyz vom 15. Dezember 2020 sei aufzuheben und zu neuer Beurteilung an die Vorinstanz zurückzuweisen. Es seien die vollständigen Akten beizuziehen und es sei auf die Einforderung eines Gerichtskostenvorschusses zu verzichten. Die Kosten seien auf die Staatskasse zu nehmen.

Erwägungen:
1.
1.1. Anfechtungsobjekt ist ein Endentscheid in Strafsachen einer letzten kantonalen Instanz, die als oberes Gericht auf Berufung hin geurteilt hat (Art. 80 und 90 BGG). Der Beschwerdeführer ist zur Beschwerde legitimiert (<ref-law>) und hat die Beschwerdefrist (<ref-law>) gewahrt. Unter Vorbehalt rechtsgenüglicher Begründung (<ref-law>) ist die Beschwerde in Strafsachen gemäss <ref-law> zulässig.
1.2.
In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (<ref-law>). Unerlässlich ist dabei, dass auf die Begründung des angefochtenen Entscheids eingegangen und im Einzelnen aufgezeigt wird, worin eine vom Bundesgericht überprüfbare Rechtsverletzung liegt. Die beschwerdeführende Partei soll in der Beschwerde an das Bundesgericht nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (<ref-ruling> E. 2, 86 E. 2; je mit Hinweisen).
2.
2.1. Der Beschwerdeführer rügt vorab, die Vorinstanz habe den Sachverhalt teilweise willkürlich festgestellt.
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Die Sachverhaltsfeststellung der Vorinstanz kann vor Bundesgericht nur gerügt werden, wenn sie offensichtlich unrichtig bzw. willkürlich im Sinne von <ref-law> ist und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>; <ref-ruling> E. 2.1, 88 E. 1.3.1). Willkür bei der Sachverhaltsfeststellung liegt nach ständiger Rechtsprechung vor, wenn die vorinstanzliche Beweiswürdigung schlechterdings unhaltbar ist, d.h. wenn die Behörde in ihrem Entscheid von Tatsachen ausgeht, die mit der tatsächlichen Situation in klarem Widerspruch stehen oder auf einem offenkundigen Fehler beruhen. Dass eine andere Lösung ebenfalls möglich erscheint, genügt nicht (<ref-ruling> E. 1.3.1; <ref-ruling> E. 2.3.1; je mit Hinweisen). Die Willkürrüge muss in der Beschwerde anhand des angefochtenen Entscheids explizit vorgebracht und substanziiert begründet werden (<ref-law>). Auf ungenügend begründete Rügen oder allgemeine appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (<ref-ruling> E. 2.1, 88 E. 1.3.1).
2.3. In seiner Begründung bringt der Beschwerdeführer einzig vor, die Vorinstanz unterstelle ihm das "Verrichten der Notdurft", anstatt den Vorgang als blosses "Wasserlassen ausserhalb sanitärer Anlagen" bzw. als "kleines Geschäft" anzuerkennen. Dabei verfällt er in unzulässige appellatorische Kritik am vorinstanzlichen Entscheid, ohne darzulegen, inwiefern dieser auch im Ergebnis schlechterdings unhaltbar sein soll. Darauf ist nicht weiter einzugehen. Sein Einwand ist auch deshalb unbehelflich, da es vorliegend nicht darum geht, wie sein Verhalten qualifiziert wird, sondern einzig darum, ob die Einsprache gegen den Strafbefehl verspätet war. Der Beschwerdeführer wendet sich auch nicht gegen die rechtliche Würdigung, wonach das Urinieren in der Öffentlichkeit unter den Tatbestand "Verrichten der Notdurft ausserhalb sanitärer Anlagen" nach § 21 Abs. 1 des Gesetzes [des Kantons Schwyz] vom 13. Januar 1972 über das kantonale Strafrecht (StrafG; SRSZ 220.100) fällt.
3.
3.1. Weiter bringt der Beschwerdeführer zusammengefasst vor, das Verhalten der Vorinstanz sei als überspitzt formalistisch (<ref-law>) zu werten und sie verstosse gegen den Grundsatz von Treu und Glauben (<ref-law>).
3.2. <ref-law> verbietet überspitzten Formalismus als besondere Form der Rechtsverweigerung. Eine solche liegt vor, wenn für ein Verfahren rigorose Formvorschriften aufgestellt werden, ohne dass die Strenge sachlich gerechtfertigt wäre, wenn die Behörde formelle Vorschriften mit übertriebener Schärfe handhabt oder an Rechtsschriften überspannte Anforderungen stellt und den Rechtsuchenden den Rechtsweg in unzulässiger Weise versperrt. Wohl sind im Rechtsgang prozessuale Formen unerlässlich, um die ordnungsgemässe und rechtsgleiche Abwicklung des Verfahrens sowie die Durchsetzung des materiellen Rechts zu gewährleisten. Nicht jede prozessuale Formstrenge steht demnach mit <ref-law> in Widerspruch. Überspitzter Formalismus ist nur gegeben, wenn die strikte Anwendung der Formvorschriften durch keine schutzwürdigen Interessen gerechtfertigt ist, zum blossen Selbstzweck wird und die Verwirklichung des materiellen Rechts in unhaltbarer Weise erschwert oder verhindert. Im Strafprozessrecht ergibt sich das Verbot des überspitzten Formalismus aus Art. 3 Abs. 2 lit. a und b StPO, wonach die Strafbehörden namentlich den Grundsatz von Treu und Glauben sowie das Verbot des Rechtsmissbrauchs zu beachten haben (<ref-ruling> E. 4.2.1; <ref-ruling> E. 1.3.2; <ref-ruling> E. 2.4.2; je mit Hinweisen).
3.3.
3.3.1. Der Beschwerdeführer setzt sich nur mangelhaft mit dem angefochtenen Entscheid auseinander und belässt es in seiner Begründung grösstenteils dabei, bloss seine eigene Sicht der Dinge darzulegen. Entsprechend genügt die Laienbeschwerde wenn überhaupt nur knapp den Anforderungen an die Begründungspflicht im Sinne von Art. 42 Abs. 2 sowie <ref-law>.
3.3.2. Die Argumentation des Beschwerdeführers, wonach die Einzelrichterin im ersten Durchlauf unmissverständlich angewiesen worden sei, die Angelegenheit abzuschreiben und die Sache für ihn entsprechend so gut wie erledigt gewesen sei und es nichts mehr zu erklären gegeben habe, vermag nicht zu überzeugen. Indem der Beschwerdeführer am 17. Juni 2020 Einsprache gegen den Strafbefehl vom 10. Februar 2020 erhoben hat, verlangte er die gerichtliche Beurteilung des ihm vorgeworfenen Sachverhalts. Es trifft zwar zu, dass in den entsprechenden Verfahren mittlerweile den Betrag der Busse übersteigende Kosten entstanden sind. Der Ansicht des Beschwerdeführers, wonach diese in das Verhältnis zum ihm vorgeworfenen Sachverhalt und der damit einhergehenden Busse im Umfang von lediglich Fr. 50.-- zu setzen seien, ist aber nicht zu folgen. Es ist Aufgabe der Strafbehörden, ein Verfahren korrekt durchzuführen, wobei die Abschreibung eines Verfahrens nicht von der (geringen) Höhe einer Strafe abhängig gemacht werden kann. Ausschlaggebend für eine Abschreibung wegen Gegenstandslosigkeit ist jeweils, dass im Verlaufe des Verfahrens eine Sachlage eintritt, angesichts derer ein fortbestehendes Rechtsschutzinteresse an der Entscheidung der Streitsache nicht mehr anerkannt werden kann (vgl. Urteil 1B_187/2015 vom 6. Oktober 2015 E. 2.2; 4A_364/2014 vom 18. September 2014 E. 1.1; je mit Hinweisen). Ein entsprechender Grund für eine Abschreibung ist vorliegend weder ersichtlich noch vom Beschwerdeführer dargetan. Seine Argumentation geht überdies fehl, als sich die Vorinstanz direkt und in Heilung der Gehörsverletzung mit der Frage eines möglichen Wiederherstellungsgrundes auseinandersetzt, um einen unangemessen hohen Verfahrensaufwand zur Klärung der Rechtskraft des Strafbefehls sowie einen weiteren formalistischen Leerlauf zu vermeiden. Die vorinstanzlichen Ausführungen sind nicht zu beanstanden.
3.3.3. Nicht zu hören ist der Beschwerdeführer mit dem Einwand, die ihm auferlegten (reduzierten) Kosten würden sich nicht auf eine allfällige unterlassene Eingabe des Fristwiederherstellungsgesuchs beziehen sowie dem Vorbringen, die ihm ursprünglich vorgeworfene Übertretung sei weggefallen. Entgegen seiner Auffassung hat die Vorinstanz die Beschwerde gegen die Verfügung vom 27. Oktober 2020 nur in Bezug auf die Kostenauflage teilweise gutgeheissen und im Übrigen abgewiesen. Die Kostenauferlegung bezieht sich dabei nicht auf ein unterlassenes Wiederherstellungsgesuch, sondern entspricht dem Ausgang des Verfahrens. Die durch die Verfahrensfehler entstandenen Kosten wurden dem Beschwerdeführer nicht auferlegt. Betreffend die Aufrechterhaltung der Busse verkennt der Beschwerdeführer zudem, dass in der erstinstanzlichen Verfügung vom 27. Oktober 2020 auf die Einsprache gegen den Strafbefehl nicht eingetreten und von der Rechtskraft des Strafbefehls und der Busse Vormerk genommen wurde. Die Beschwerde dagegen wurde mit der angefochtenen Verfügung vom 15. Dezember 2020 nur im Kostenpunkt teilweise gutgeheissen und im Übrigen abgewiesen. Die Busse ist nicht weggefallen.
3.3.4. Insgesamt ist nicht ersichtlich, inwiefern die Vorinstanz überspitzt formalistisch gehandelt und gegen den Grundsatz von Treu und Glauben verstossen haben soll. Die Beschwerde ist unbegründet, soweit sie den bundesgerichtlichen Begründungsanforderungen (Art. 42 Abs. 2 und <ref-law>) überhaupt genügt.
4.
Schliesslich ist der Beschwerdeführer auch mit seinem Einwand nicht zu hören, wonach bei Hundehaltern keine Pflicht bestehe, den gelösten (oder gespritzten) Urin aufzuheben und zu vertüten, und er damit Anspruch auf Gleichheit im Unrecht erheben wolle. Mit seinen Ausführungen genügt er den Begründungsanforderungen von Art. 42 Abs. 2 und <ref-law> nicht. Überdies ist die Rüge für die Frage der Rechtzeitigkeit der Einsprache nicht relevant.
5.
Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Der Beschwerdeführer wird ausgangsgemäss kostenpflichtig (<ref-law>) und trägt die Gerichtskosten in der Höhe des geleisteten Kostenvorschusses von Fr. 1'500.--.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Kantonsgericht Schwyz, Kantonsgerichtspräsident, schriftlich mitgeteilt.
Lausanne, 28. Juli 2021
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Denys
Die Gerichtsschreiberin: Erb