Sachverhalt:
A.
Mit Strafbefehl der Staatsanwaltschaft Innerschwyz vom 10. August 2016 wurde A._ der mehrfachen Vernachlässigung von Unterhaltspflichten im Sinne von <ref-law>, begangen von Januar 2011 bis April 2016, schuldig gesprochen. A._ erhob am 22. August 2016 Einsprache. Am 2. November 2016 überwies die Staatsanwaltschaft den Strafbefehl dem Bezirksgericht Schwyz. Mit Schreiben vom 25. November 2016 setzte die Einzelrichterin Beatrice van de Graaf den Parteien Frist bis zum 19. Dezember 2016, um Beweisanträge zu stellen.
Mit Eingabe vom 16. Dezember 2016 verlangte A._ den Ausstand sowohl der Staatsanwaltschaft als auch des Bezirksgerichts und im Speziellen von Einzelrichterin Beatrice van de Graaf. Er beantragte, das laufende Strafverfahren sei an den Kanton Zürich oder einen anderen, jedoch nicht benachbarten Kanton abzutreten.
Die Einzelrichterin überwies das Ausstandsgesuch samt Verfahrensakten am 20. Dezember 2016 dem Kantonsgericht Schwyz und nahm gleichzeitig als Betroffene im Sinne von <ref-law> zum Gesuch Stellung; sie erachtet sich nicht als befangen. Dieses Schreiben wurde A._ am 11. Januar 2017 zugestellt. Zugleich wurde ihm die Besetzung der Beschwerdekammer des Kantonsgerichts für die Beurteilung des Ausstandsgesuchs bekannt gegeben. Mit Schreiben vom 19. Januar 2017 hielt A._ an seinen Anträgen fest und verlangte zusätzlich den Ausstand des als Vorsitzenden der Beschwerdekammer vorgesehenen Vizepräsidenten Walter Züger. Zur Begründung führte A._ insbesondere aus, im ihn betreffenden Scheidungsverfahren habe Walter Züger mit Verfügung vom 24. Dezember 2012 eine Arresteinsprache abgewiesen.
Mit Beschluss vom 7. Februar 2017 wies das Kantonsgericht die Ausstandsgesuche ab, soweit es auf diese eintrat.
B.
Mit Eingabe vom 16. März 2017 führt A._ Beschwerde in Strafsachen an das Bundesgericht. Er beantragt, in Gutheissung seines Ausstandsbegehrens vom 16. Dezember 2016 sei der angefochtene Beschluss aufzuheben und der Ausstand der Strafverfolgungsbehörden des Kantons Schwyz (insbesondere der Staatsanwaltschaft Innerschwyz), des Bezirksgerichts Schwyz (im Speziellen von Bezirksrichterin Beatrice van de Graaf) und des Kantonsgerichts (im Speziellen von Vizepräsident Walter Züger) für das gesamte Strafverfahren anzuordnen. Das laufende Strafverfahren sei an den Kanton Zürich oder einen anderen, jedoch nicht benachbarten Kanton abzutreten. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Beatrice van de Graaf und das Kantonsgericht verzichten auf Vernehmlassungen. Die Exfrau des Beschwerdeführers hat unaufgefordert eine Stellungnahme eingereicht, ohne indes Anträge zu stellen.
Mit Verfügung vom 7. April 2017 hiess der Präsident der I. öffentlich-rechtlichen Abteilung das Gesuch von A._ um Erlass einer vorsorglichen Massnahme gut und wies das Bezirksgericht Schwyz an, das laufende Strafverfahren bis zum Entscheid in der vorliegenden Angelegenheit zu sistieren.

Erwägungen:
1.
1.1. Beim angefochtenen Beschluss handelt es sich um einen selbständig eröffneten Zwischenentscheid über ein Ausstandsbegehren in einer Strafsache (Art. 78 Abs. 1 und Art. 92 Abs. 1 BGG). Das Kantonsgericht hat als letzte und einzige kantonale Instanz entschieden (<ref-law> i.V.m. <ref-law>). Der Beschwerdeführer ist gemäss Art. 81 Abs. 1 lit. a und lit. b Ziff. 1 BGG zur Beschwerde befugt. Auf die Beschwerde ist grundsätzlich einzutreten.
1.2. Mit der Beschwerde an das Bundesgericht kann insbesondere die Verletzung von Bundesrecht gerügt werden (<ref-law>). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254). Hinsichtlich der Verletzung von Grundrechten - einschliesslich Willkür bei der Sachverhaltsfeststellung - gilt eine qualifizierte Rügepflicht (<ref-law>; vgl. <ref-ruling> E. 1.6 S. 281 f.).
Eine offensichtlich unrichtige Sachverhaltsfeststellung wird vom Beschwerdeführer nicht substanziiert gerügt.
2.
Nach <ref-law> und Art. 6 Ziff. 1 EMRK hat jede Person Anspruch darauf, dass ihre Sache von einem unparteiischen, unvoreingenommenen und unbefangenen Richter ohne Einwirken sachfremder Umstände entschieden wird. <ref-law> soll zu der für einen korrekten und fairen Prozess erforderlichen Offenheit des Verfahrens im Einzelfall beitragen und damit ein gerechtes Urteil ermöglichen. Die Garantie des verfassungsmässigen Richters wird verletzt, wenn bei objektiver Betrachtung Gegebenheiten vorliegen, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermögen. Solche Umstände können entweder in einem bestimmten Verhalten des betreffenden Richters oder in gewissen äusseren Gegebenheiten funktioneller und organisatorischer Natur begründet sein. Eine gewisse Besorgnis der Voreingenommenheit und damit Misstrauen in die Unabhängigkeit des Gerichts kann bei den Parteien insbesondere dann entstehen, wenn ein Richter in einem anderen, die gleiche Streitsache betreffenden Verfahren oder in einem früheren Stadium desselben Verfahrens bereits tätig war. In diesen Fällen stellt sich die Frage, ob sich der Richter durch seine frühere Mitwirkung in einzelnen Punkten bereits in einem Mass festgelegt hat, das ihn nicht mehr als unvoreingenommen und dementsprechend das Verfahren als nicht mehr offen erscheinen lässt (<ref-ruling> E. 3.4 S. 116).
Die Verfassungsbestimmung von <ref-law> wird in <ref-law> konkretisiert. Nach dieser Bestimmung tritt eine in einer Strafbehörde tätige Person insbesondere dann in den Ausstand, wenn sie in einer anderen Stellung, insbesondere als Mitglied einer Behörde, als Rechtsbeistand einer Partei, als Sachverständige oder Sachverständiger, als Zeugin oder Zeuge, in der gleichen Sache tätig war (lit. b) oder aus anderen Gründen, insbesondere wegen Freundschaft oder Feindschaft mit einer Partei oder deren Rechtsbeistand, befangen sein könnte (lit. f). Ist die Gerichtsperson in derselben Stellung mit der gleichen Sache mehrfach befasst, liegt kein Fall der Vorbefassung im Sinne von <ref-law> vor. Eine Mehrfachbefassung in diesem Sinn kann aber im Rahmen von <ref-law> massgeblich werden (Markus Boog, in: Basler Kommentar StPO, 2. Auflage 2014, N. 28 zu <ref-law>; Urteil 1B_417/2012 vom 16. November 2012 E. 2.1 f.).
3.
3.1. Der Beschwerdeführer verlangt, es sei der Ausstand der Strafbehörden des Kantons Schwyz - nämlich der Strafverfolgungsbehörden, des Bezirksgerichts Schwyz und des Kantonsgerichts - für das gesamte Strafverfahren anzuordnen.
3.2. Pauschale Ausstandsgesuche gegen eine Behörde als Ganzes sind grundsätzlich nicht zulässig. Rekusationsersuchen haben sich auf einzelne Mitglieder der Behörde zu beziehen, und der Gesuchsteller hat eine persönliche Befangenheit der betreffenden Personen aufgrund von Tatsachen konkret glaubhaft zu machen (<ref-law>). Ein formal gegen eine Gesamtbehörde gerichtetes Ersuchen kann daher in aller Regel nur entgegengenommen werden, wenn im Ausstandsbegehren Befangenheitsgründe gegen alle Einzelmitglieder ausreichend substanziiert werden. Das Gesetz (vgl. Art. 56 - 60 StPO) spricht denn auch (ausschliesslich und konsequent) von Ausstandsgesuchen gegenüber "einer in einer Strafbehörde tätigen Person" (Urteil 1B_405/2014 vom 12. Mai 2015 E. 6.2; vgl. auch Boog, a.a.O., N. 2 zu <ref-law>).
3.3. Der Beschwerdeführer substanziiert sein Ausstandsgesuch in diesem Punkt nicht hinreichend, weshalb die Vorinstanz insoweit zu Recht nicht auf das Gesuch eingetreten ist.
4.
4.1. Der Beschwerdeführer erachtet den Vizepräsidenten des Kantonsgerichts Walter Züger, wie dargelegt, deshalb als befangen, weil dieser mit Verfügung vom 24. Dezember 2012 eine Arresteinsprache im Scheidungsverfahren abgewiesen habe. Zudem gehe nicht an, dass Walter Züger am Nichteintretensentscheid bezüglich des gegen ihn gestellten Ausstandsbegehrens mitgewirkt und in eigener Sache entschieden habe.
4.2. Die Vorinstanz hat erwogen, der Ausstandsgrund von <ref-law> sei im Fall des Vizepräsidenten Walter Züger offensichtlich nicht gegeben, da die Behandlung einer Arresteinsprache eine andere Sache und ein anderes, nicht mit dem vorliegenden Strafverfahren in Zusammenhang stehendes Verfahren betreffe. Das Ausstandsbegehren füge sich nahtlos in das Verhalten des Beschwerdeführers ein, praktisch alle Gerichtspersonen, die in seinen Verfahren tätig würden, früher oder später abzulehnen. Solches Gebaren sei rechtsmissbräuchlich und verdiene keinen Rechtsschutz. Auf das Ausstandsgesuch gegen Walter Züger sei daher nicht einzutreten und dieser könne im vorliegenden Fall den Vorsitz der Beschwerdekammer übernehmen.
4.3. Die abgelehnte Gerichtsperson darf am Ausstandsentscheid, der sie betrifft, grundsätzlich nicht selber mitwirken (<ref-ruling> E. 3a/aa S. 156). Im bundesgerichtlichen Verfahren (<ref-law>) ist dies jedoch dann nicht der Fall, wenn kein nach Massgabe des Gesetzes geeigneter Ausstandsgrund geltend gemacht wird, insbesondere wenn das Ausstandsbegehren primär mit früheren, zuungunsten der Partei ausgefallenen Erkenntnissen, an denen die abgelehnte Gerichtsperson mitgewirkt hat, oder sonst wie mit nicht nachvollziehbaren Motiven begründet wird, oder wenn das Ausstandsgesuch als rechtsmissbräuchlich erscheint (<ref-ruling> E. 1 S. 278 f.; Urteile 5A_605/2013 vom 11. November 2013 E. 3.5; 6B_66/2012 vom 10. April 2012 E. 1; 2F_2/2007 vom 25. April 2007 E. 3.2). Entsprechendes lässt sich auch auf den Geltungsbereich der StPO übertragen.
4.4. Vorliegend ist die Vorinstanz zu Recht von einem solchen unzulässigen oder zumindest offensichtlich unbegründeten Ausstandsbegehren gegen den Kantonsgerichtsvizepräsidenten ausgegangen. Der Beschwerdeführer setzt sich in seiner Beschwerde nicht mit der Begründung der Vorinstanz auseinander und bringt nichts vor, was diese Beurteilung in Frage stellen würde.
5.
5.1. Der Beschwerdeführer kritisiert generell die Personalunion von Zivil- und Strafrichter in Konstellationen wie der vorliegenden. Im zu beurteilenden Fall würden jedoch noch besondere Gründe hinzukommen. So habe die Beschwerdegegnerin versucht, ihn seines Beweisantragsrechts zu berauben, indem sie die Fristansetzung zur Stellung von Beweisanträgen vom 25. November 2016 ihm direkt anstatt seinem Anwalt zugestellt habe. Zudem habe die Beschwerdegegnerin am 19. Dezember 2016 ein in qualitativer Hinsicht mangelhaftes Scheidungsurteil gefällt, mit welchem die güterrechtliche Auseinandersetzung und der nacheheliche Unterhalt in gravierender Art und Weise zu seinem Nachteil geregelt worden seien.
5.2. Die Vorinstanz hat ausgeführt, Gegenstand des Scheidungsverfahrens bilde nicht die mutmassliche Tat des Beschwerdeführers oder deren rechtliche Würdigung. Mithin liege keine "gleiche Sache" im Sinne von <ref-law> vor. Dass die Einzelrichterin als Strafrichterin den Vorwurf wegen Vernachlässigung von Unterhaltspflichten im Sinne von <ref-law> beurteilen müsse, obwohl sie schon als Richterin im Scheidungsverfahren geamtet habe, bedeute keine unzulässige Vorbefassung.
Des Weiteren sei davon auszugehen, dass das Schreiben vom 25. November 2016 (Fristansetzung zur Stellung von Beweisanträgen) aufgrund eines Versehens der Gerichtskanzlei dem Beschwerdeführer direkt zugestellt worden sei. Ein Nachteil sei diesem hieraus jedoch nicht erwachsen.
5.3. Die Personalunion von Zivil- und Strafrichter in konnexen Verfahren fällt nur dann unter den Ausstandsgrund der Beteiligung an der gleichen Sache, wenn besondere Gründe vorliegen (Urteil 1B_417/2012 vom 16. November 2012 E. 2.4). Namentlich gilt nach der Lehre der Umstand, dass ein Richter nach seiner Tätigkeit als Eheschutzrichter als Strafrichter die Anklage wegen Vernachlässigung von Unterhaltspflichten im Sinne von <ref-law> beurteilen muss, grundsätzlich nicht als unzulässige Vorbefassung (BOOG, a.a.O., N. 20 zu <ref-law>; Niklaus Schmid, Handbuch des schweizerischen Strafprozessrechts, 2. Auflage 2013, N. 518).
5.4. Die Beschwerdegegnerin hat als Scheidungsrichterin mit Scheidungsurteil vom 19. Dezember 2016 unter anderem den vom Beschwerdeführer geschuldeten nachehelichen Unterhalt festgesetzt. Gegenstand des Strafverfahrens wegen Vernachlässigung von Unterhaltspflichten nach <ref-law> bildet demgegenüber die Frage, ob sich der Beschwerdeführer im Zeitraum von Januar 2011 bis April 2016 im Sinne dieser Strafbestimmung schuldig gemacht hat, indem er seine familienrechtlichen Unterhalts- oder Unterstützungspflichten nicht erfüllt hat, obschon er über die Mittel dazu verfügt hat oder hätte verfügen können. Die Verfahren weisen zwar einen Zusammenhang auf. Es geht in sachverhaltlicher Hinsicht jedoch um unterschiedliche Zeiträume, und die zu beurteilenden Rechtsfragen lassen sich voneinander trennen.
Besondere Gründe, wie sie von Rechtsprechung und Lehre zur Annahme eines Ausstandsgrunds gefordert werden (E. 5.3 hiervor), werden vom Beschwerdeführer in seiner Beschwerde nicht in rechtsgenüglicher Weise geltend gemacht. Zum einen stellt es offensichtlich keinen Ausstandsgrund dar, dass die Fristansetzung zur Einreichung von Beweisanträgen, wie von der Vorinstanz willkürfrei festgestellt, versehentlich dem Beschwerdeführer direkt zustellt wurde. Soweit der Beschwerdeführer zum andern das Scheidungsurteil vom 19. Dezember 2016 vage und ganz generell als für ihn nachteilig kritisiert, ist dies im Ausstandsverfahren nicht von Relevanz; vielmehr stand es ihm offen, das Urteil mit Berufung beim Kantonsgericht Schwyz anzufechten. Der Beschwerdeführer behauptet insbesondere nicht, dass die Scheidungsrichterin im Rahmen der Bemessung der nachehelichen Unterhaltsbeiträge zu Unrecht auf ein höheres hypothetisches Einkommen abgestellt habe und sie gestützt darauf mutmasslich auch als Strafrichterin zum Schluss kommen dürfte, er hätte im Zeitraum von Januar 2011 bis April 2016 über mehr finanzielle Mittel verfügen können. Es ist mithin gestützt auf die Vorbringen des Beschwerdeführers nicht ersichtlich, dass sich die Beschwerdegegnerin mit dem Scheidungsurteil in einem Mass festgelegt hat, das sie im Strafverfahren gegen den Beschwerdeführer nicht mehr als unvoreingenommen und dementsprechend das Verfahren nicht mehr als offen erscheinen lassen würde.
Zusammenfassend ist eine Vorbefassung gemäss <ref-law> nicht ersichtlich. Der Beschwerdeführer vermag aber auch, weder gestützt auf die verfahrensrechtlichen Zusammenhänge noch auf andere Umstände, darzutun, dass bei der Beschwerdegegnerin der Anschein der Befangenheit im Sinne von <ref-law> bestünde. Namentlich gibt es keinerlei Hinweise auf Feindschaft oder auf sonstige Umstände, die ein faires Verfahren gegenüber dem Beschwerdeführer in Frage stellen würden (vgl. auch Urteil 1B_417/2012 vom 16. November 2012 E. 2.4).
6.
Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Der Beschwerdeführer ersucht um unentgeltliche Rechtspflege. Das Gesuch ist jedoch abzuweisen, da er in Bezug auf seine finanziellen Verhältnisse einzig vorbringt, er müsse ein Vielfaches dessen, was er verdiene, als monatlichen Unterhalt bezahlen. Er äussert sich jedoch namentlich nicht zu seinen Vermögensverhältnissen und belegt keine Bedürftigkeit. Der Beschwerdeführer trägt deshalb die Gerichtskosten (<ref-law>). Parteientschädigungen sind keine zuzusprechen (Art. 68 Abs. 1-3 BGG). Die Exfrau des Beschwerdeführers, welche im bundesgerichtlichen Verfahren unaufgefordert eine Stellungnahme eingereicht hat, ist nicht Partei im Ausstandsverfahren und hat daher keinen Anspruch auf eine Parteientschädigung.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4.
Es werden keine Parteientschädigungen zugesprochen.
5.
Dieses Urteil wird den Parteien, der Staatsanwaltschaft Innerschwyz, der Oberstaatsanwaltschaft des Kantons Schwyz, dem Bezirksgericht Schwyz und dem Kantonsgericht Schwyz, Beschwerdekammer, schriftlich mitgeteilt.
Lausanne, 7. Juni 2017
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Merkli
Der Gerichtsschreiber: Stohner