Sachverhalt:
A.
Die Staatsanwaltschaft des Kantons Schwyz führt gegen A._ ein Strafverfahren wegen einer Reihe von Delikten. Am 8. Mai 2015 erliess sie eine Sistierungsverfügung gemäss <ref-law> in Bezug auf den Vorwurf der einfachen Körperverletzung und der Tätlichkeiten. Am gleichen Tag stellte sie das Strafverfahren betreffend einen weiteren Teil der untersuchten Delikte ein. Ebenfalls am 8. Mai 2015 erliess sie einen Strafbefehl. Darin sprach sie A._ des unbefugten Aufnehmens von Gesprächen (<ref-law>), der Verletzung des Geheim- oder Privatbereichs durch Aufnahmegeräte (<ref-law>), der Drohung (<ref-law>), der Beschimpfung (<ref-law>), des mehrfachen Fahrens ohne Berechtigung (<ref-law>) und der Verkehrsregelverletzung (<ref-law>) schuldig. Sie verurteilte ihn zu einer Geldstrafe von 80 Tagessätzen zu Fr. 30.-- sowie einer Busse von Fr. 1'100.--. Die ausgestandene Haft von zwei Tagen rechnete sie mit 2 Tagessätzen an die Geldstrafe an. Den Vollzug der restlichen Geldstrafe schob sie bei einer Probezeit von zwei Jahren auf. Hinsichtlich der Busse setzte sie für den Fall, dass diese schuldhaft nicht bezahlt wird, eine Ersatzfreiheitsstrafe von 25 Tagen ein.
Am 29. Mai 2015 erhob A._ gegen den Strafbefehl Einsprache.
Nachdem A._, der bis dahin amtlich verteidigt gewesen war, einen Wechsel der amtlichen Verteidigung beantragt hatte, verfügte die Staatsanwaltschaft am 23. Juli 2015, der amtliche Verteidiger sei ersatzlos zu entlassen.
A._ erhob gegen den Widerruf der amtlichen Verteidigung Beschwerde ans Kantonsgericht Schwyz. Mit Beschluss vom 2. September 2015 wies dieses die Beschwerde ab.
B.
Mit Beschwerde vom 21. Oktober 2015 ans Bundesgericht beantragt A._ sinngemäss, der Beschluss des Kantonsgerichts sei aufzuheben und es sei ihm wieder eine amtliche Verteidigung zu bestellen.
Das Kantonsgericht und die Staatsanwaltschaft Schwyz haben auf eine Vernehmlassung verzichtet.

Erwägungen:
1.
Beim angefochtenen Beschluss handelt es sich um einen kantonal letztinstanzlichen, selbständig eröffneten Zwischenentscheid in einer Strafsache, der einen nicht wieder gutzumachenden Nachteil bewirken kann (Art. 78 Abs. 1, Art. 80 und Art. 93 Abs. 1 lit. a BGG; <ref-ruling> E. 4 S. 338; Urteil 1B_66/2015 vom 12. August 2015 E. 1; je mit Hinweisen). Die weiteren Sachurteilsvoraussetzungen sind erfüllt. Auf die Beschwerde ist grundsätzlich einzutreten.
2.
2.1. Das Kantonsgericht führt zum Widerruf der amtlichen Verteidigung aus, gemäss dem Strafbefehl vom 8. Mai 2015 habe der Beschwerdeführer ein Gespräch mit seiner ehemaligen Rechtsvertreterin unbemerkt aufgenommen und im Internet publiziert, sie bedroht und beschimpft und schliesslich ohne Führerausweis ein Fahrzeug gelenkt. Das Strafmass liege im Bagatellbereich einer Geldstrafe von weniger als 120 Tagessätzen (<ref-law>). Schon deshalb habe die Staatsanwaltschaft die amtliche Verteidigung widerrufen dürfen. Inwiefern die verbleibenden Sachverhalte Schwierigkeiten böten, denen der Beschwerdeführer allein nicht gewachsen wäre, begründe er im Übrigen nicht konkret. Dass er sich selber verteidigen könne, habe die Staatsanwaltschaft aufgrund seines bisherigen Prozessverhaltens zutreffend bejaht.
2.2. Der Beschwerdeführer ist dagegen der Ansicht, dass der Straffall in tatsächlicher und rechtlicher Hinsicht Schwierigkeiten biete, denen er nicht gewachsen sei.
2.3. Nach <ref-law> ordnet die Verfahrensleitung eine amtliche Verteidigung an, wenn die beschuldigte Person nicht über die erforderlichen Mittel verfügt und die Verteidigung zur Wahrung ihrer Interessen geboten ist. Zur Wahrung der Interessen der beschuldigten Person ist die Verteidigung namentlich geboten, wenn es sich nicht um einen Bagatellfall handelt und der Straffall in tatsächlicher oder rechtlicher Hinsicht Schwierigkeiten bietet, denen die beschuldigte Person allein nicht gewachsen wäre (Abs. 2). Ein Bagatellfall liegt jedenfalls dann nicht mehr vor, wenn eine Freiheitsstrafe von mehr als 4 Monaten, eine Geldstrafe von mehr als 120 Tagessätzen oder gemeinnützige Arbeit von mehr als 480 Stunden zu erwarten ist (Abs. 3).
2.4. Mit dieser Regelung der amtlichen Verteidigung wird die bisherige bundesgerichtliche Rechtsprechung zu <ref-law> und Art. 6 Abs. 3 lit. c EMRK für den Bereich des Strafprozessrechts umgesetzt (<ref-ruling> E. 4.3 S. 119). Diese Rechtsprechung unterscheidet nach der Schwere der Strafdrohung drei Fallgruppen. Falls das in Frage stehende Verfahren besonders stark in die Rechtsposition des Betroffenen eingreift, ist die Bestellung eines amtlichen Rechtsbeistands grundsätzlich geboten. Dies trifft namentlich dann zu, wenn dem Angeschuldigten eine Strafe droht, deren Dauer die Gewährung des bedingten Strafvollzugs ausschliesst. Falls kein besonders schwerer Eingriff in die Rechte des Gesuchstellers droht (sog. relativ schwerer Fall), müssen besondere tatsächliche oder rechtliche Schwierigkeiten hinzukommen, denen der Gesuchsteller, auf sich allein gestellt, nicht gewachsen wäre. Das Bundesgericht hat einen relativ schweren Fall etwa bei einer Strafdrohung von drei Monaten Gefängnis unbedingt (<ref-ruling> E. 4 S. 105 f.), bei einer "empfindlichen Strafe von jedenfalls mehreren Monaten Gefängnis" (<ref-ruling> E. 3c S. 47) oder bei der Einsprache gegen einen Strafbefehl von 40 Tagen Gefängnis bedingt (Urteil 1P.627/2002 vom 4. März 2003 E. 3.2, in: Pra 2004 Nr. 1 S. 1) angenommen. Bei offensichtlichen Bagatelldelikten, bei denen nur eine Busse oder eine geringfügige Freiheitsstrafe in Frage kommt, verneint die Bundesgerichtspraxis einen verfassungsmässigen Anspruch auf einen amtlichen Rechtsbeistand (vgl. auch das soeben zitierte Urteil, wonach offen bleiben kann, ob bei Vergehen der Bagatellcharakter des Delikts generell verneint werden soll; zum Ganzen: <ref-ruling> E. 2a S. 44 f.; <ref-ruling> E. 2.5.2 S. 232 f.; Urteil 1P.675/2005 vom 14. Februar 2006 E. 5.1; je mit Hinweisen; vgl. zur neueren Rechtsprechung auch Urteil 1B_66/2015 vom 12. August 2015, wo das Bundesgericht bei einer Geldstrafe von 45 Tagessätzen von keinem Bagatellfall ausging).
2.5. Daraus, aber auch aus dem Wortlaut von <ref-law> ("jedenfalls dann nicht"), folgt, dass entgegen der Auffassung der Vorinstanz nicht automatisch von einem Bagatellfall auszugehen ist, wenn die im Gesetz genannten Schwellenwerte nicht erreicht sind (Urteil 1B_263/2013 vom 20. November 2013 E. 4.3 mit Hinweis). Weiter ist zu berücksichtigen, dass die Formulierung von Abs. 2 durch die Verwendung des Worts "namentlich" zum Ausdruck bringt, dass nicht ausgeschlossen ist, neben den beiden genannten Kriterien (kein Bagatellfall; tatsächliche und rechtliche Schwierigkeiten, denen die beschuldigte Person allein nicht gewachsen wäre) weitere Gesichtspunkte zu berücksichtigen (vgl. im Einzelnen Urteil 1B_746/2012 vom 5. März 2013 E. 2.5 mit Hinweis). Mithin ist eine Beurteilung der konkreten Umstände des Einzelfalls notwendig, die sich einer strengen Schematisierung entzieht. Immerhin lässt sich festhalten, dass je schwerwiegender der Eingriff in die Interessen der betroffenen Person ist, desto geringer die Anforderungen an die erwähnten tatsächlichen und rechtlichen Schwierigkeiten, und umgekehrt ( NIKLAUS RUCKSTUHL, in: Basler Kommentar, Schweizerische Strafprozessordnung, 2. Aufl. 2014, N. 37 zu <ref-law>).
2.6. Würde im vorliegenden Fall die im Strafbefehl ausgesprochene Busse in eine Ersatzfreiheitsstrafe von 25 Tagen Haft umgewandelt und an die 80 Tagessätze der Geldstrafe angerechnet, lägen die daraus resultierenden 105 Tage bzw. Tagessätze immer noch deutlich, wenn auch nicht weit unter der in <ref-law> genannten Schwelle. Vor dem Hintergrund der dargelegten Rechtsprechung müssten deshalb besondere Schwierigkeiten rechtlicher oder tatsächlicher Natur hinzukommen, denen der Beschwerdeführer nicht gewachsen wäre. Solche sind indessen nicht ersichtlich. Zwar sind immerhin drei Sachverhalte zu beurteilen, doch sind diese einfach gelagert und dürften auch keine schwierigen Rechtsfragen aufwerfen. Der Beschwerdeführer hat sich zudem bereits mehrfach unabhängig von seinem früheren amtlichen Verteidiger gegenüber den Strafbehörden geäussert und dabei gezeigt, dass er mit den Modalitäten eines Strafverfahrens vertraut ist. Auch wenn es sich bei der Privatklägerin um eine Rechtsanwältin handelt, ist ihm zuzumuten, das Verfahren ohne amtliche Verteidigung zu bewältigen. Nicht von Bedeutung ist in dieser Hinsicht das Argument, die Privatklägerin sei eine "Amtskollegin" des Kantonsgerichts, ihr Ehemann sei im selben Kanton Staatsanwalt und alle seien befreundet. Dasselbe gilt für das Vorbringen, die Straftaten seien möglicherweise verjährt und die Anschuldigungen der Privatklägerin hätten sich im Laufe des Verfahrens geändert. Solches wird der Beschwerdeführer im Hauptverfahren geltend machen können.
Das Kantonsgericht Schwyz hat somit <ref-law> nicht verletzt, indem es dem Beschwerdeführer das Recht auf amtliche Verteidigung absprach.
3.
Die Beschwerde ist abzuweisen.
Das sinngemäss gestellte Gesuch um unentgeltliche Rechtspflege ist gutzuheissen und auf eine Kostenauflage zu verzichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Das Gesuch um unentgeltliche Rechtspflege wird gutgeheissen. Es werden keine Gerichtskosten erhoben.
3.
Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft Innerschwyz und dem Kantonsgericht Schwyz schriftlich mitgeteilt.
Lausanne, 1. Dezember 2015
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold