Sachverhalt:
A.
Am 29. März 2021 erhob die Staatsanwaltschaft See/Oberland des Kantons Zürich beim Bezirksgericht Uster gegen A._ Anklage wegen gewerbsmässigen Diebstahls. Mit Eingabe vom 20. April 2021 ersuchte dieser um Auswechslung seines amtlichen Verteidigers, B._. Mit Verfügung vom 10. Mai 2021 wies das Bezirksgericht das Gesuch ab. Eine dagegen erhobene Beschwerde wies das Obergericht des Kantons Zürich mit Beschluss vom 2. Juli 2021 ebenfalls ab.
B.
Mit Beschwerde in Strafsachen vom 27. Juli 2021 beantragt A._, der Beschluss des Obergerichts sei aufzuheben und der Wechsel der amtlichen Verteidigung zu bewilligen.
Das Obergericht und die Staatsanwaltschaft haben auf eine Vernehmlassung verzichtet. Rechtsanwalt B._ legt dar, seine Aufgabe nach bestem Wissen und Gewissen erfüllt zu haben. Da der Beschwerdeführer jedoch mittlerweile eine Zusammenarbeit völlig verweigere, würde auch er selbst einen Wechsel der amtlichen Verteidigung begrüssen.

Erwägungen:
1.
Beim angefochtenen Urteil handelt es sich um einen kantonal letztinstanzlichen Zwischenentscheid in Strafsachen (<ref-law>). Gemäss <ref-law> ist die Beschwerde gegen einen Zwischenentscheid unter anderem dann zulässig, wenn dieser einen nicht wieder gutzumachenden Nachteil bewirken kann. Dies trifft im Fall der Ablehnung eines Gesuchs um Wechsel der amtlichen Verteidigung insbesondere dann zu, wenn diese ihre Pflichten erheblich vernachlässigt oder zwischen ihr und der beschuldigten Person keine Vertrauensbasis mehr besteht (<ref-ruling> E. 1.1; Urteil 1B_115/ 2021 vom 3. Mai 2021 E. 1.1; je mit Hinweisen). Der Beschwerdeführer legt dar, weshalb seiner Auffassung nach das Vertrauensverhältnis zerrüttet ist. Damit ist die Sachurteilsvoraussetzung gemäss <ref-law> erfüllt. Wie aus den nachfolgenden Erwägungen hervorgeht, ist jedoch aus anderen Gründen auf die Beschwerde nicht einzutreten.
2.
2.1. Der Beschwerdeführer bringt vor, er habe in zwei Stellungnahmen vom 20. April 2021 und 14. Mai 2021 konkrete Hinweise auf eine Störung des Vertrauensverhältnisses zwischen ihm und seinem amtlichen Verteidiger vorgetragen. Zudem stehe in einem Brief des amtlichen Verteidigers vom 24. März 2021, der seiner Beschwerde ans Bundesgericht beigelegt sei, dass eine Beschwerde betreffend zwei Herausgabeverfügungen beim Obergericht nicht sinnvoll sei. Er sei deshalb damals gezwungen gewesen, selber eine Beschwerde einzureichen. Es sei bemerkenswert, dass er mit seiner eigenen Beschwerde beim Obergericht dreimal Recht bekommen habe, was sein Pflichtanwalt als aussichtslos erachtet habe. Er erwäge deshalb, Strafanzeige gegen diesen einzureichen.
2.2. Wird die beschuldigte Person amtlich verteidigt, überträgt die Verfahrensleitung die amtliche Verteidigung gemäss <ref-law> einer anderen Person, wenn das Vertrauensverhältnis zwischen der beschuldigten Person und ihrer amtlichen Verteidigung erheblich gestört oder eine wirksame Verteidigung aus anderen Gründen nicht mehr gewährleistet ist. Diese Vorschrift trägt dem Umstand Rechnung, dass eine engagierte und effiziente Verteidigung nicht nur bei objektiver Pflichtverletzung der Verteidigung, sondern bereits bei erheblich gestörtem Vertrauensverhältnis beeinträchtigt sein kann. Dahinter steht die Idee, dass eine amtliche Verteidigung in jenen Fällen auszuwechseln ist, in denen auch eine privat verteidigte beschuldigte Person einen Wechsel der Verteidigung vornehmen würde. Wird die subjektive Sichtweise der beschuldigten Person in den Vordergrund gestellt, bedeutet dies aber nicht, dass allein deren Empfinden für einen Wechsel der Rechtsvertretung ausreicht. Vielmehr muss die Störung des Vertrauensverhältnisses mit konkreten Hinweisen belegt und objektiviert werden (<ref-ruling> E. 2.4 mit Hinweisen).
2.3. Das Obergericht hat unter Berücksichtigung der bundesgerichtlichen Rechtsprechung im Detail dargelegt, weshalb es die Voraussetzungen für einen Anspruch auf Wechsel der amtlichen Verteidigung nicht als gegeben erachtet. Der pauschale Verweis des Beschwerdeführers auf seine Stellungnahmen vom 20. April 2021 und 14. Mai 2021 stellt keine hinreichende Auseinandersetzung mit dem angefochtenen Entscheid dar und genügt den Begründungsanforderungen von <ref-law> nicht (vgl. <ref-ruling> E. 2). Der erst im bundesgerichtlichen Verfahren vorgelegte Brief des amtlichen Verteidigers vom 24. März 2021 ist zudem ein neues Vorbringen im Sinne von <ref-law> und deshalb unzulässig. Selbst wenn dieses als zulässig erachtet würde, wäre darin im Übrigen noch nicht ohne Weiteres ein Hinweis auf ein gestörtes Vertrauensverhältnis bzw. eine Pflichtverletzung zu sehen. Der amtliche Verteidiger schreibt in dem Brief, er erachte eine Beschwerde gegen zwei Herausgabeverfügungen als nicht sinnvoll, da die Geschädigten entsprechend ausgesagt hätten. Daraus geht hervor, dass der amtliche Verteidiger ein Rechtsmittel unabhängig von seinen Erfolgsaussichten als nicht zielführend ansah. Der Beschwerdeführer legt nicht dar, dass diese Auskunft unzutreffend gewesen wäre.
3.
Auf die Beschwerde ist deshalb nicht einzutreten.
Unter den gegebenen Umständen ist es gerechtfertigt, von der Erhebung von Gerichtskosten abzusehen (<ref-law>). Das Gesuch des Beschwerdeführers um unentgeltliche Prozessführung wird damit gegenstandslos (<ref-law>). Eine Parteientschädigung ist nicht zuzusprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Es werden keine Gerichtskosten erhoben.
3.
Es wird keine Parteientschädigung zugesprochen.
4.
Dieses Urteil wird den Parteien, der Staatsanwaltschaft See/Oberland und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 23. November 2021
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Chaix
Der Gerichtsschreiber: Dold