Erwägungen:
1.
Mit Verfügung vom 15. Juli 2021 erteilte das Bezirksgericht Schwyz der Beschwerdegegnerin gegenüber dem Beschwerdeführer in der Betreibung Nr. xxx des Betreibungsamtes Schwyz die definitive Rechtsöffnung für Fr. 18'990.-- nebst Zins.
Dagegen hat der Beschwerdeführer Beschwerde an das Kantonsgericht Schwyz erhoben. Mit Verfügung vom 2. August 2021 hat das Kantonsgericht dem Beschwerdeführer eine Frist bis 19. August 2021 angesetzt zur Bezahlung eines Gerichtskostenvorschusses von Fr. 750.--, wobei es unter Vorbehalt einer Nachfristansetzung angedroht hat, auf das Rechtsmittel im Unterlassungsfall nicht einzutreten.
Gegen diese Verfügung hat der Beschwerdeführer am 2. September 2021 (Postaufgabe) Beschwerde an das Bundesgericht erhoben.
2.
Bei der Ansetzung einer Frist zur Bezahlung eines Kostenvorschusses handelt es sich um einen Zwischenentscheid nach Art. 117 i.V.m. <ref-law>, der vor Bundesgericht nur eingeschränkt angefochten werden kann. Vorliegend ist erforderlich, dass er einen nicht wieder gutzumachenden Nachteil bewirken könnte (<ref-law>), was vom Beschwerdeführer darzulegen ist. Dazu müsste er aufzeigen, dass er finanziell nicht in der Lage ist, den verlangten Kostenvorschuss zu leisten und ihm der in Betracht fallende Nachteil (Nichteintretensentscheid aufgrund Nichtbezahlung des Kostenvorschusses) in der Folge tatsächlich drohen könnte (<ref-ruling> E. 2 S. 800 ff.).
In der Beschwerdeschrift findet sich folgende Zeile: "Grund: Beantragung von unentgeltlicher Rechtspflege". Die Tragweite dieser Zeile bleibt unklar. Der Beschwerdeführer macht nicht geltend, dass er vom Kantonsgericht die unentgeltliche Rechtspflege gewährt erhalten hätte. Er macht auch nicht geltend, dass das Kantonsgericht ein Gesuch um unentgeltliche Rechtspflege zu Unrecht abgewiesen hätte oder dass er vor Kantonsgericht ein solches Gesuch gestellt, das Kantonsgericht das Gesuch aber übergangen hätte. Der Beschwerdeführer kann auch nicht vor Bundesgericht erstmals um unentgeltliche Rechtspflege für das Verfahren vor dem Kantonsgericht ersuchen. Ein solches Gesuch ist vielmehr an das Kantonsgericht zu richten. Schliesslich legt er auch seine finanziellen Verhältnisse nicht dar. Insgesamt zeigt er somit nicht auf, dass er finanziell nicht in der Lage wäre, den Kostenvorschuss zu leisten. Im Übrigen macht er geltend, das Recht sei unrichtig angewendet worden, der Sachverhalt sei offensichtlich unrichtig festgestellt worden, der Termin für den Kostenvorschuss sei neu anzusetzen und er habe der Beschwerdegegnerin einen Vorschlag für einen Abzahlungsvertrag gemacht. All dies begründet keine Gefahr eines nicht wieder gutzumachenden Nachteils im Sinne von <ref-law>.
Die Beschwerde ist damit offensichtlich unzulässig. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (Art. 117 i.V.m. <ref-law>).
3.
Es rechtfertigt sich ausnahmsweise, auf die Erhebung von Gerichtskosten zu verzichten (<ref-law>). Das sinngemässe Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird damit gegenstandslos.

Demnach erkennt das präsidierende Mitglied:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird als gegenstandslos abgeschrieben.
3.
Es werden keine Gerichtskosten erhoben.
4.
Dieses Urteil wird den Parteien und dem Kantonsgericht Schwyz, Kantonsgerichtspräsident, schriftlich mitgeteilt.
Lausanne, 8. September 2021
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg