Erwägungen:
1.
Mit Urteil vom 19. Dezember 2016 schied das Bezirksgericht Schwyz die Ehe der Parteien und regelte die Nebenfolgen der Scheidung. Der Beschwerdeführer erhob am 1. Februar 2017 Berufung an das Kantonsgericht Schwyz. Zudem ersuchte er um unentgeltliche Rechtspflege. Am 21. September 2017 beantragte er, die Beschwerdegegnerin zur Leistung eines Prozesskostenvorschusses zu verpflichten und ihm eventuell die unentgeltliche Rechtspflege zu gewähren. Mit Verfügung vom 7. Februar 2018 wies das Kantonsgericht das Gesuch um Leistung eines Prozesskostenvorschusses ab und bewilligte dem Beschwerdeführer die unentgeltliche Rechtspflege nicht. Es verpflichtete ihn zur Leistung eines Kostenvorschusses von Fr. 30'000.--. Die dagegen erhobene Beschwerde an das Bundesgericht blieb erfolglos (Urteil 5A_247/2018 vom 7. Mai 2018). Das Kantonsgericht setzte dem Beschwerdeführer am 23. Mai 2018 eine neue Zahlungsfrist und am 4. Juli 2018 eine Nachfrist (unter Androhung, dass im Unterlassungsfall auf das Rechtsmittel nicht eingetreten werde). Mit Verfügung vom 13. September 2018 trat das Kantonsgericht auf die Berufung (einschliesslich des Gesuchs um vorsorgliche Massnahmen) nicht ein, nachdem der Beschwerdeführer den Vorschuss binnen der Nachfrist nicht geleistet hatte.
Am 5. Oktober 2018 (Grenzübertritt der in Deutschland aufgegebenen Sendung) hat der Beschwerdeführer gegen diese Verfügung Beschwerde in Zivilsachen erhoben. Das Bundesgericht hat die Akten beigezogen, aber keine Vernehmlassungen eingeholt.
2.
Gegen den angefochtenen Entscheid steht die Beschwerde in Zivilsachen zur Verfügung (Art. 72 Abs. 1, Art. 74 Abs. 1 lit. b, Art. 75, Art. 90 BGG).
Nach Art. 42 Abs. 2 BGG ist in der Beschwerdebegründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die Begründung muss sachbezogen sein und sich auf den Streitgegenstand beziehen und beschränken; die beschwerdeführende Partei hat in gezielter Auseinandersetzung mit den für das Ergebnis des angefochtenen Entscheides massgeblichen Erwägungen plausibel aufzuzeigen, welche Rechte bzw. Rechtsnormen die Vorinstanz verletzt haben soll (<ref-ruling> E. 2 S. 88 f.; <ref-ruling> E. 2 S. 116).
3.
Der Beschwerdeführer macht geltend, er sei nicht in der Lage, einen Kostenvorschuss von Fr. 30'000.-- zu leisten, was er dem Kantonsgericht auch dargelegt habe. Er übergeht jedoch, dass sein Gesuch um unentgeltliche Rechtspflege abgewiesen worden ist (dazu Urteil 5A_247/2018 vom 7. Mai 2018). Dies ist nicht mehr Verfahrensthema und darauf kann nicht zurückgekommen werden. Die Anfechtung des Nichteintretensentscheids des Kantonsgerichts, der mit der Nichtbezahlung des Kostenvorschusses begründet worden ist, kann nicht dazu dienen, die Abweisung des Gesuchs um unentgeltliche Rechtspflege in Wiedererwägung zu ziehen. Der Beschwerdeführer macht auch nicht geltend, dass er beim Kantonsgericht ein neues Gesuch um unentgeltliche Rechtspflege aufgrund veränderter Umstände gestellt hätte, das übergangen worden wäre. Andere Gründe, weshalb der Nichteintretensentscheid des Kantonsgerichts rechtswidrig sein sollte, nennt der Beschwerdeführer nicht.
Die Beschwerde enthält somit offensichtlich keine hinreichende Begründung. Auf sie ist im vereinfachten Verfahren durch den Abteilungspräsidenten nicht einzutreten (Art. 108 Abs. 1 lit. b BGG).
4.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG). Wie die vorstehenden Erwägungen zeigen, war die Beschwerde von Anfang an aussichtslos. Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren ist deshalb abzuweisen (Art. 64 Abs. 1 BGG).

Demnach erkennt der Präsident:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien und dem Kantonsgericht Schwyz schriftlich mitgeteilt.
Lausanne, 23. Oktober 2018
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Der Gerichtsschreiber: Zingg