Στις 11 Νοεμβρίου 1918, τη μέρα της ανακωχής της Κομπιέν, ο Κάρολος δημοσίευσε διακήρυξη, σύμφωνα με την οποία αναγνώριζε το δικαίωμα των Αυστριακών να καθορίσουν τη μορφή διακυβέρνησης και παραιτούταν από κάθε συμμετοχή στη διοίκηση. Αναγκάστηκε επίσης να αποδεσμεύσει τους ευγενείς από τον όρκο που είχαν κάνει υπέρ του. Την επόμενη μέρα η Αυστρία κηρύχθηκε δημοκρατία, ενώ η Ουγγαρία ήδη από τις 30 Οκτωβρίου είχε αποκηρύξει την πίστη προς τον αυτοκράτορα. Ο ίδιος δεν παραιτήθηκε ποτέ από το δικαίωμα του στο θρόνο και διατήρησε τυπικά τον τίτλο αναχωρώντας με την οικογένειά του για την Ελβετία στις 23 Μαρτίου 1919. Τον Απρίλιο η Αυστρία με νόμο εκθρόνισε και εξόρισε τον Κάρολο, απαγορεύοντας την είσοδο στη χώρα και σε κάθε μέλος του οίκου των Αψβούργων που δε θα αποκήρυσσε τα δικαιώματα στο θρόνο. Με ενθάρρυνση από Ούγγρους μοναρχικούς ο Κάρολος επιχείρησε δύο φορές το 1921 να ξανακερδίσει τον θρόνο της Ουγγαρίας, αλλά απέτυχε, διότι ο Ούγγρος αντιβασιλιάς Μίκλος Χόρτι αρνήθηκε να τον υποστηρίξει. Την ίδια χρονιά το Ουγγρικό κοινοβούλιο εκθρόνισε οριστικά τη δυναστεία των Αψβούργων. Μετά την τελευταία απόπειρα να ξανακερδίσει τον θρόνο της Ουγγαρίας, ο Κάρολος με ολόκληρη την οικογένεια του εξορίστηκαν στην Πορτογαλική νήσο Μαδέρα, όπου πέθανε στις 1 Απριλίου 1922 από πνευμονία.