Ray Nottage och Claire Bath stödde tanken på att slå samman Dorsets nio råd till två enhetliga myndigheter.
Men för två veckor sedan röstade majoriteten av fullmäktiges medlemmar emot idén.
David Flagg valdes till ledare för rådet efter misstroendeomröstningen vid ett privat möte i den konservativa gruppen på måndag kväll.
Nottage sade: "Jag hade redan klargjort att jag inte skulle stå som ledare vid nästa årsstämma, och det fanns en meningsskiljaktighet i fråga om vad jag anser bör ske i en lokal regeringsrekonstruktion.
"Jag förlorade med en röst. Jag är oerhört besviken över att de inte har kunnat förstå konsekvenserna av omröstningen mot omorganisationen eftersom det är så uppenbart att servicenivåerna kommer att kollapsa med tsunamin av kostnader som kommer och den nuvarande finansiella situationen i länet.
"Jag tror att det finns en stor brist på förståelse för allvaret i den position vi befinner oss i här i Dorset."
I den föreslagna omorganisationen skulle Bournemouth, Poole och Christchurch förenas till en enda myndighet, och resten av länet skulle bilda ett andra enhetsråd.
Den två enhetliga planen förkastades av fullmäktigeledamöter i Christchurch, Purbeck och East Dorset, men ledare för de återstående sex råden som röstade för förslaget har skrivit till regeringen för att uttrycka sitt stöd för idén.
Öst Dorset-ledaren Spencer Flower har skrivit till regeringen och uppmanat den att inte tvinga igenom sammanslagningen.
Christchurch Borough Councils ledare och ställföreträdare har blivit utkastade av sina kolleger efter ett misstroendevotum.