Ved finanslovforslagets først behandling oppstod det en konflikt mellem Højres representant Martin Madsen Halsted og Holstein, foranlediget ved dennes skarpe benektelse av at han, som av Højres ordfører i god tro påstått, hadde gjort dette partis tilslutning til forsvarsoverenskomsten til betingelse for å danne ministeriet. Konflikten munnet ut i et av Højre stilt forslag til en mistillitserklæring til konseilspresidenten, som ble vedtatt ved de radikales og sosialdemokraternes hjelp, og medførte hele ministeriets avgang.